1894年三重県に生まれる。本名は平井太郎。
筆名は推理小説の祖といわれる米国の文豪エドガ−・アラン・ポーをもじったもの。早稲田大学政治経済学部卒。
1923年『新青年』に掲載された『ニ銭銅貨』でデビュー。 初期は欧米の探偵小説に強い影響を受けた本格探偵小説を送り出し、黎明期の日本探偵小説界に大きな足跡を残した。
一方で草双紙や少年愛、サディズム、グロテスク趣味、少女愛などへの志向も強く、 これを活かした通俗的探偵小説は昭和初年以降当時の一般大衆に歓迎されたが、反面本格作品執筆の意欲は衰えた。
海外作品にも通じ、翻案性の高い作品として『緑衣の鬼』『三角館の恐怖』『幽鬼の塔』等がある。 また少年向けに、明智と小林少年をはじめとする少年探偵団が活躍する作品（『怪人ニ十面相』等）を多数発表した。 その他、探偵小説に関する評論（『幻影城』等）でも知られる。
探偵小説を「本格」と「変格」に分けたのは彼が最初である。
戦後の創作は低調だったが、評論による啓蒙や、日本推理作家協会の設立に携わるなど多大な業績を残した。多くの作中で活躍する探偵・明智小五郎は有名。
1965（昭和40）年脳出血のため自宅にて逝去。享年70歳。