創建時期は定かではないが、寺伝によれば、736(天平8)年に大和の長谷寺の開基である徳道上人を藤原房前が招請し、十一面観音像を本尊として開山したという。この十一面観音像は、大和長谷寺の十一面観音像と同木から造られたとされる。すなわち、721(養老5)年に徳道は楠の大木から2体の十一面観音を造り、その1体を大和長谷寺の本尊とし、もう1体を祈請の上で海に流したところ、15年後に相模国の三浦半島に流れ着き、そちらを鎌倉に安置して開いたのが、鎌倉の長谷寺であるとされる。
　梵鐘の1264(文永元)年の銘文のほかに、1262(弘長2)年1308(徳治3)年銘の板碑,1326(嘉暦元)年銘の懸仏などがあり、鎌倉時代には長谷寺が存在していたことは明らかである。
　その後、歴代の権力者たちが伽藍や本尊の修造を行っている。1342(康永元)年には足利尊氏が伽藍と諸像の修復を行った。1392(明徳3)年には、足利義満が観音像の光背を修復し、行基の作という伝承のある像を前立として安置した。1547(天文16)年に北条氏康の寄進を受け、1591(天正19）年、徳川家康から朱印状を受ける。1607(慶長12)年には徳川家康が堂塔伽藍を改修し、このとき当時の住持玉誉春宗を中興開山として浄土宗に改宗している。1645(正保2)年にも酒井忠勝が堂宇を改修している。
　太平洋戦争終戦直後に、金戒光明寺,知恩院という浄土宗の二大本山が浄土宗から独立した混乱期に、浄土宗から独立し単立となった。