創建時期については定かではないが、『大和国當麻寺縁起』によれば、厩戸皇子の異母弟の麻呂子王により612年に救世観音を本尊とする万宝蔵院(万法蔵院)として河内国に創建され、その後、673年に役行者から寺地(現寺域)の寄進を受け、687年に壬申の乱に功績のあった当麻国見(麻呂子王の孫)によって寺名を當麻寺として遷造されたとする。ただ、現在地に移築される前身寺院の所在地については、味曽地(當麻寺の南方)とする説や河内国山田郷(交野郡山田あるいは南河内郡太子町山田)とする史料もある。
　奈良時代から平安時代にかけての寺史は、史料が乏しく詳しいことはわかっていない。現存する本堂(曼荼羅堂)は棟木墨書から1161(永暦2)年の建立と判明するが、解体修理時の調査の結果、この堂は奈良時代に建てられた前身建物の部材を再用していることがわかっている。また。寺に伝わる当麻曼荼羅は、763(天平宝字7)年に作られたとされている。当初は三論宗の寺院であったが、823(弘仁14)年に空海が當麻寺を訪れて曼荼羅を拝して以降、當麻寺は真言宗寺院となったという伝えがある。當麻出身の恵心僧都源信が1005(寛弘2)年に当寺で迎講を行っており、これがやがて現在の聖衆来迎練供養会式となっていった。
　平安時代末期の末法思想の普及に伴って、来世に阿弥陀如来の西方極楽浄土に生まれ変わろうとする信仰が広がり、當麻寺は阿弥陀如来の浄土を描いた当麻曼荼羅を安置する寺として信仰を集めるようになる。
　1181(治承4)年12月28日、平重衡の南都焼討により、興福寺と関係の深かった當麻寺も焼き討ちの被害に遭い、東西両塔などは残ったが、金堂や講堂などを焼失した。
　1370(応安3)年、京都知恩院12世の誓阿普観が当寺の境内に往生院(現･奥院)を創建し、それ以後は真言宗と浄土宗の二宗兼学の寺院となった。
　江戸時代の宝暦年間(1751～64年)、真言宗僧のみで行われていた曼荼羅堂の法会参集に浄土宗僧の参加が認められるようになった。この頃には31の子院があったが、現在は13の子院が残る。
　當麻寺は、中世以降は中将姫伝説と当麻曼荼羅の寺として知られるようになる。右大臣藤原豊成の娘･中将姫(当初は横佩大納言の娘としかない)が、意地悪な継母から執拗ないじめを受け、無実の罪で殺されかけるが、姫の殺害を命じられていた藤原豊成家の従者は姫を殺すことができず｢ひばり山｣というところに置き去りにしてきた。その後、改心した豊成と再会した中将姫は當麻寺で出家し、ひたすら極楽往生を願い、姫が五色の蓮糸を用い一夜にして織り上げたのが、当麻曼荼羅とされる。姫が蓮の茎から取った糸を五色に染めた井戸が石光寺に残る｢染の井｣がその井戸である。姫が29歳の時、生身の阿弥陀仏と二十五菩薩が現れ、姫は西方極楽浄土へと旅立ったとされる。中将姫の伝承は中世から近世にかけてさまざまに脚色されて、能,浄瑠璃,歌舞伎などにも取り上げられるようになった。
　建造物では、本堂,西塔,東塔が国宝、金堂,講堂,薬師堂が重文に指定されている。本堂(曼荼羅堂)は寄棟造、本瓦葺。桁行7間,梁間6間で梁行6間のうち、奥の3間を内陣、手前の3間を礼堂とし、内陣は須弥壇上に高さ約5mの厨子(国宝)を置き、本尊の当麻曼荼羅を安置する。昭和の解体修理時、棟木に1161(永暦2)年の墨書が発見され、平安時代末期の建築であることがわかった。
　東塔は三重塔で、総高(相輪含む)24.4m。細部の様式等から、奈良時代末期の建築と推定される。二重,三重を2間としており、柱間を偶数として、中央に柱が来るのは異例である。日本の古塔で二重目の柱間を3間でなく2間とするのは當麻寺東塔のみである。屋根上の相輪も一般の塔では九輪であるが、本塔では八輪になっている。西塔も三重塔で、総高(相輪含む)は東塔よりやや高い25.2m。様式からみて、平安時代初期の建築と推定される。西塔の柱間は初重から三重まで3間とするが、屋根上の相輪が八輪になっている点は東塔と同様である。
　講堂は寄棟造の本瓦葺で桁行7間,梁間4間。野垂木の墨書により1303(乾元2)年の再建であることが知られる。堂内は梁行4間のうち中央の2間分に板床を張り、本尊阿弥陀如来坐像、もう1体の阿弥陀如来坐像、妙幢菩薩立像、地蔵菩薩立像のほか、多くの仏像を安置する。
　奥院は浄土宗の子院で1370(応安3)年に知恩院12世の誓阿普観が知恩院の本尊であった法然上人像を遷座し、本尊として創建したもので、当初は往生院と称した。当院は知恩院の奥の院とされ、近世以降は当麻奥院と称された。奥院本堂,大方丈,鐘楼門が重文であり､いずれも江戸時代前期の建立である。