680(天武天皇9)年11月、天武天皇の皇后である鵜野讃良(後の持統天皇)の病気平癒を願って本寺院の造営を誓願したことに始まる。当の鵜野讃良は薬師寺の完成を待つことなくして回復し、その後も薬師寺の造営は進められ、天武天皇は寺の完成を見ずに686(朱鳥元)年に没したが、688(持統天皇2)年頃には寺院としての形を成し、698(文武天皇2)年には寺の造営がほぼ完成し、僧を住まわせている。本尊は薬師三尊。南都七大寺の一つ。
　710(和銅3)年に藤原京から平城京へと遷都されたことに伴い、薬師寺も718(養老2)年に伽藍が平城京へ移されるなど、着々と移転が進められていた。その一方、薬師寺のすべてが移転されたわけではなく、飛鳥の薬師寺の一部は｢本薬師寺｣と名付けられ、12世紀にまでその地に残り続けた。本薬師寺跡には金堂･東塔の礎石，西塔の心礎が残っている。本薬師寺の伽藍配置は｢薬師寺式伽藍配置｣と称されるもので、平城薬師寺においても踏襲されている。すなわち、中央に金堂、その手前に中門、背後に講堂を配し、金堂の手前東西に塔を置く。そして、中門左右から出た回廊が講堂の左右に達し、金堂，東西両塔は回廊で囲まれている。両伽藍の建物の規模，位置関係などはほぼ等しく、本薬師寺の伽藍を平城京でもに再現している。ただし、平城薬師寺では中門の規模が拡大され、回廊も幅が広げられている。
　平城京の薬師寺は973(天禄4)年の火災によって、金堂，東塔，西塔を残し、講堂，僧坊，南大門など多くの建物が焼失した。発掘調査によって、西僧坊の跡地からは僧たちが使用していたとみられる奈良時代や、中国の唐時代の陶磁器が多数出土している。
　1528(享禄元)年9月7日には、興福寺の衆徒･筒井順興による兵火で東塔や東院堂を残し全山焼失した。現在、奈良時代の建物は東塔を残すのみである。金堂は、1600(慶長5)年に郡山城主･増田長盛によって再建され、大講堂は1852(嘉永5)年に再建された。
　1967(昭和42)年、高田好胤が管主に就任すると、翌1968(昭和43)年から百万巻お写経勧進による白鳳伽藍復興事業が開始された。これにより、1976(昭和51)年に金堂が再建されたのを始め、西塔，中門，東西回廊の一部，大講堂，食堂が再建された。
　東塔(国宝)は、730(天平2)年に平城京にて新築され、現在寺に残る建築のうち、奈良時代に遡る唯一のものである。総高34.1m(相輪含む)で、一見、六重の塔に見えるが、下から1･3･5番目の屋根は裳階であり、構造的には三重の塔である。仏塔建築としては他に類例のない意匠を示す。塔の先端部の相輪にある青銅製の水煙には飛天像が透かし彫りされており、奈良時代の高い工芸技術を現代に伝えている。また、相輪の中心部の柱の最下部には｢東塔檫銘｣と称される銘文が刻まれており、薬師寺の創建と本尊造立の趣旨が漢文で記されている。
　金堂(1976年再建)には奈良時代仏教彫刻の最高傑作の一つとされる本尊･薬師三尊像(国宝)を祀る。中尊は薬師如来(254.7cm高)、左脇侍(向かって右)に日光菩薩(317.3cm高)、右脇侍に月光菩薩(315.3cm高)を配している。中尊像は男性的な堂々たる像容を表し、両脇侍像は首と腰を軽くひねり、頭部，上半身，下半身がそれぞれ異なった角度を表す｢三曲法｣と呼ばれるポーズを示す。
　東院堂(国宝･1285年再建)は境内の東側、回廊の外に建つ。元明上皇の冥福を祈るために娘の吉備内親王が養老年間(717～724年)に建立した東禅院が前身で、堂内の厨子に本尊の聖観音立像(国宝)を安置する。
　主要伽藍の北側には玄奘三蔵院伽藍、また、南側には896(寛平8)年に創建された休ヶ岡八幡宮が、明治時代の神仏分離後も独立せず、現在も薬師寺の鎮守社であり続けている。