社伝によれば、白鳳年間(650〜654年、または672〜685年)に役行者により金峯山寺の僧坊･吉水院として建立されたと伝えられる。
　1185(文治元)年12月には源頼朝に追われた源義経，武蔵坊弁慶や静御前などが5日間吉水院に身を潜めている。
　1336(延元元年/建武3)年の暮れ、吉野に潜幸した後醍醐天皇は最初に吉水院の宗信法印の援護を受けて吉水院に入り、一時居所とした。後醍醐天皇の崩御の後、後村上天皇が後醍醐天皇の像を作って吉水院に奉安している。
　1594(文禄3)年には豊臣秀吉が行った吉野の花見の際には吉水院はその本陣とされ、5日間滞在している。現在も残る名勝の庭園は、その際に秀吉自らが造ったものであるという。
　明治時代に入ると、神仏分離令と国家神道化の観点から天皇を仏式で供養することが問題視され、1871(明治4)年5月に五条県が吉水院を神社に改めて｢吉野神社｣とする案が太政官政府に提出されたが、後醍醐天皇を祀る神社を別に造ることを計画していた政府はこの案を却下した。しかし、金峯山寺の廃止が迫る情勢となったことから、奈良県が神社への改組を働きかけ、1874(明治7)年12月17日に吉水院は後醍醐天皇社の名で神社になることが太政官に承認され、1875(明治8)年2月25日、社名を｢吉水神社｣に改称し、併せて南朝方の忠臣であった楠木正成，吉水院宗信法印を配祀した。
　2001(平成13)年に勝手神社が焼失した際には、本殿に祭神が仮遷座された(2025年には勝手神社の新本殿に復祀)。
　本殿はもとは吉水院護摩堂である。重要文化財の書院は日本最古の書院とされ、初期書院造りの傑作といわれる。後醍醐天皇の玉座の間や源義経が潜居したと伝えられる間がある。
　また、神社境内からは中千本･上千本の桜が見渡せる｢一目千本｣が広がっている。