963(応和3)年9月、源満仲が現社地に父･経基の墓所を建立し、その前に社殿を造営したのが創建であるとされる。本殿後方に現在も残る石の基壇は、経基の廟であると伝わる。多田神社(兵庫県川西市)，壺井八幡宮(大阪府羽曳野市)とともに｢源氏三神社｣の1つとされる。
　清和源氏始祖の源経基(経基王)は清和天皇第六皇子の貞純親王の子で、天皇の孫であることから「六孫王」と称される。社伝では、境内は源経基の邸宅｢八条亭｣の跡地であるといい、961(応和元)年に経基が臨終の際に｢死後は龍神となって邸内の池に住んで子孫の繁栄を祈るから、この地に葬るように｣と遺言したという。
　源経基亡き後、当地は清和源氏発祥の地として摂津源氏，多田源氏によって伝領され、源頼政の時代に平清盛に譲られて一時は西八条第の一部となったが、経基の墓と神祠は残され、平家の没落後は、その故地は源頼朝に与えられた。鎌倉時代には、暗殺された源実朝の菩提を弔うため、妻の本覚尼がこの地に遍照心院(大通寺、通称は尼寺)を建立し、当社はその鎮守社とされたという。その後は戦乱などにより社殿を失い、経基の墓所だけが残されたとも伝える。
　1700(元禄13)年からは、江戸幕府により社殿の再興が進められた。社の再建を悲願とした遍照心院の南谷上人が徳川光圀に働き掛け、清和源氏の宗家を自認する徳川将軍家を動かした。本殿，拝殿，廻廊，唐門は1701(元禄14)年に再建され、1707(宝永4)年までに完了し、その社殿が現在まで伝わっている。
　その後は江戸幕府の滅亡とともに衰微し、また神仏分離により塔頭7ヶ寺を数えた大通寺とも分離した。大通寺は1911(明治44)年にその境内地が国鉄東海道本線の鉄道用地となったために境内地を売却し、移転を余儀なくされた。さらに、1964(昭和39)年には、当社境内が東海道新幹線の用地となったため、再び買収され縮小された。