社伝では、第12代･景行天皇の時に東国平定に赴いた日本武尊が当地で戦勝を祈願し、平定後の帰途に感謝して建国祖神である鸕鶿草葺不合尊(主神)，彦火火出見尊，玉依比売命，神日本磐余彦尊の4柱を祀ったのが創建という。一方、第14代仲哀天皇元年の創建とする説もある。当初の鎮座地は東へ約1kmの山町の高地であり、一時、上重原を経て、現在地に移っている。
　国史では、知立神(智立神)の神階は、876(貞観18)年時点では従四位上、砥鹿神(愛知県豊川市の砥鹿神社：三河国一宮)とともに三河国内では最高位になる。927(延長5)年成立の『延喜式』神名帳では参河国碧海郡に｢知立神社｣と記載され、式内社に列している。さらに、1301(正安3)年頃には社蔵扁額や書写本から正一位の極位に達していたとされる。
　江戸時代まで当社を氏神として祀っていた永見氏一族の『永見氏家譜』によれば、饒速日尊後裔で知波屋見命(知波夜命:初代三河国造)15世孫の三河連貞連が、673?(白鳳2)年に天武天皇の勅命により知立神主になったという。
　中世には水野氏の崇敬を受け、1471(文明3)年3月に水野直守が社殿を修造し、1526(大永6)年には水野忠政も修理を行ったが、1547(天文16)年の兵火で焼失し、重原に遷座した。1571(元亀2)年にはさらに現在地に遷座し、水野信光から社殿修造と社領10石の寄進があったという。
　江戸時代に入り、寛文年間(1661～72年)には松平忠房から社領として10石が追加寄進された。江戸時代には主に｢池鯉鮒大明神｣として知られ、｢東海道三社｣(三嶋大社･知立神社・熱田神宮)の1つにも挙げられ、近隣20数ヶ村の産土神として、また蝮除け･長虫除け･雨乞･安産の神として信仰された。境内には、本殿，幣殿，拝殿(国登録有形文化財)のほか、神宮寺の遺構を伝える全国でも珍しい多宝塔(国重要文化財)，花崗岩製の太鼓橋である石橋(市指定文化財)などがある。