創建年は定かではないが、社殿によれば、『延喜式神名帳』にある｢愛智郡針名神社｣とされ、10世紀初頭以前の創建であるとされる。主祭神の尾治針名根連命は、父の尾綱根命とともに犬山市の針綱神社にも祀られている。配神として、大巳貴命(大国主命)と少彦名神を祀っている。なお1909(明治42)年には応神天皇の祭神とする八幡神を合祀している。
　元は現在地より約800m北、天白川左岸の元郷に祀られていたが、慶長年間(1612年頃)に名古屋城が築城されたのに伴い、徳川家康の駿府城と名古屋城を結ぶ駿河街道が整備されたとき、家康によって平針宿を作るよう命じられ、平針集落とともに神社も現在地に移された。
　一方、『延喜式』の｢愛智郡針名神社｣は名古屋市中村区の烏森天神社とみる説もある。当針名神社の所在は山田郡であって愛智郡ではないからである。いずれも疑問点は残り、はっきりしたことはわからない。