築城年代は不明だが、南北朝期には池田頼忠が城主を務め、永正年間(1504～20年)には花井備中守や水野為善とその息子の忠守が居城と伝えられている(異説あり)。天文年間(1532～54年)には水野氏は織田信秀の支配下にあった。1548(天文17)年、今川義元の命で野々山政兼がこの城を攻めたが、落とすことができず政兼は戦死する。しかし、信秀の死後、息子の信長から離反した鳴海城主山口教継の調略で、大高城は今川方の手に落ちた。この脅威に対して信長は、丸根砦,鷲津砦を築き、大高城に圧力を加えた。1559(永禄2)年、朝比奈輝勝が義元の命をうけ大高城の守りに入る。
　翌1560(永禄3)年には、大高城の包囲を破りそのまま鵜殿長照が守備についた。5月18日夜、大高城に松平元康が兵糧を届け、長照に代わり元康が城の守備についたが、義元の死を確認した元康は岡崎城に引き下がったため、大高城は再び織田家の城となった(桶狭間の戦い)。まもなく廃城となったが、尾張藩家老の志水家が、1616(元和2)年にここに館を設けてから代々住むようになったが、その館も1870(明治3)年に売却された。
　大きく5つの曲輪から成り、西から南にかけて空堀が巡る。また、それに架かる土橋も残されている。本丸には城山八幡社が祀られている。