築城年は定かではないが、正暦年間(990〜995年)に瀬戸道明寺が初めて城を構えたのが始まりとされる。鎌倉時代の文治･建久年間(1185～1199年)に守護職の土岐光衡･光行が南濃の要地として城を築き、土岐家歴代の家臣が守将となった。
　1542(天文11)年、斎藤道三の家臣･髙木貞政に攻略され、この時より高木氏が居城したとの伝承がある。なお、永正年間(1504〜21年)に貞政の伯父･高木貞成が美濃守護･土岐氏に従って城を築いたとする説もある。
　1564(永禄7)年、織田信長が斎藤龍興を滅ぼし西美濃攻略を進めると、高木貞久は織田氏に従った。1567(永禄10)年、貞久は次男･貞利へ駒野城を譲り今尾城主となり、1568(同11)年には弟･貞秀に譲っている。1579(天正7)年、貞秀は庭田城へ入り、弟･貞友に駒野城を譲った。
　信長没後、高木貞友は徳川家康の家臣となり、1584(天正12)年には小牧･長久手の戦いで、羽柴秀吉は筒井順慶，小川左馬介の大軍を差し向けて攻略にかかったが、駒野城は勘解由左衛門を先鋒としてよく耐えて守り抜き、城は落ちなかった。しかし、戦後、秀吉の天下になると、髙木一族は美濃を退去した。
　1600(慶長5)年、関ヶ原の戦いに先立ち、石田三成がこの地を巡察し、桑名より大垣への守りのために塁壁の構築を命じた。しかし、8月19日、松ノ木城主・徳永寿昌は高須城を落とした勢いで、高木盛兼の一族や池田伊予守秀氏が籠る駒野城を攻め、本戦の敗戦翌日である9月16日に開城させた。開城には東軍に属していた同族の高木氏が説得した。その後、廃城となる。
　城は標高30mほどの舟岡山と称された小丘に築かれ、現在の海津市立城山小学校の校舎北側に本丸があり、東･西･南を土塁が囲んでいた。二の丸の一部も残されている。