築城年は定かではないが、松平宗家6代･松平信忠の次男･松平信孝が築城し、三木城へ移るまでの居城としたとされる。信忠は、宗家7代となる松平清康に安祥城を与え、次男の信孝に合歓木城、3男の康孝には三木城を与え、それぞれを領有させた。しかし、三木城の康孝は1542(天文11)年に嫡子無く早世したため、信孝が三木城を横領し合歓木城から移り住んで三木松平家の祖となった。その後、合歓木城は松平金之助の居城になったという。
　1535(天文4)年、松平宗家7代･清康が守山崩れで没した後、信孝は松平宗家を脅かす存在となるが、1548(天文17)年に耳取縄手の戦いで宗家8代･松平広忠軍の矢に当り戦死した。合歓木城は、このとき、もしくは1590(天正18)年の徳川家康の関東移封の際に廃城になったと考えられる。
　城跡は神明社とその東側一帯辺りとされるが、現在は住宅,畑地に変わり、遺構は残されていない。
　なお、神明社の北東角に建てられた石碑は、合歓木城主･若狭守正道の末裔で帝國教育会長であった辻新次(通称を霞舟)の功績が書かれたものである。