築城年代は定かではないが、戦国時代に蔵人浄盤なる人物が築城したとされる。その後、加藤順盛の子で織田信長の小姓であった加藤弥三郎が城主となったが、1560(永禄3)年の桶狭間の戦いで討死した。3代目の城主として御器所西城の佐久間信盛が一時居城したが、1580(天正8)年に信長に追放されたことで山崎城も廃城となった。
　城の規模は東西約45m,南北約56mで南側に大手を配し三方は鋭い崖となっており、現在、北西から南東に走る名鉄名古屋本線はかつては堀跡だったという。城跡には宝珠山安泰寺が建てられている。