築城年は定かではないが、尾野神社の別当であった尾野山正斎坊に築かれたとされる。永禄年間(1558～69年)に織田信長によって落城し、その後、一説には渡辺(建部)掃部介が居城して信長の幕下になったとされる。
　尾野神社の西の丘陵(標高24ｍ,比高18ｍ)、尾野山古墳の後円部に築かれていた。現在は雑木林となり、堀切もしくは土塁らしき地形が残されている。
　なお、尾野山城跡の南側、古墳の前方部側には、同じく織田勢に滅ぼされた白山ヶ鼻城跡(現･大成小学校敷地)がある。