1537(天文6)年、斎藤道三の命令で近辺の14諸将の協力を得て猶子の斎藤正義によって築かれた鳥峰城が始まりである。正義は東美濃に勢力を伸ばして苗木城の遠山氏,加茂堂洞城の岸氏,加治田城の佐藤氏,久々利城の久々利氏らを配下としたが、1548(天文17)年、久々利城にて久々利悪五郎頼興によって謀殺された。
　1565(永禄8)年、織田信長は東美濃に侵攻して森可成を城主とする。後を継いだ長可は織田信忠に従って信濃へ侵攻し、武田勝頼が滅亡すると信濃四郡を加封されて信濃国海津城へ入城したが、本能寺の変で織田信長が横死すると金山城へ帰還した。
　森長可はその後、反抗する東濃諸国の武将たちを武力で抑えたが、1584(天正12)年の小牧長久手の合戦で討死し、末弟の森忠政が家督を継いだ。1600(慶長5)年、森忠政が信濃国川中島へ転封となり、次に入った石川貞清は建物を解体し自らの居城である犬山城の改修に使ったことで、金山城は廃城となった。
　金山城は木曾川南岸に聳える標高280mの古城山の山頂に築かれている。天守台を山頂に配置し、本丸を中心に西下に二の丸、北西下に三の丸、さらに西下に出丸、東に東腰曲輪、南東に左近屋敷といった曲輪群があり、多くの曲輪には石垣が用いられている。搦手側の左近屋敷は森氏の重臣細野左近に由来する名称と考えられている。
　山頂部には、北側に天守を設け、隣接して南東側に小天守、さらに小天守の南西側に袖櫓が隣接していた。そして、中央部に本丸御殿、南西側に西南隅櫓を設けていた。二の丸は南腰曲輪の南側に位置する郭で家臣団の屋敷(侍屋敷)が設けられ、南側に見張櫓、北側に二の丸門があった。三の丸は西腰曲輪の南側に位置している郭で、厩などがあったと考えられており、中央部に見張櫓、南側に三の丸門が設けられていた。また、出丸は第一防衛線のため大手口に築かれ、城内で唯一独立した曲輪であり、規模は東西約50m,南北約43mと城内で最も広い。