天文年間(1532～54年)に小栗信濃守重則が築城した。この城を築く以前には隣接する権現山に権現山城を構えていたが、度重なる戦いに備え、より防御の堅いこの地に城を移築したとされる。
　1552(天文21)年、土岐高山城の高山伊賀守が死去すると、攻略を目論んだ小栗重則の軍勢は勢い城に攻め入ったが形勢不利となり、逆に土岐郡小里城の武将小里光忠と恵那郡明知城の武将遠山景行、そして武田信玄の命を受けた平井光行,頼母の親子の軍勢に攻め込まれ、御嵩城は落城し城主小栗信濃守は自害し、配下の者も四散した。この時、20歳になる重則の娘も果敢に防戦したが、敗北と父の死の知らせに直面すると、己の操を守り通すために、城の北側の断崖絶壁より身を投じて自害したという伝説も残る。自害したとされる場所は「甘ヶ平」と呼ばれ今に伝わる。
　その後、子の小栗教久が御嵩城主となり、同年、明智氏の一族とされる土岐定政(明智定政)を攻撃したともいわれる。教久は織田信長に協力し、1565(永禄8)年には、鳥峰(金山)城主・森可成の配下として東美濃の攻略に協力している。そのため、武田勢は近くに小原城を築いて、御嵩城を牽制した。また、1574(天正2)年、明知城の救援に向かった織田信長,信忠の親子が御嵩城に宿泊している。そして、1599(慶長4)年、金山城主の森忠政が信濃川中島へ移封されると、金山城とともに御嵩城も廃城になったと考えられている。
　本陣山の地形は東西が峻険な斜面となり、北は可児川と面した崖という地理的環境にあり、自然の要害として城を築くには最適地であった。城本来の規模は今に至っては明確ではないが、本丸,二の丸,三の丸の各曲輪、これらを区切り更に防御の施設となる空堀、そして本丸などの施設を設けた山頂部より枝城に延びた尾根上には、人工的に造り出された小平地の帯曲輪,腰曲輪,物見などが広範囲に設けられていたようである。現在は城址公園となっており、遺構は削り取られ、本丸跡と二ノ丸跡がかろうじて山頂部に残っているのみである。