1201(建仁元)年、二階堂行政が稲葉山に砦を築いたのが始まりとされる。続いて行政の娘婿・伊賀朝光、その子伊賀光宗、光宗の弟・安藤光資が砦の主となり支配が、二階堂行藤の死後、廃城となった。
　15世紀中頃、美濃守護代の斎藤利永が、この城を修復して居城とする。
　1525(大永5)年、斎藤氏家臣の長井長弘と長井新左衛門尉が謀反を起こして稲葉山城を攻撃し長井氏の支配下となる。1533(天文2)年には、新左衛門尉の子、長井新九郎規秀(斎藤利政,後の斎藤道三)が城主となり、稲葉山山頂に城造りを始める。その後、守護の土岐頼芸を追放し、1554(天文23)年には城と家督を嫡子の斎藤義龍に譲り鷺山城へと移り剃髪して道三と号したが、1556(弘治2)年4月に長良川の戦いで義龍に討ち取られてしまう。
　1567(永禄10)年、かねてから美濃攻略を狙っていた織田信長が西美濃三人衆の内応により稲葉山城下に侵攻し、本拠地を小牧山城から稲葉山に移転し、古代中国で周王朝の文王が岐山によって天下を平定したのに因んで、城と町の名を｢岐阜｣と改めた。この頃から信長は｢天下布武｣の朱印を用いるようになり、本格的に天下統一を目指すようになった。1576(天正4)年には信長は嫡子織田信忠に岐阜城城主と家督を譲り、信忠は岐阜城の整備改修を更に進めた。
　本能寺の変の後、城主は留守居であった斎藤利堯、織田信孝と続くが、1583(天正11)年5月に池田恒興が美濃国にて13万石を拝し大垣城主となると、子の池田元助が岐阜城主となる。その池田恒興と元助親子が小牧長久手の戦いで討死すると、恒興の次男・池田輝政の居城となる。その後、豊臣秀勝が岐阜城城主となるが、関ヶ原の戦いの頃には織田秀信(幼名・三法師)が美濃国岐阜13万石を領有する岐阜城城主となっていた。秀信は、石田三成の挙兵に呼応し西軍につき、関ヶ原の戦いの前哨戦では岐阜城に立てこもるが、福島正則や池田輝政らに攻められて落城している。
　1601(慶長6)年、徳川家康は戦後処理として岐阜城を廃城とし、天守,櫓の建材および石垣などを再利用して加納城を築城し、奥平信昌に10万石を与えて入城させた。
　岐阜城は急峻な山容の金華山から難攻不落の名城として知られているが、歴史上5回の落城にあっている。山頂部は尾根を切り開いたり石垣で郭を造成してはあるが、基本的に平坦面は少ない構造となっている。またチャートの堅い岩盤のため井戸を掘っても水は出ず、籠城には不向きであった。山頂への道は、七曲口(大手道)のほか百曲口,馬の背口,水の手口などいくつか存在した。