別名を霞ヶ城という。1576(天正4)年、柴田勝家の甥である柴田勝豊により築城され、それまでの豊原寺城から当城に移った。1582(天正10)年、本能寺の変の後の清洲会議により勝豊は近江国長浜城に移され、代わって安井家清を城代として置いた。
　1583(天正11)年、柴田勝家が豊臣秀吉によって北ノ庄城で滅ぼされると、この地は丹羽長秀の所領となり、長秀は丸岡城主として青山宗勝を置いた。関ヶ原の戦い後は、西軍方についた青山氏は改易され、越前国には徳川家康の次男･結城秀康が入封し、丸岡城には秀康家臣の今村盛次が入城した。盛次が越前騒動に連座し失脚すると本多成重が4万3千石で新たな城主となった。1624(寛永元)年に福井藩2代目の松平忠直が不行跡を理由に豊後配流となると同時に、本多成重は福井藩より独立して大名に列し丸岡藩が成立した。しかし、1695(元禄8)年、4代･重益のとき丸岡藩でお家騒動が起こり、幕府の裁定により本多家は改易。代わって越後国糸魚川藩より入城した有馬清純以後、有馬氏丸岡藩6代の居城となり明治維新を迎えた。
　1871(明治4)年、廃藩置県により廃城となり天守以外は全て解体破棄されたが、残された天守は丸岡町(当時)により買い戻され解体を免れ、城跡は公園となっている(北陸地方で現存する天守は丸岡城のみ)。
　大入母屋の上に廻り縁のある小さな望楼を載せた天守は寛永年間(1624～44年)に建造されたもので、その際、最上階の窓の造りが引き戸から突き上げ窓(蔀戸)に改変されている。現在見られる天守は、1948(昭和23)年の福井地震によって倒壊した後、部材を70%以上再利用して組み直して修復再建されたものである。
　なお、柴田勝豊による築城の際、天守台の石垣が何度も崩れて工事が進行しなかったため人柱を立てることとなり、城下に住む貧しい片目の未亡人･お静が息子を士分に取り立てることを条件に人柱となることを申し出た。お静は人柱となって土中に埋められ天守の工事は無事完了したが、勝豊がほどなく移封となったため、息子を士分にする約束は果たされなかった。その後、それを怨んだお静の霊が大雨を降らせた(お静の涙雨)という伝説が生まれ、城内にはお静の慰霊碑が建てられている。