1537(天文6)年、織田信康(信長の叔父)が前身となる岩倉織田氏･織田広近の砦に木ノ下城より城郭を移して築いたとされる。木曽川沿いの小高い山の上に建てられた後堅固の城で、中山道と木曽街道に通じ、木曽川による交易,政治,経済の要衝として、戦国時代を通じて重要な拠点となった。
　1547(天文16)年、織田信秀が稲葉山城攻めに出陣した信康が死去し、その子･織田信清が城主となったが、織田信長に反抗したため攻められ、池田恒興が入城した。
　1584(天正12)年に起きた小牧長久手の戦いでは、当時の犬山城主は織田信雄家臣の中川定成であったが、伊勢へ行って不在の間に池田恒興が木曽川をわたり城内に侵入し落城させた。後に秀吉も入城している。戦後、犬山城は織田信雄に返還された。その後、犬山城主はめまぐるしく変わったが、1595(文禄4)年に秀吉の家臣･石川光吉が城主に、1600(慶長5)年の関ヶ原の合戦後は家康側の小笠原吉次が入城した。
　そして、1617(元和3)年、尾張徳川家の重臣･成瀬正成が城主となる。この時期に現在の天守の姿ができたといわれている。以後、成瀬氏9代が幕末まで城主を務めることになる。
　1871(明治4)年の廃藩置県で愛知県の所有となり、天守以外のほとんどの建物が取り壊された。天守は1891(明治24)年の濃尾大地震によって半壊したが、修理を条件として県から旧藩主の成瀬家に譲与され、成瀬家と犬山町民が義援金を募って無事修復された。全国唯一の個人所有の城として保存されてきたが、2004(平成16)年に｢財団法人犬山城白帝文庫｣の所有となって現在にいたっている。