1459(長禄3)年、織田広近によって築城され、大久地城,箭筈城とも呼ばれている。1469(文明元)年には美濃の勢力に備えて新たに木ノ下城(犬山城の前身とされる)を築き移ったが、1475(文明7)年に息子の寛近に家督を譲って小口に戻り、出家し小口城の近くに徳林寺を再興、さらに隠居所として萬好軒(現･妙徳寺)を築いて閑居した。
　その後、永禄年間(1558～69年)には中嶋氏が城主となっていたが、織田信長の軍勢に攻め落とされて廃城となった。1584(天正12)年の小牧長久手の戦いでは一時的に羽柴秀吉方の稲葉良通が布陣していた。
　東西約90m,南北約105mの曲輪に二重の堀と土塁が廻らされた形状であったとされる。主郭跡には井戸の遺構などが見つかっている。
　現在は高さ17mの物見櫓や出土品を展示する展示棟、名古屋城二の丸の大手門を模した門などが整備され、小口城址公園となっている。