1185(文治元)年、長森庄地頭の渋谷金王丸が長森城を築いたと伝わる。
　1339(延元4/暦応2)年、美濃国守護職の土岐頼遠が土岐郡からこの長森城に移り、城郭として整備し、代々土岐氏が城主となった。1353(正平8/文和2)年には、手狭になったため、土岐頼康は川手城を築城して移り、長森城は土岐直詮が城主となる。土岐氏は以後、川手城を本拠地とした。
　廃城時期は定かでないが、斎藤道三が美濃国を支配し、拠点を稲葉山城に移した頃と考えられる。
　1755(宝暦5)年、加納藩藩主となった安藤信成は、翌年には陸奥国磐木平に移封され平藩藩主となるが、やがて老中となり、その実績により、美濃国に1万8千石の飛領地を加増された。安藤氏は、1803(享和3)年11月、かつての長森城跡に切通陣屋を築き、明治時代の廃藩置県が行われるまでこの地を治めた。
　旧中山道の近くにある切通観音とその周辺が跡地であるが、長森城および切通陣屋の遺構は残されていない。切通観音の所に案内板と石碑が建てられている。