1245(寛元3)年、藤原道家が館を築いたことにさかのぼる。1482(文明14)年、北勢四十八家の一人、伊藤重晴によって城が再建されたが、1570(元亀元)年、一向宗・願証寺の住職証意(蓮淳の曽孫)によって伊藤氏一族が追放され、更に矢田城の滝川一益を追って、織田信長の弟興長を自刃させ、長島一向一揆の拠点となった。
　1571(元亀2)年、織田信長は大軍をもって長島城を攻めるが落とせず、退陣で殿を勤めた氏家卜全が討死した。1574(天正2)年、三度目の長島城攻略によって落とすと、滝川一益を城主として北伊勢を領した。
　1583(天正11)年、柴田勝家に味方していた滝川一益は、勝家が秀吉によって滅ぼされると所領を没収された。その後、織田信雄の居城となるが、1586(天正14)年の天正地震で天守が倒壊するなど甚大な被害を受けたため、信雄は清洲城に移った。
　江戸時代に入ると、菅沼定仍が2万石で当地に封じられ、長島城を改修し藩庁として用いたが、1621(元和7)年、菅沼氏が近江国膳所に移封されると、長島藩は廃藩となり、長島城も一時廃城となった。1649(慶安2)年、久松松平家の松平康尚が那須藩より1万石をもって入り、長島藩が再興された。1702(元禄15)年には、4代将軍家綱の生母の弟増山正利の子の正弥が常陸下館より2万石で移され、以後8代続き明治維新に至った。この間に城郭は順次拡大されたが、天守は上げられなかった。1872(明治5)年、廃藩置県とともに廃城となった。
　現在、城跡は長島中部小学校,長島中学校の敷地となり、遺構の大半は失われたが、東側に石垣および堀が残る。建造物としては、大手門が蓮生寺に、奥書院が深行寺に、それぞれ移築され現存する。また、長島中部小学校内に、桑名市指定天然記念物の｢大松｣がある。この大松は本丸の西南隅にあったもので、樹齢三百数十年のクロマツである。