築城年代は定かではないが、もとは南北朝時代にこの地を領していた鹿伏兎氏が築いた御霊ヶ丘陣屋であった。
　1399(応永6)年、南朝方に属し応永の乱に敗れた佐々木満喬が、楠木正盛と共に鹿伏兎谷に落ち延びて鹿伏兎城3代城主・鹿伏兎忠賀を頼り、御霊ヶ丘陣屋に拠ったとされる。1412(応永19)年には陣屋に内堀を構築し、さらに四方を深くするなどの城壕の整備にかかった。1414(応永21)年、伊勢国司であった北畠満雅が、御霊ヶ丘陣屋を検分した際に川俣城と改称したという。
　加太川の北側丘陵地の比高約15mに築かれ、加太川が天然の要害となり外堀の役割を果たしている。また、周囲にも空堀跡がみられる。
　城跡地には1668(寛文8)年に大比古命を祭神とする川俣神社が移され鎮座しているが、社殿の裏に高さ1mほどの土塁跡が残されている。