築城年は定かではないが、永禄年間(1558～69年)に稲葉良通(一鉄)によって築かれた。本能寺の変後、稲葉一鉄は豊臣秀吉の不審を買い、現在の揖斐郡揖斐川町清水に退いた。一鉄の後、稲葉貞通，典通を経て、1588(天正16)年には西尾光教が城主となった。光教は関ヶ原の戦いでは東軍に属し、西軍の島津義弘の兵が城下に火を放ち、銃撃するという示威行為を行ったが、水野勝成が援軍に駆けつけ反撃をしている。勝成らが入った曽根城は、西軍が守備する大垣城を攻めるための東軍拠点となった。関ヶ原の戦い後、光教はその功績により揖斐陣屋に移ったことで、曽根城は1601(慶長5)年に廃城となった。
　『濃州曽根古城跡図』によれば、本丸の東に二の丸があり、内堀と外堀、城下町を囲む惣堀を備え、家老屋敷，侍屋敷，町屋などが並んでいたとみられる。本丸は1000坪(3,306㎡)、二の丸を含めると4,000～5,000坪(13,224～49,590㎡)の規模だったと推定されている。本丸北西には、のちの春日局となるお福の父で一鉄の重臣･斎藤利三の屋敷があった。
　曽根城主であった稲葉一鉄は1576(天正4)年に母の菩提寺として華渓寺を城の東方に創建したが、揖斐川や支流の平野井川の氾濫の被害を避けるため、1734(享保19)年になって曽根城本丸跡地に移転された。1989(平成元)年の発掘調査の結果、華渓寺の北側より石垣や土塁などが発見されている。これらは保存のため埋め戻され、地上に復元されている。