1578(天正6)年、織田信長の実弟織田信行の子である織田信澄によって築かれた。現在の高島総合病院の東側に本丸が築かれ、南が二の丸、病院付近は三の丸であったといわれる。遺構は本丸に残る天守台のみである。
　元亀年間(1570～73年)に信長は浅井長政を滅ぼして高島七頭も降すと、高島郡には磯野丹波守員昌が入部し新庄城を居城とした。信澄はこの員昌の養子となっていたが、1578(天正6)年に員昌が信長の勘気を被って追放されると所領は信澄が継いだ。
　1582(天正10)年、織田信長が本能寺の変で倒れると、信澄の正妻が明智光秀の娘であったことから内通を疑われ、織田信孝,丹羽長秀の軍勢に急襲され摂津国野田城にて討たれてしまう。信澄の後は丹羽長秀の所領となって代官として植田重安が在城した。 　　
　1583(天正11)年、賎ヶ岳合戦後に丹羽長秀が越前国府中城に移封となると、加藤光泰が入部した。1585(天正13)年には加藤光泰は美濃国大垣城へ移り、代わって生駒親正が城主となるが、親正も翌1586(天正14)年に伊勢国神戸城へ移封となった。その後は秀吉の直轄領となっていたが、1587(天正15)年、京極高次が入部。1590(天正18)年には織田三四郎が城主となるが、再び秀吉の直轄領になって吉田修理が代官を務め、最後に1595(文禄4)年に岩崎掃部佐が城主となった。
　1603(慶長8)年、大溝城は破却され水口岡山城に部材が転用されていたといわれる。
1619(元和5)年、伊勢国上野より分部光信が二万石で入封し大溝藩となったが、大溝藩は城主格ではなかったため、廃城となっていた大溝城の三の丸付近に大溝陣屋を構え、以後代々続いて明治に至る。