木曽川の上流域に位置し、室町時代には木曽川上流の始発湊であり、木曽川上流域の唯一の商用港で、戦国時代には兼山城主森氏の政治的,軍事的要衝ともなった。
　室町時代末期(1530年頃)の斉藤氏が領主の頃には既に河川交通運搬があったとされる。戦国時代に入ると領主の森氏は経済基盤固めるため城下町造りを本格的に進め、蚕糸,絹呉服を中心に東濃地方の経済の中心地となった。また、兼山の天然氷なども卸していた。1568(永禄11)年、織田信長が上洛の際に多数の建築資材を木曽谷からこの湊まで運搬して船積したとされる。、
　1665(寛文5)年以降、尾張藩は木曽川を管理するため錦織奉行所(現在の八百津町)を設置し、木材運搬を兼山湊から拠点を移動させた。尾張藩御用達の木材や伊勢神宮遷宮御用達の木材も錦織湊からここを下るようになる。
　1844(弘化元)年、岩村藩主松平乗喬が年貢米を納めに江戸へ行く際に、この湊から荷船を出航させて桑名経由で江戸の蔵屋敷まで船送りしたが、 江戸時代末期になると、交通便に恵まれていた下流域に存在した新村湊や野市場湊等の利用が増加してゆき、塩の専売権や市の賑わいも上流に存在した黒瀬湊や錦織湊へと次第に移ったため、兼山湊は徐々に衰退していった。
　大正時代から昭和時代初頭にかけて、ダム建設や鉄道,橋などの陸運整備により湊の賑わいは消えていった。