1398(応永5)年、吉良満貞が却外乗空禅師に帰依して堂宇を建立し(吉良山満全寺)、その後、1579(天正7)年に徳川家康が郷村巡検の際に満全寺に宿泊したことで、家康から一字を賜って西尾山康全寺に改称した。
　1221(承久3)年、足利義氏は承久の乱の恩賞として三河国守護職を得、西条城(後の西尾城)を築くと、城内に御剱八幡宮を祀り、天台宗僧侶を別当とする六坊を建てた。やがて、浄土真宗に帰依する僧侶や寺院が多くなると、八幡六坊は衰退していった。八幡六坊のうち、神宮寺釈迦堂と金剛王院大日堂が康全寺の前身とされる。1398年、瑞泉寺3世の却外乗空禅師がこの2寺を再興すると、吉良満貞は禅師に帰依して堂宇を建立し、吉良山満全寺と名付けた。
　1579年8月、徳川家康が郷村巡検で西尾を訪れた際に満全寺に宿泊したことで、家康から一字を賜って西尾山康全寺に改称した。移転の時期には諸説あるが、1585(天正13)年の西尾城改築以前には城内から現在地に移転した。代々の西尾城主からの崇敬を受けて鎮城の禅寺となった。
　1791(寛政3)年に描かれた絵図には、曹洞宗中型寺院の七堂伽藍が描かれている。1802(享和2)年には、堂宮大工の榎本九左衛門寛敬を棟梁として本堂が再建されている。