『医王寺誌』によれば、室町時代の僧・琴室契音によって大洞山泉龍院の末寺として開創されたという。1498(明応7)年、琴室は諸国行脚の末に設楽郡篠窪という地に在った小庵に巡り合った。1514(永正11)年には小庵は、立派な伽藍の寺院に生まれ変わった。その小庵が、かつては鳳来寺の真言宗学頭・医王院の末に連なっていたという経緯で、寺号は長篠山医王寺と定められた。これには当寺本尊･薬師如来の異名が『大医王仏』であることも起因している。だが、琴室は自らに因る開山を望まず、渥美郡の全久院開山で知られる師の克補契嶷に開山を拝請、琴室自身は医王寺の2世住持になったという。
　開山当時の長篠城主である菅沼元成はもとより、後代では野田城初代城主の菅沼定則から梵鐘を寄進されるなど、大檀那であった田峯城主の菅沼定継ら菅沼一門の厚い庇護を受けた。他にも永禄年間(1558年～70年)には今川氏真から茶湯料5貫文の寄進、1573(天正元)年に新たに長篠城主となった奥平貞昌からは水田1町歩の寄進を受けている。
　月傳太随和尚が4世住持を務めていた1575(天正3)年には長篠の戦いが勃発、武田勝頼の本陣が布かれた。後日、長篠城の後詰に織田信長と徳川家康の連合軍が現れたとの報を受けると、山県昌景,馬場信春などの諸将と軍議が開かれ、連合軍との決戦が採択された。