聖武天皇が741(天平13)年に発した｢国分寺建立の詔｣により、国分寺とともに当時流行していた疫病や天災,内乱を仏教の力で鎮めることを目的として建立された。讃岐国分寺跡の北東約2kmの位置にあり、寺域は東西180～210m,南北180mの範囲とされ、現在はそのほぼ中心に法華寺が建つ。法華寺境内には、国分尼寺の金堂跡と推定される礎石19個が残っており、さらに尼房跡,講堂跡が発見され、金堂,講堂,尼房が一直線に並んだいたことが明らかになっている。講堂跡の発掘調査では、創建当初からヘ平安時代のものまで4種類の軒瓦が並んで出土している。さらに、南西部に寺域を区画する施設と考えられる溝が確認されている。ただ、中門跡,南大門跡,塔跡については、まだ発見されていない。
　また、886(仁和2)年には讃岐国の国守だった菅原道真がこの尼寺を訪れ、『法華寺白牡丹』の漢詩を詠んだという。
　現在の法華寺は、1846(弘化3)年に再興されたものである。