般若寺の創建事情や時期については正史に記載がなく、創立者についても諸説あり正確なところは不明である。ただし、般若寺の境内からは奈良時代の古瓦が出土しており、奈良時代からこの地に寺院が存在していたことは確かである。
　寺伝では629年、高句麗の僧･慧灌の創建とされ、735(天平7)年に聖武天皇が伽藍を建立し、十三重石塔を建てて天皇自筆の大般若経を安置したというが、これらを裏付ける史料はない。また、一説には、654(白雉5)年に蘇我日向臣が孝徳天皇の病気平癒のため創建したとも、聖武天皇が創建し平安時代に僧･観賢によって再興された(この説は山城の般若寺とされる)とも言われるが、確固たる史料はない。初出は『日本三代実録』貞観5年(863年)9月26日条に登場する｢添上郡般若寺｣となる。その後、平安時代末頃までの歴史はあまり明らかではない。
　1180(治承4)年、平重衡による南都焼き討ちの際には、東大寺,興福寺などとともに般若寺も焼け落ち、その後しばらくは廃寺同然となっていたようである。
　鎌倉時代に入って再興が進められ、十三重石塔は僧･良恵らによって建立され、1253(建長5)年頃までに完成した。その後、西大寺の僧･叡尊によって本尊や伽藍の復興が行われた。叡尊は、日本仏教における戒律の復興に努め、貧者,病者救済などの社会事業を行ったことで知られる。般若寺の位置する奈良市街北方地域は、中世には非人と呼ばれて差別された病者,貧者などの住む地域であった。叡尊は1255(建長7)年から般若寺本尊文殊菩薩像の造立を始め、12年の歳月をかけ1267(文永4)年に開眼供養が行われた。
　その後、1490(延徳2)年の火災、1567(永禄10)年の東大寺大仏殿の戦いでの兵火によって主要伽藍を焼失。延徳の火災では叡尊によって供養された文殊菩薩像も焼失している。
　明治初期の廃仏毀釈以降、寺は荒れ果てて無住となって本山の西大寺が管理していた時代もあったが、第二次世界大戦後になって諸堂の修理が行われ、境内が整備されている。
　入母屋造,本瓦葺きの楼門は国宝に指定されている。西を正面として建つ。鎌倉時代(13世紀後半)の建立である。上層の出組の組物は、外部から見ると複雑な構造に見えるが、建物内部では柱が直接桁(屋根の垂木を支える水平材)に達する単純な構造で、組物は使われていない。つまり、上層の組物は外側から釘止めまたはほぞ差しとした見せかけのもので、このような構造の建物は非常に珍しい。寺のシンボルともいえる十三重石塔は高さ12.6mで1253(建長5)年頃に南宋から来日した石工の伊行末により建立され、楼門を入って正面、本堂から見ても南正面に位置し、当寺の信仰の中心となっている。このほかにも国重文や奈良県指定の有形文化財を数多く保有している。