創建年代は定かではないが、吉野山最奥の青根ヶ峰のそばにあり、吉野川水源に当たる青根ヶ峰は古くから水神として崇敬を受け、奥千本の金峯神社、山腹の上千本に吉野水分神社、山麓の中千本に勝手神社が建てられた。主祭神は金山毘古命。吉野山の地主神である。
　中世以降は修験道の修行場であり、1007(寛弘4)年には、藤原道長が大和国の金峯山に円筒形経筒を埋納したことが自らの日記『御堂関白記』に記載されており、発見された経筒は国宝に指定されている。明治時代以前の神仏習合時代には金精明神と呼ばれ、金精の名は金峯山は黄金を蔵する山という信仰があったことが背景にあると思われる。
　拝殿は吉野神宮の旧拝殿を移築したもの。境内はユネスコ世界遺産『紀伊山地の霊場と参詣道』の構成資産の一部であり、国の史跡｢大峯奥駈道｣の一部でもある。
　金峯神社拝殿脇の小径を下ったところには、源頼朝に追われた源義経が隠れていたという｢義経隠れ塔｣がある。