天文年間(1532～55年)、織田方で金山城主森可成の配下であった御嵩本陣山城の小栗重則,教久を牽制のため、武田方の美濃高山城主の平井頼母により築城されたとされる(上之郷を領した小倉織部の居城との説もある)。
　1571(元亀2)年、武田信玄の東美濃侵攻において、秋山信友は、岩村城,明知城などを攻め小原城を占拠し奪取し金山城の森長可と対峙した。1575(天正3)年には金山城を攻めたが、織田信長の東美濃侵攻により武田勢は退去した。その後、1599(慶長4)年に金山城主の森忠政が信濃・川中島へ移封されると、金山城や御嵩城とともに自然廃城となったと考えられる。
　小原城は、白山神社背後の丘陵一帯に築かれている。4層の石垣の上の白山神社本殿の左奥を進むと、やがて堀切,主郭が現れる。主郭は南北に細長く40ｍ×15ｍほどの広さで、南側は一段高くなっている。北側には「神武天皇・畝傍北東御陵遥拝所」の石碑と祠が建てられる。