明永曆16年(西元1662年）鄭成功去世後，台民為感念鄭氏驅荷復台，開疆拓土的功績與精神，特在此地立廟奉祀，卻因政治顧慮，而稱「開山王廟」。 

清同治13年(西元1874年)，欽差大臣沈葆楨來台籌辦防務，深入瞭解民意後，上疏朝廷 ，強調鄭成功是「明室遺臣」，而不是清朝的「亂臣賊子」，

並奏請為鄭氏立祠。官民籌募經費，從福州載來工匠、材料，將開山王廟擴建成1棟台灣少見的「福州式」建築，於光緒元年竣工。名稱也改為「明延平郡王祠」。　 

日治時期，鄭成功因與日本有血緣關係，所以倍受推崇，祠名被改成「開山神社」，增添不少日式建築風格，每年祭典更成為府城一大盛事。

光復後，政府為表彰明鄭復台精神，於民國52年興工重建，整體格局大致不變，建築則由福州式改為北方宮殿式，即今日的模樣。


 石燈籠
日據時期，因鄭成功與日本有血緣關係，日方逐增建修築日式風格的建物，如鳥居與草皮上的石燈籠，祠名再改成「開山神社」。