開基三官廟創建於清代，是清代臺灣知府蔣元樞的別館，在蔣元樞卸任後，改為「蔣公生祠」。
三官廟早期雖然稱為「蔣公生祠」，但主祀三官大帝，俗稱「三官堂」；而蔣元樞的祿位牌位則奉在右龕，另外還有天醫真人（孫思邈）、財神爺（趙公明）等神祇，香煙頗盛。
嘉慶年間，因為官方認為生祠功能不大，而另外在打石仔街另建三界壇，致使生祠荒廢一陣。直到咸豐年間，有西蜀人士袁明高來此行醫主持三官堂，香火才又鼎盛起來。日治時期，因為三官堂年久失修，所有神像遷移至文昌祠，而廟堂先被作為幼稚園教室，後來改成日語講習所，後來又租給漢藥製藥廠使用。昭和二年三界壇被強制拆除，而文昌祠又在二次大戰時被炸毀，府城頓時無三官大帝之廟宇可供信徒奉拜。
民國37年信徒共議重建廟宇，除迎回移祀文昌祠 的金身外，也搬請三界壇的神像入廟合祀，稱「三官廟」。民國51年，地方士紳倡議在廟前興建一座質樸雅致的牌樓；民國76年起又動工拆廟重建，歷時十年，終於又恢復以往規模。
