位在府城北區自強街的開基天后祖廟,主祀:天上聖母,與大天后宮相呼應被稱為小媽祖廟,而由於位在「水仔尾」所以也稱水仔尾媽祖廟。
開基天后祖廟由鄭成功在明鄭永曆十七年(1662年)攻下普羅民遮城後,改建德慶溪口的「媽祖寮仔」而成,當時稱「開基媽祖廟」,其蓋廟的磚頭是他第二批自廈門來臺的艦隊所運來的。廟內供奉一尊刻製於崇禎十三年(1640年)的媽祖像,是當年隨著鄭成功艦隊來臺的,故俗稱為「船仔媽」。
清朝時期,改稱為「開基天后宮」。乾隆三十年(1765年)時,時任福建分巡台灣道的蔣允焄捐修該廟。乾隆四十二年(1777年)時,臺灣府知府蔣元樞又予以修建,使之成為一間三進的建築,並贈與一尊「傾聽觀音」在新建的後殿供奉。這尊觀音乃蔣元樞所獻的「府城三大觀音」之一,另外兩尊則在祀典武廟與大天后宮中。
日治時期,在日本大正十五年(1926年)時因廟宇年久失修,故境內居民們集資重建。然而在第二次世界大戰時,該廟遭盟軍空襲而毀損甚重,於是在民國三十七年(1948年)進行重修,而民國六十七年(1972年)時,該廟有所改建,增添了繁複的表面裝飾而成今貌。