位在府城北區自強街的開基天后祖廟，主祀：天上聖母，與大天后宮相呼應被稱為小媽祖廟，而由於位在「水仔尾」所以也稱水仔尾媽祖廟。
開基天后祖廟由鄭成功在明鄭永曆十七年（1662年）攻下普羅民遮城後，改建德慶溪口的「媽祖寮仔」而成，當時稱「開基媽祖廟」，其蓋廟的磚頭是他第二批自廈門來臺的艦隊所運來的。廟內供奉一尊刻製於崇禎十三年（1640年）的媽祖像，是當年隨著鄭成功艦隊來臺的，故俗稱為「船仔媽」。
清朝時期，改稱為「開基天后宮」。乾隆三十年（1765年）時，時任福建分巡台灣道的蔣允焄捐修該廟。乾隆四十二年（1777年）時，臺灣府知府蔣元樞又予以修建，使之成為一間三進的建築，並贈與一尊「傾聽觀音」在新建的後殿供奉。這尊觀音乃蔣元樞所獻的「府城三大觀音」之一，另外兩尊則在祀典武廟與大天后宮中。
日治時期，在日本大正十五年（1926年）時因廟宇年久失修，故境內居民們集資重建。然而在第二次世界大戰時，該廟遭盟軍空襲而毀損甚重，於是在民國三十七年（1948年）進行重修，而民國六十七年（1972年）時，該廟有所改建，增添了繁複的表面裝飾而成今貌。
