臺灣府城在清雍正三年(西元1735年)修築木柵城時，小東門段的範圍為：正東倚龍山寺，設大東門，"木柵由大東門向北，延續到右營廳後，轉東北到小東門，再向正北走，靠近城守營即為大北門。故小東門的城段，即介於大東門城與大北門城之間的兩段。 

清雍正13年(西元1735年)，福建總督郝玉麟在城外種植刺竹17983叢作為藩籬，此時的府城仍為木柵。

清乾隆四十年(西元1775年)知府蔣元樞在舊木柵內另建木城，並添建小西門。

乾隆53年(西元1788年)，知府楊廷理就原有東南北三面的城址，改建為土城。西面部分因面臨臺江內海，故退縮150餘丈，由於城垣曲直形如半月，叉面向臺江，所以稱府城如 「半月沈江」之勢。此時的小東門段已是土垣的結構物。

同治元年(西元1862年)與同治十三年(西元1874年)，臺郡發生了大地震與暴風雨，土造城垣因禁不住風雨和地震的摧殘，損毀嚴重，幸經官紳合力搶修，得以完固。

日據時代，因都市發展的需要，城垣被迫拆毀。

民國四年，小東門及其旁側的城垣也難逃拆除的厄運，僅存在勝利路上，北起小東路長約200公尺，南止於大學路，長約65公尺的城垣殘段隱藏在茂密的樹林下。

民國55年，成功大學收購光復營區校地時，為建造校園圍牆，拆除了南段城垣。(本文取材自台南市政府文化局)