南寧解放后，為了表達對革命先烈的褒揚、崇敬之情。1951年清明節前，市人民政府在人民公園後山——1927年“四一二”事變國民黨當局分幾批殺害革命先烈的地方，建起了一座“革命烈士公墓”，碑銘為市長莫文驊所題。4月5日清明節，適逢南寧市第三屆二次各界人民代表會議召開期間，全體代表和省、市各界人士及學生幾千人，捧持花圈到烈士公墓前，悼念公祭先烈。
1955年，廣西省人民政府和南寧市人民政府決定將烈士公墓拆除，改建紀念碑，以供後人悼念憑弔。紀念碑於1956年12月建成，正面銘文“革命烈士紀念碑”是當時中共廣西省委第一書記陳漫遠所書寫。紀念碑碑身、祭台、欄杆、登山石階全是用石英雲母石鋪砌，紀念碑屹立山頂，藍天白雲掩映，分外肅穆莊嚴。山腳石階前左右各安放一座石獅，石獅前面是一片寬廣的草坪，廣場左右各建有一座涼亭，上面各懸挂着“瞻忠”、“仰烈”的橫匾。
1957年清明節上午，紀念碑落成典禮和公祭儀式舉行，省、市領導，烈士家屬和各界人士、學生等六七千人參加，花圈擺滿紀念碑底座周圍，由省、市領導主祭和講話。1963年，自治區人民委員會公布其為自治區級文物保護單位，這是南寧市首次被確定的第一處自治區級文物保護單位。1988年，市委、市政府還增建了“南寧革命烈士碑誌”。每年都有人前來悼念憑弔，尤其是青少年學生，經常來到紀念碑前舉行入隊、入團、入黨的宣誓儀式，進行革命傳統教育。