龙华烈士陵园的建设经历了一个较长的历史时期。早在1950年龙华地区挖掘出“龙华二十四烈士遗骸”后，老一辈革命家就萌发了在此建立龙华烈士陵园以告慰先烈的心愿。中共上海市委、市政府于1957年向全国有关设计院、大学征集了“龙华烈士纪念公园”总体设计方案，并作筹划，后因故而未竟。
    1963年，中共上海市委重拟建造龙华烈士纪念公园，在原龙华公园的基础上征地、围墙、绿化，在公园入口处矗立“红岩石”。
    1966年因“文化大革命”中断。
    1983年12月，赵世炎烈士夫人夏之栩来上海龙华后，上书中央建议修建龙华烈士陵园，邓小平当月14日批示。次年2月，中共上海市委、市政府向中共中央、国务院报送了《关于筹建龙华烈士陵园的请示》和《关于龙华烈士陵园总体设计方案的请示报告》。