1949年9月30日，中国人民政治协商会议第一届全体会议通过了在首都建立人民英雄纪念碑的决议。

北京市都市计划委员会随即向全国各建筑设计单位、大专院校建筑系发出征选纪念碑规划设计的通知。到1951年，就收到140多件各种形式的设计方案和设计修改方案（截止最后定案时共收到240多件）。海外华侨也积极献计献策，侨领陈嘉赓组织华侨绘制了图纸，并制作了水泥柱头模型，花费15万多元（旧币）运费寄给人民英雄纪念碑建造工程处。

1952年5月10日首都人民英雄纪念碑兴建委员会正式成立。该委员会主任由当时北京市委书记彭真同志担任，副主任由国际著名建筑家梁思成同志担任，秘书长为薛子正。

为了体现周恩来总理关于建筑纪念碑目的在于“纪念死者，鼓舞生者”的指示，1953年3月首都兴建委员会从240多种设计方案中精选出8种，向专业设计人员广泛征求意见。这8种设计方案包括：矮而分散的典型设计，高而分散的典型设计，做成三座门的设计，矩形主柱式碑形——高的典型设计，有瞭望台的设计，红墙上立碑的设计，碑顶立群像的设计和最后被采用的碑形设计。

在众多的设计方案构思中，设计意见有较大的差别。当时分歧较大的意见有：1、碑的下座要不要建成陈列室。2、下层台阶要不要作成检阅台。3、碑身要不要做成空的，顶部开窗，可供瞭望北京市容。4、意见中分歧最大的是碑顶的造型，到底是建成宝顶歇山式，还是塑造英雄的群雕。因为这些意见不统一，使得工程难以启动。最后经主持这项工作的中央领导与有关方面初步协商，决定：1、台基部分先按陈列室设计，留有改变的余地。2、因为已有天安门作为大检阅台，下层平台决定不作检阅台设计。3、为维修方便，碑身做成空筒，但筒顶不开瞭望窗以维护纪念碑的庄严肃穆。空筒碑身也使得碑体重量大大减轻，连地下的混凝土在内，总重量只有一万吨左右。（由于设计合理，当时虽然没有考虑抗震因素，但纪念碑却经受了唐山大地震的考验。）4、最难确定的碑顶暂缓设计，选意见最为集中的设计方案中的三个制成1∶5的模型，竖立在天安门广场上，广泛征求全国人民的意见。

就在底层按陈列室设计全部钢筋混凝土即将完成时，台基做成实体的意见又占了上风，他们提出的理由很有说服力：做成实体碑身显得庄重稳妥，如下设陈列室，碑身则有架空不稳之感，这对于一座烈士纪念碑是不合适的。

关于纪念碑建在何处，也经过广泛的讨论。开始有人主张建在东单广场，有人主张建在前门楼上，有人主张就中华门的原址建立，也有人主张建在西郊八宝山上。最后，中国人民政治协商会议决定将纪念碑设立在全国人民政治活动中心——天安门广场。