孙中山逝世后,中国国民党中央执行委员会于1925年4月4日推定张人杰、汪兆铭、林森、于右任、戴传贤、杨庶堪、邵力子、宋子文孔祥熙、叶楚伧、林业明、陈去病等12人为葬事筹委会委员,随后在上海成立了以杨杏佛为主任干事的葬事筹备处,负责安葬事宜。
遵照孙中山遗愿,宋庆龄、孙科及葬事筹委会代表相继到钟山,实地勘测,择定中茅山南麓为建陵地址。
1925年5月13日,葬事筹委会通过并公布《孙中山先生陵墓建筑悬奖征求图案示例》,先后收到应征图案40余种。经过评审,10种设计风格庄严的方案获奖。
海内外的美术家、建筑家纷纷展示才华,争相绘制建筑蓝图,31岁的中国建筑师吕彦直所设计的鸟瞰“警钟”形图案获得首奖,并由他负责监督、指导陵墓施工。
吕彦直的设计图案获得首奖,他的设计风格庄严、简朴,在中国建筑史和文化艺术史上均有很高地位。
1926年3月12日暨孙中山逝世一周年,葬事筹委会举行陵墓奠基礼。各省纷纷认捐,华侨慷慨资助中山陵历时3年,于1929年春基本竣工。