国庆节以后，粟裕返回南京，向华东军区和南京市领导作了工作交代，同时向军区机关干部及正在召开的华东军区暨三野第一届英模代表大会作了关于国内外形势的报告。11月12日，中共中央军委正式任命粟裕为中央人民政府人民革命军事委员会第二副总参谋长(聂荣臻为第一副总参谋长，代总参谋长)仍兼华东军区副司令员的职务。不久，中共中央办公厅主任杨尚昆打电话给粟裕，传达毛泽东的指示，催他尽快到京上任。粟裕略事准备，即于12月9日离开南京，11日到达北京，次日即向中央军委报到，就任副总参谋长。
粟裕的右臂战争年代负过伤，弹头一直留在臂内，也许是太劳累的原因，刚上班几天旧伤突然复发，疼痛难忍，不得不住院手术，取出了残留的弹头。粟裕人在医院心挂念着统帅部的工作，1952年元旦刚过，1月2日就急着出院。人民革命军事委员会办公厅随即下达通知：“粟副总长已到部开始办公。”就这样，面对党中央的信任和托付，粟裕勇敢地担起了历史的重担，在指导全军作战及建设的岗位上，他的军事才能闪耀出了新的光辉。
四、毛泽东发布命令：粟裕担任中国人民解放军总参谋长
1954年10月底，毛泽东找粟裕谈话，让他出任中国人民解放军总参谋长。粟裕很吃惊地说：“主席!我不能胜任!”毛泽东微笑但语气肯定地说：“根据我的了解，你可以胜任!不过牡丹虽好，还需绿叶扶持。你努力干吧!”显然，毛泽东对粟裕近3年任副总参谋长的工作是满意的。
粟裕工作作风严谨，注重调查研究;勤于思考，善于发现问题、解决问题;处事有主见、有战略眼光;敢于发表自己的意见，敢于坚持自己的意见。他在总参工作3年，向中央提出许多重大建议，得到中央领导的重视。粟裕向中央报告情况直言不讳，如1953年6月15日他给毛泽东写信，反映沿海渔场匪患严重，就引用了渔民的话：“人民政府是农民政府，不是渔民政府。”毛泽东在1952年7月的一次批示中指出，在反映情况和看出问题方面，粟裕要“好得多”。
