1951年2月24日，根据毛泽东的指示，中央军委副主席周恩来和彭德怀一起召集军委各总部负责人在总参谋部开会，讨论各大军区部队轮番入朝作战和如何保障志愿军物资供应的问题。杨立三端坐在圆桌旁，倾听彭德怀发言。彭介绍了志愿军面临的严重困难，要求国内各方面想办法大力支援前线。讨论到具体问题时，有些人强调国内机构刚刚建立，许多问题难以落实。彭德怀本来就为前线的供应不继焦急不满，这时会议又出现这个情况，他恼怒之极猛地站起来，把桌子一拍，说：“这也困难，那也困难，就是你们爱国，难道志愿军不爱国!你们去前线看看，战士吃的什么，穿的什么!伤亡那么多人，他们为谁牺牲?现在既没有飞机，火炮又很少，后方运输根本没保障，粮食服装运不上去，又饿死、冻死了很多战士，难道国内就不能克服困难吗?”彭德怀火冒三丈，会场气氛骤然紧张，主持会议的周恩来虽大度维持，会议还是不欢而散。散会后，杨立三对批评彭老总暴躁的同志说：“老总火气这么大，可见朝鲜战场后勤供应的紧张，他是爱兵心切啊!要想让他消气，最好的办法是想办法解决后勤供应问题。”随后，周恩来连续主持召开中央军委会议，对加强志愿军第一线兵力和后方供应作出了一系列重要决定，将刚改装的空军和高射炮部队调到朝鲜北部掩护后方交通线，再向苏联购买了几十个师的武器装备;调用国内各种物资大力支援前线，由几个大城市为志愿军制作炒面和罐头食品;号召国内各行各业增产节约和捐款购买飞机大炮。这些措施对减少志愿军的困难，增强战斗力起了巨大作用。这里面，杨立三和洪学智出力甚多。在回忆录里，聂荣臻特别提到这两个人：“志愿军后勤工作的许多重大改进，都是洪学智同志在那里具体组织实施的。”“当时，总后勤部部长是杨立三同志……人很勤奋，为了把东西送上去，他想了很多办法。”1952年10月，杨立三因身体原因辞去总后勤部部长职务，任劳任怨地当起了第一副部长，成为部长黄克诚的好帮手。
1954年11月9日，根据全国人大一届二次会议的决定，毛泽东任命粟裕为总参谋长、刘伯承为训练总监部部长、罗荣桓为总政治部主任兼总干部部部长、叶剑英为武装力量监察部部长、黄克诚为总后勤部部长、杨立三为财务部部长、王树声为总军械部部长。在当时军委八总部体制下，杨立三成为军委七大将星之一。