1953年12月7日至1954年1月26日，全国军事系统高级干部会议在北京召开，决定为适应现代化、正规化建设的需要，实施军衔制、干部薪金制、义务兵役制三大制度。
邓小平坚持不当元帅
1955年2月，中华人民共和国第一届全国人民代表大会常务委员会第六次会议通过《中国人民解放军军官服役条例》，以中华人民共和国主席毛泽东的名义公布。元帅分大元帅和元帅两种，大元帅军衔的五角星有一圈麦穗，元帅军衔则是黄底国徽和五角星。
8月下旬，毛泽东对彭德怀和罗荣桓说:“你们搞评衔，是很大的工作，也是很不好搞的工作。我这个大元帅就不要了，让我穿上大元帅的制服，多不舒服啊!到群众中去讲话、活动，多不方便啊!依我看，在地方工作的都不评军衔为好。”
刘少奇、周恩来、邓小平等都表示不参加评定军衔。按照1954年9月组成的中共中央军事委员会看，12位中央军委委员中，除了毛泽东和邓小平，都是元帅。如果刘少奇、周恩来拒绝元帅还可以理解的话，邓小平在军中挂名，无论如何应该是元帅吧?但由于邓小平的坚持，他没有被授予元帅军衔。
