华东野战军司令员陈毅、副司令员粟裕和副政委谭震林密切关注敌军的动向，得知敌人有“集结更大优势兵力与我在鲁南决战”的企图，决定集中50个团的兵力，粉碎敌人的新攻势。而在如何打法上，则经历了一个由“南征”改为“北战”的战役决策过程。开始，华东野战军前委决定先打南线之敌，诱敌北进到临沂外围，予以各个歼灭。但是敌军采取稳打稳扎，齐头并进的战法，一时难以分割歼灭。在这种情况下，粟裕认为，北线之敌兵力较少，战斗力相对不强。如果我军放弃临沂，主动隐蔽北上，先歼击北线之敌，既可置南线敌人强大兵团于无用之地，又可出其不意地歼灭北线的李仙洲集团，从而粉碎敌人南北夹击的企图。这时，陈毅提出了一个“舍南取北”的作战构想，要粟裕进一步思考并提出具体作战方案，这样陈、粟两人的想法不谋而合。接着经过充分讨论，制订出了北上歼敌的作战方案，以陈毅、粟裕、谭震林联合署名上报中央军委。毛泽东为中央军委起草复电，同意作战方案，并指示：“总之，先打弱敌，后打强敌，力争主动，避免被动。”
这样，经最高统帅部和战区指挥员上下结合，互相启发，互相补充，一个切合实际的莱芜战役作战方案正式形成。肩负战役指挥重任的粟裕，立即展开紧张复杂的战前准备和战役组织工作。
为了迷惑和调动敌人，陈、粟采取了一系列“示形于南，击敌于北”的策略。具体为：一示南征之形，在军事上隐蔽北上歼敌的意图;二示决战之形，以迎合敌人企图在临沂与我决战的心理;三示失利之形，主动放弃临沂，使敌人产生我军连战疲惫、不堪再战的错觉;四示西进之形，使敌人难以辨明我军北上作战的真实意图。
蒋介石、陈诚果然中计，陶醉于虚假的“空前大胜”的战报之中。而陈毅、粟裕、谭震林却暗暗发出了在北线作战的行军命令。南线主力部队，冒着雨雪风寒分兵三路向北急进。
