7月13日至8月27日，华中野战军在粟裕指挥下发起苏中战役，七战七捷，歼敌5万余人。其中王必成为副师长的6师在一个半月内接连五战，歼敌1.2万人，一举夺得了苏中地区的战略主动权。
我军苏鲁前线的将领为陈毅(时任中共中央华东局副书记、山东野战军司令员)、粟裕(时任华中野战军司令员)、谭震林(时任华中野战军政委兼6师师长、政委)。他们接下来制定的方针是，按照毛泽东“集中优势兵力，各个歼灭敌人”打歼灭战的思想，准备集中24个团的兵力，歼灭由宿迁进犯之敌整69师。
他们部署华野第9纵队沿宿迁、宿新公路实施运动防御，最后要守住沭阳，等待对敌之围歼;调郯城西南及沭阳地区的山东野战军第1纵队、第8师、第2纵队及华中野战军一部趁夜隐蔽开进，以三倍于敌人兵力合围国民党军整编第69师于宿迁、沭阳、新安镇三角地区，将其歼灭后再乘胜围歼第11师。为防淮阴之敌增援宿迁，部署华中野战军第1师自苏北盐城以南北移参战，以王必成第6师等13个团兵力在涟水地区组织防御;以华野7纵和10纵等10个团阻击进犯盐阜之敌;以鲁南军区第10师、滨海警备旅、第3军分区武装及鲁中军区第9师，在峄(县)东阻击进犯临沂、郯城之敌。看得出，我军首战的目标是国民党军进犯宿迁之敌。前指的将领们明确分工：陈毅、粟裕指挥全战役，谭震林指挥阻击进犯涟水和盐城之敌。然而情况似乎突变。国民党“五大主力”之一的张灵甫中将的整编74师及“钢军”第7军、第5军不顾国民党军在苏中的失败，长驱直入，兵锋直指淮阴，苏皖解放区形势恶化。
国民党军对淮阴攻势如此之猛，意图又何在?
淮阴是苏皖解放区的首府，战略地位重要，得失事关全局。闻讯国民党军整编74师进攻淮阴，粟裕一面飞调6师的成钧、皮定均旅赶往淮阴城下，阻击敌整编74师;一面亲率1师、6师主力从海安城下撤围，奔赴淮阴，准备在淮阴围歼74师。粟裕这时似乎已改在宿迁歼灭敌整编69师的计划为在淮阴歼灭整编74师。
然而我军棋差一着。华野主力到达前，驻守淮阴的我军抵抗顽强。国民党军整编74师连日攻城不克，华野主力又围了上来，处境十分危急。这时张灵甫忽出奇策，派出一部，发动夜袭。我军未料到国民党军也敢夜袭，阵地被突破，张灵甫破城。闻讯，华野主力只好撤兵。张灵甫乘胜南进，3天后又占淮安(现淮安市楚州区)。至此，两淮地区失陷。
