解放战争开始时，徐向前在延安枣园休养。眼看形势紧张，内战将起，徐向前为自己不能重返前线指挥作战而心理不安。当胡宗南向延安发动重点进攻时，1946年11月18日中央中央发出《关于放弃延安的指示》。同时，决定将一部分机关、医院、保育院，以及老弱妇幼和负伤或患病的干部先行疏散到晋绥解放区。徐向前也属于疏散之列，并被指定为一支高干小分队的小队长。转移途中，徐向前到了绥德后，再也按捺不住了。他想到前线正迫切需要有经验的军事指挥员，决心上前线去，遂向中共中央写了报告，要求到太行山晋东南前线去。中共中央复电同意徐向前的请求，要他到太行山休息，恢复健康后到晋冀鲁豫军区工作。绥德往东已无法通行汽车，徐向前身体虚弱，不能长久骑马，但他决定就是步行也要出发。警卫战士们哪肯让病中的他走路，几乎是强行把他抬上担架。徐向前翻山越岭，于1947年元旦到了晋绥边区的柳林，受到晋绥军区司令员贺龙的热情接待。然后经离石翻越吕梁山到了汾阳，在晋冀鲁豫军区第四纵队司令员陈赓派部安排接应下，通过阎锡山部队的封锁线，于1947年2月到达晋东南的长治市，6月上旬到了晋冀鲁豫解放区腹心区河北武安县冶陶镇。这时，中共中央军委下达了任命徐向前为晋冀鲁豫军区第一副司令员的命令。徐向前上任时，晋冀鲁豫军区司令员刘伯承、政治委员邓小平正根据中央关于“大举出击，经略中原”的指示，在邯郸地区进行军事、政治，后勤等各项准备工作，拟率部队渡河南下。于是，徐向前与军区副司令滕代远、副政治委员薄一波合作，担负起了指挥晋冀鲁豫军区内线部队作战的任务。
徐向前和滕代远、薄一波商议组织，向出征作战的野战军办理送兵源。当时给刘、邓率领的4个纵队，每个纵队补充兵2000人，并派出大批干部和民兵随军南下。又为陈谢集团的第十、第十一、第十三旅输送了大批干部，每个旅调入了1500名地方干部。由于刘邓大军、陈谢集团南下，晋冀鲁豫军区留下的正规部队少了，徐向前便采取升编地方武装的办法充实部队。先是重建和充实了第八纵队，辖第二十二、第二十三、第二十四3个旅。随后又编了太行纵队，辖第三十七、第三十八、第三十九3个旅;编了太岳纵队，辖第四十三、第四十四、第四十五3个旅。另外，还组建了3个独立旅。凭借这些部队，在山西内线战场作战。
攻打运城
徐向前指挥晋冀鲁豫军区内线部队首先攻打运城。
当时，山西境内的敌人主要是阎锡山和胡宗南的部队。它们盘踞在铁路沿线的运城、临汾、榆次、太原、大同及晋中地区的些县城，已处在解放区的四面包围之中。
1947年4月至5月，晋冀鲁豫野战军第四纵队等部在进行晋南反攻作战时，曾经根据中央军委指示对运城进行了围攻，并攻战占了北关和西关。5月4日中央军委电令陈广准备渡河向西，受彭德怀、习仲勋指挥，歼灭胡宗南及其他杂项，收复延安，保卫陕甘宁，夺取大西北，陈赓纵队遂停止了对运城的围攻。这即是一打运城。
