人民解放军参加临汾作战的部队，有晋冀鲁豫军区第八纵队的第二十二旅、第二十三旅、第二十四旅，太行纵队改称的第十三纵队的第三十七旅、第三十八旅、第三十九旅;有太岳军区第十八军分区的第四十一团、第四十二团，第十九军分区的第四十四团、第四十五团、第四十六团，第二十军分区的第四十七团、第四十八团、第四十九团;还有晋绥军区的独三旅、独七旅及吕梁地方武装一部，共计6万余人。
为使临汾作战作价小、收获大，徐向前向中央军委报告说，拟在作战开始前，普遍进行以攻坚作战为主要内容的军事训练。2月18日，中央军委指示“完全同意徐向前的意见。2月21日至23日，“前指”在翼城召开营以上干部会议，第八纵队司令员王新亭总结了攻打运城的经验，徐向前作了攻打临汾的战斗动员。之后，参加攻打临汾的部队，立即展开以攻坚作战为内容的练兵运动。
3月7日发起临汾战役。第八纵队第二十四旅于7日晨抵近临汾飞机场，该旅第七十二团当即以道击炮袭飞机场，9发炮弹击毁敌机两架，其余8架仓惶飞逃。胡宗南想要空运三十旅回陕的打复工破产了。各部队迅速进行扫除外围敌据点作战，紧缩包围圈。
根据实地观察和从俘虏口中获悉，城南不易登城，登城后也不易发展，城北地势较高，利于登城作战，也便于兵力及火器展开，于是“前指”于3月10日调整作战部署，由城东、城北两在面攻城，城南为助攻方向。第八纵队首先以第二十四旅向城北兴隆殿发起攻击，21日，该旅旅长王墉不顾个人安危，冒着敌人的火力封锁，亲自走上制高点，观察兴隆殿的地形和敌情，不辜中了敌人的冷枪，光荣牺牲。23日和25日，该旅两次攻击兴隆殿，先是受挫，后虽占领，但由于敌军反扑甚猛，又被迫撤回。太岳军区部队第四十一团于23日和24日攻击北门东段地区四号碉，一失两得;第四十七团攻击五号碉，两次均未成功。在城东，第十三纵队于23日和26日两次攻击东关，一再失利。据此，“前指”命令停止攻击，整顿部队，总结经验。
3月31日，在团以上干部会上，徐向前作了攻临汾战斗初步经验总结报告。他首先自我批评说：在战役指导上，开始对敌人工事特点估计不足，想着在短时间内，以小的伤亡解放战斗。战斗部署改变几次，开始企图打东关同时准备登城，没有集中最大火力，兵力有些分散。但是他有力地指出，东关外围争夺战，正好缎练了部队，也摸到一些敌人防御工事的底。敌人已被我军消灭了2500到3000人。他强调指出;攻坚战斗，是一个不痛快的艰苦战斗，必须细心研究敌情工事，必须周密组织战斗。关于攻坚的手段，当前主要是用坑道破城。要实行“土行孙”的战法，铅到地下去。他还就战术上就入进之总和政治工作等问题，提出了明确的要求，号召各部队再接再厉，为降服“卧牛”而战。
徐向前重新部署，第八纵队主力二十三旅，由东关东北面依托电灯厂攻东关城，第十三纵队主力三十七旅，位于三十八旅上两次攻击地域攻东关城，并集中全线的八二迫击炮以上之火炮，掩护攻击。
