5月11日，李家钰命令所部以一部守备河防，以主力一〇四师在渑池、新安县边界的云梦山抢占有利地形，阻击敌人。5月12日以后，战况更为紧急。李家钰的第三十六集团军处于人困马乏、孤军奋战的境地，只好边战边撤，至5月17日，进入陕县李村乡岳庄一带。当时，国民党新八军军长胡伯翰遭到从白浪渡河的日军袭击，部队溃乱，胡只身逃脱。李家钰闻讯，即派一〇四师占领高地，阻击日军。5月17日晚，李家钰在陕(县)、渑(池)边界的翟延村与西撤的国民党军将领刘戡、张际鹏、胡伯翰、谢辅三、李宗豫相遇，当即举行临时会晤，商讨在战区长官去向不明、群龙无首的情况下，如何统一行动，统一指挥，将领们一致推举李家钰为指挥官。李家钰认为，西撤部队人马相挤，争先恐后抢路走不是办法，若遇日军袭击，将损失惨重。随后画出两条行军道路。由于人数众多，行动不便，李家钰遂决定走这两条道路之间的路，以掩护各部向西转移。
当时，因弹缺粮绝，多日长途跋涉行军作战，官兵饥饿，农民仅有的玉米、杂粮、红薯根等已被前边撤退的军队抢吃一空，后来的部队，只能搜寻些野菜、草根煮后充饥。次日，李家钰命参谋长张仲雷率集团军赶往陕县菜园乡雁翎关，筹措粮食。5月19日晨，因日军一部已在陕县会兴镇渡河，灵宝也有日军驻防。李家钰一面派出数名侦察兵向陕县大营、灵宝等处搜索敌情，一面在雁翎关村外召集官兵训话说：“再饥饿也不能擅入民间抢劫。违犯者，军法处置!”还当场处决了一个抢劫百姓财物的士兵。
此后，各路大军分道西行，李家钰的部队就担负起了掩护友军撤退的任务，这时，从晋南平陆茅津渡过黄河的日军进入陕县城。5月20日，李家钰率部从雁翎关出发，宿营于陕县张村镇东窑院村。据友军情报，日军千余人由陕县南关太阳渡出发，正追击高树勋部，已进犯到距东窑院村仅10余里处。李家钰判断：日军来得不会这么快。同时鉴于友军正纷纷向西转移，掩护任务急需进行到底，即决定按原计划行军。
