抗日战争全面爆发后，时任国民政府第四十七军军长的李家钰率四十七军1.8万余人出川抗战。
李家钰率部于当年1937年12月抵达晋东南抗日前线，在八路军和抗日游击队的配合下，连续猛攻并收复了被日军侵占的晋南平陆、芮城、安邑等县城多处，毙伤日寇2000余人。1939年冬，李家钰升任第三十六集团军总司令，统辖三个军7个师兵力。
在山西抗战的岁月里，李家钰部与八路军关系融洽。1938年1月，八路军129师师长刘伯承外出回部途中，曾在长治市四十七军军部留住数日，李家钰邀请刘伯承为全军营以上军官讲授抗日游击战术。1940年春，李家钰得悉八路军总司令朱德由武乡赴洛阳开会途经其驻地时，曾派兵一个连前往迎接并设宴款待。当晚，朱德就团结御侮，抗日及民主等问题，同李家钰促膝磋谈至深夜，当时，第一次反共高潮刚刚过去，朱德举杯问道：其相兄，他日你若奉命与我军兵戎相见，你当如何?李举杯道：我当效晋文公退避三舍再战。两人相视而笑。次晨，朱德一行跨越晋(城)博(爱)公路日军封锁线时，李家钰为安全计，增派一个加强连，掩护朱德顺利过境。对八路军的游击战术，李家钰亦颇赏识，曾多次派遣所部军官到八路军游击训练班学习。
1940年，已升任第三十六集团军总司令的李家钰奉调率部进驻豫西，担负河南陕县、渑池、灵宝、阌乡一带黄河防务。期间，李家钰曾多次派出部队配合八路军及抗日游击队，渡河北击晋南一带日军。1944年4月，日军发动“河南战役”，第一战区司令长官蒋鼎文和副司令长官汤恩伯先行撤逃，李家钰忧心忡忡，他在47军师团干部会议上讲话，动情地说：“我们吃了豫西百姓四年饭，现在不能见了日本人就跑。”
5月11日，李家钰命令所部以一部守备河防，以主力一〇四师在渑池、新安县边界的云梦山抢占有利地形，阻击敌人。5月12日以后，战况更为紧急。李家钰的第三十六集团军处于人困马乏、孤军奋战的境地，只好边战边撤，至5月17日，进入陕县李村乡岳庄一带。当时，国民党新八军军长胡伯翰遭到从白浪渡河的日军袭击，部队溃乱，胡只身逃脱。李家钰闻讯，即派一〇四师占领高地，阻击日军。5月17日晚，李家钰在陕(县)、渑(池)边界的翟延村与西撤的国民党军将领刘戡、张际鹏、胡伯翰、谢辅三、李宗豫相遇，当即举行临时会晤，商讨在战区长官去向不明、群龙无首的情况下，如何统一行动，统一指挥，将领们一致推举李家钰为指挥官。李家钰认为，西撤部队人马相挤，争先恐后抢路走不是办法，若遇日军袭击，将损失惨重。随后画出两条行军道路。由于人数众多，行动不便，李家钰遂决定走这两条道路之间的路，以掩护各部向西转移。
