抗日战争全面爆发后，时任国民政府第四十七军军长的李家钰率四十七军1.8万余人出川抗战。
李家钰率部于当年1937年12月抵达晋东南抗日前线，在八路军和抗日游击队的配合下，连续猛攻并收复了被日军侵占的晋南平陆、芮城、安邑等县城多处，毙伤日寇2000余人。1939年冬，李家钰升任第三十六集团军总司令，统辖三个军7个师兵力。
在山西抗战的岁月里，李家钰部与八路军关系融洽。1938年1月，八路军129师师长刘伯承外出回部途中，曾在长治市四十七军军部留住数日，李家钰邀请刘伯承为全军营以上军官讲授抗日游击战术。1940年春，李家钰得悉八路军总司令朱德由武乡赴洛阳开会途经其驻地时，曾派兵一个连前往迎接并设宴款待。当晚，朱德就团结御侮，抗日及民主等问题，同李家钰促膝磋谈至深夜，当时，第一次反共高潮刚刚过去，朱德举杯问道：其相兄，他日你若奉命与我军兵戎相见，你当如何?李举杯道：我当效晋文公退避三舍再战。两人相视而笑。次晨，朱德一行跨越晋(城)博(爱)公路日军封锁线时，李家钰为安全计，增派一个加强连，掩护朱德顺利过境。对八路军的游击战术，李家钰亦颇赏识，曾多次派遣所部军官到八路军游击训练班学习。
1940年，已升任第三十六集团军总司令的李家钰奉调率部进驻豫西，担负河南陕县、渑池、灵宝、阌乡一带黄河防务。期间，李家钰曾多次派出部队配合八路军及抗日游击队，渡河北击晋南一带日军。1944年4月，日军发动“河南战役”，第一战区司令长官蒋鼎文和副司令长官汤恩伯先行撤逃，李家钰忧心忡忡，他在47军师团干部会议上讲话，动情地说：“我们吃了豫西百姓四年饭，现在不能见了日本人就跑。”
