至3月29日,在日军的猛烈攻击下,临沂已处于危急之中。第五战区派驻在海州的第五十七军缪澄流部王肇治旅赴临沂增援。汤恩伯部骑兵团也赶来增援。面对同仇敌忾的中国军队,敌寇伤亡千余人,被迫向汤头退却。同日晚,由于临沂久攻不下,台儿庄方面又陷于苦战,日军遂转移进攻方向,命令在临沂的日军停止进攻,抽出坂本旅团主力两个步兵联队和一个野炮兵联队星夜兼程南下,赶赴台儿庄进行支援,仅留一个联队步兵和少数炮兵在临沂与张、庞两军对峙。至此,第五十九军的伤亡也已达万余人。4月21日,由于台儿庄战役吃紧,张、庞两军相继撤离,临沂遂被日军占领。
在40多天的临沂保卫战恶战中,张、庞所部将士的鲜血染红了沂河。第四十军庞炳勋部从海州来临沂时一万三千人,撤离时,只剩下了50多人。张自忠第五十九军所部三万五千人,伤亡大半,营连以下级军官几乎全部阵亡。
临沂之战成就了张自忠抗日名将的英名。时任第五战区司令长官的李宗仁将军回忆临沂之战时,说:“此次临沂之捷,张自忠的第五十九军奋勇赴战之功,实不可没。”白崇禧将军回忆临沂之战时也说:“张将军在徐州会战之临沂战役,与庞炳勋将军将敌精锐第五师团击溃,减轻徐州会战之压力,使台儿庄获得抗战以来第一次胜利,于战史上占有辉煌的一页。”
经过临沂之战,张自忠名震中外,再也没有人说他是汉奸了。当时国民政府中央明令嘉奖,4月张擢升为二十七军团军团长,仍兼第五十九军军长,10月又升任三十三集团军总司令,旋兼任第五战区右翼兵团总司令。从此,张将军驰骋抗日疆场,与日军浴血奋战,直至殉国于宜城境内十里长山。张自忠将军是第二次世界大战50多个同盟国中殉职最高的将领,也是抗日战争期间为国捐躯的唯一的国民党上将级军官,被誉为“抗战军人之魂”。