1945年5月初，德国无条件投降后，苏联的视线逐渐转向远东地区。中国共产党领导下的东北各抗日武装也不断打击和消灭日军力量。关东军只好重新扩充力量，进行备战。为此，关东军将在东北的25万退伍的日本军人重新征集，并编成8个师团、7个混成旅团、1个坦克兵团和5个炮兵联队，作为临时部署兵力的补充。经过迅速补充，关东军兵力一举达到24个师团，约70万人。关东军兵力的增加只是一种表面的膨胀，武器装备和战斗素养仅仅相当于以前的8个半师团。特别是由于日本在各个战场连遭惨败，士气低落，关东军往日的威风已经不复存在。
成为逃跑兵团
欧洲战事结束后，苏军开始腾出手来对付关东军。1945年8月8日苏联向日本宣战。此刻，苏军元帅华西列夫斯基指挥的150万重兵已经利用夜幕掩护在中苏边境展开。9日凌晨，苏军突然从三个方向同时向日军发起了强大的突击行动。拂晓，苏军几乎在所有方向上跨过了国界，强渡了额尔古纳河、黑龙江和乌苏里江，分别从后贝加尔、黑龙江沿岸和滨海地区进入了中国东北境内，在5000公里的正面战场上展开了强有力的攻击。9日，毛泽东主席也发表了《对日寇的最后一战》的声明，配合苏军的进攻行动。
尽管关东军早有对苏作战的准备，甚至一度还拉出与苏军决战的架势，但是，由于关东军设想决战的时刻是1946年，不仅未能侦察到苏军的实力，甚至连苏联正式对日宣战的消息，也没能提前得到。在苏军的强大攻势下，关东军精心布设的阵线很快就土崩瓦解，总司令部慌忙决定放弃“新京”(长春)，固守通化，并指令伪满洲国皇帝溥仪随总司令部迁往通化，企图在通化一带与苏军决战。此时的关东军官兵已经完全没有了斗志，纷纷逃命。原来设想的大决战竟然化为一场拼命的追逃游戏。苏军各个方面军的作战行动都进展顺利。特别是由克拉夫钦科上将指挥的近卫坦克第六集团军在大兴安岭的突击行动收到了奇效，在不到一周时间已前突到东北中部地区，创造了一个奇迹。关东军从此一蹶不振。
难逃灭亡命运
8月10日，日本大本营下达命令，指示关东军在万不得已的情况下，可以放弃满洲，退守朝鲜。但长期以日军“王牌”自居的关东军为了维护自己“皇军之花”的脸面，仍然负隅顽抗，不肯投降。可是，这种打肿脸充胖子的姿态并不能重新唤起日本的士气。8月15日，日本天皇裕仁公开宣布投降。但骄横的关东军借口没有收到日军大本营的停战命令，仍然继续抵抗。到17日，除海拉尔、虎头和东宁等少数筑垒地域的残余日军仍在顽抗外，关东军已经完全丧失了抵抗能力。眼看败局已定，关东军最后一任总司令山田乙三大将终于向苏军提出了停战谈判的请求。
8月19日中午，苏军阿尔捷缅科上校率5名军官、6名士兵组成的军使团，在9架歼击机护航下到达长春机场与日军进行谈判。迫于压力，山田乙三向苏军代表交出了象征指挥权的军刀，宣布自己和部属成为苏军俘虏。此次战役中，关东军损失约67.7万人，其中8.3万人被击毙，59.4万人投降，而苏军仅伤亡3.2万人。
不仅如此，那些靠关东军发家的日本高级战犯大都也没有逃脱正义的审判。曾任关东军宪兵司令、参谋长的东条英机，曾任关东军副参谋长、参谋长的板垣征四郎，曾任关东军参谋长的木村兵太郎，曾供职于关东军司令部、后任第七方面军总司令的土肥原贤二，曾供职于关东军司令部、后任第十四方面军参谋长的武藤章，均被送上了绞刑架。其他一些臭名昭著、恶贯满盈的关东军将领要么受到惩罚，要么背着千古骂名苟且偷生。
