1928年5月，他们命令张作霖离开北京返回东北，唯恐他逗留关内会削弱他在东北的地位，并因此而威胁到他们自身的利益。张作霖在东北的代理吴俊升将军也敦促他返乡。尽管他原打算带兵伺机抗击向北京进发的蒋介石部队，但迫于压力他最终同意返乡。张作霖放下了与蒋大战一场的念头，实际上也就放弃了成为中国统治者的愿望。
1928年6月3日，张作霖乘坐火车由北京赶回东北，尽管此前奉天军警头目给他发了一份密电，警告说日本特务要在途中暗杀他。事实如此。第二天清晨，关东军在火车必经之路——郊区皇姑屯的一座桥上——安放了大量炸药。剧烈的爆炸使火车遭到严重破坏。张作霖遭到致命伤，不久即死去。他的一位妻子六夫人伴他同乘一辆火车，只是腿部受轻伤。五夫人（并非张学良生母，生母乃原配夫人）当时在帅府，正为丈夫准备接风宴席。惊闻噩耗后，她命令家人一切行动如常，以免引起日本人注意，这样日本人就无法估量他们造成的破坏，不知道张作霖究竟怎样了。然后，五夫人等张学良赶回省城。这次袭击发生两周后张学良才得知音信。因此，她实际上促成了权力由父到子相对平稳过渡，促成了上升中的张学良登上了东北统治者的宝座。
父亲遇刺这天，是张学良28岁生日。此后，他至死也不在那天庆祝自己的生日。
1928年，蒋介石挥师进京。10月10日，新国民政府成立。蒋介石的部队没到东北，但东北通过张学良和蒋介石达成的协议也落到了新政权手中。张学良归顺中央政府。遵照孙中山的遗嘱，中央政府定都南京。蒋介石已成为强有力的武士，“委员长”的尊称也从此与他相伴。
至于日本人在中国的势力，蒋介石的立场或许毫不含糊——尽可能减少。然而，最终我们清楚地看到，当蒋介石必须在共产党和日本人之间决定哪个更危险时，他首选打击共产党。
