国民党的北伐成绩非常显着，先后拿下了吴佩孚和孙传芳。最后，只要干掉张作霖，北伐就取得圆满的成功。
面对北伐军的“嚣张气焰”，坐镇北京城的张作霖待不住了。他心想：赶快走吧，反正关外俺还有那么大的地盘。在这儿耗下去，头上的脑袋瓜能不能保住，那可是个未知数呢。于是，张作霖打点好“行李”，起身要回关东老巢。
张作霖虽然跟日本人多有合作，但他有自己的“卖国底线”。所以很多时候，小日本觉得自己在东北地区强盗的勾当干得很不爽，于是就嫉恨上了老张。得到老张乘火车回沈阳的消息后，鬼子们非常高兴，打算在老张回家的路上，给他一个大大的“惊喜”。
1928年6月4日凌晨，当张作霖的专列开到皇姑屯的时候，突然“轰”的一声，火车被拦腰炸断。小日本算得很准，火车被炸开的地方，正是老张所在的那节车厢。老张满脸是血，咽喉破裂，呼吸是出多进少。看到自己的大帅受了重伤，那些逃过一劫的卫兵们连忙跑过来保护老张。
老张用微弱的声音问卫兵：“这他妈谁干的？”卫兵回答说：“大帅，正在查呢。”张作霖说：“好好好！我不能死，我要回家看看我的小五（张作霖的五姨太寿夫人）。”又说：“你们扶我撒泡尿，撒完尿就回家。”
过了一段时间，老张被送回了沈阳。老张知道自己的生命走到了尽头，于是他对自己的大老婆说：“告诉小六子（张学良），以国家的事为重，好好地干吧。我这个臭皮囊算不了什么！叫??叫他快回沈阳！”说完他就闭上了眼睛。
张学良在得到自己父亲的死讯后，非常震惊和难过。他知道这肯定是小日本干的，于是，他下定决心一定要让小日本血债血还。在老张的葬礼上，披麻戴孝的张学良脸色憔悴而坚毅。随着那阵阵的哀乐声，他双手举着一把燃烧的香跪下，恭恭敬敬地给父亲叩头，并且咬牙切齿地说：“父亲大人在上，此仇不报，儿誓不为人！”听到张学良说这话，参加葬礼的日本人心里直哆嗦。
老张的葬礼，南京的国民政府方面也派来吊唁团，并且送来了一副挽联。张学良一抬头便看见了那副挽联，上面写的是：“噩耗传来，几使山河变色；兴邦多难，应怜风雨同舟。”此时此刻，看见这样的挽联，张学良别有一番滋味在心头。他觉得自己就像被狼群包围的时候，突然来了支援的队伍。
原来这时候，小日本为了赶快吞下东北地区，已经在对张学良使胡萝卜加大棒政策。有一次，鬼子对张学良说：“张先生，据我们帝国情报机关人员的报告，你的父亲是被国民党杀害的，所以我劝你还是跟我们皇军合作吧。皇军可以给你一切。”一听这话，张学良就火冒三丈，他大声说：“你们真的把我当三岁小孩啊？谁干的，你们心里清楚！”鬼子沉默了一会说：“张先生，帝国所做的一切都是为你好。如果你不领情，那就别怪我们翻脸不认人！”说完，鬼子气呼呼地走了。这时，南边老蒋也秘密派人来劝张学良，说以前的事，都是自家兄弟间的事，希望张学良以民族大义为重，千万别上了小日本的当！一听这话，张学良知道，老蒋这其中有自己的小九九，但不管怎么说，肉就算烂在了锅里，也不能喂了鬼子，不然怎么面对死去的父亲？怎么面对东北三省的百姓？于是，他下定决心服从南京中央政府的领导。
为了防止张学良向南京方面走近，小日本在沈阳附近举行了大规模的显示“肌肉活动”。但这并没有吓倒张学良，他毅然于1928年12月29日，在沈阳向全世界宣布：“东北自古以来就是中国的领土，现在也不能例外。既然南京中央政府已经成为领导全中国的政府，东北就应该也服从中央的管辖。现在，我郑重宣布，东北遵守三民主义，接受国民政府的领导！”说完，他亲手降下以前北洋政府的五色旗，升起国民政府的青天白日旗。
至此，国民政府完成了名义上的全国统一。