1928年6月4日5时20分，张学良的父亲张作霖乘坐的专列在途经南满铁路皇姑屯一段时，被日本人预先埋设的炸弹炸毁，张作霖身受重伤，于当日上午9时30分死亡。为保时局稳定，东北地方当局谎称张作霖只是受了轻伤。当时，身在兰州的张学良得知关东军已开始秘密调动，打算浑水摸鱼，趁乱占领沈阳。为防不测，他化装成一个伙夫，跟随部队秘密赶回了当时称为“奉天”的沈阳。
回到沈阳后，张学良才得知父亲的死讯。为保国家大业，张学良强忍悲痛，模仿父亲的笔迹签发命令。等到把一切相关事宜都安排好了，东北地方政府才对外宣布张作霖的死讯。从此以后，为了怀念死去的父亲，铭记杀父之仇，张作霖的忌日便成了张学良将军的“生日”。
张学良主政东北之初，日本人并没有把这位“少帅”放在眼里。当时，担任张学良军事顾问的日本特务头子土肥原贤二起草了一份计划，想让张学良在东北称帝，担当日本人统治东北的傀儡。出乎土肥原意料的是，当他把这份精心策划的文件送到张学良面前时，少帅当面质问他：“你让我当什么满洲皇帝，你这是什么意思！”碰了一鼻子灰的土肥原说不出一句话，只好夹起皮包，悻悻而去。随后，张学良要求日军参谋本部将土肥原调走，得到的回答却是：“这个顾问是日本政府派来的，我们没权调动。”心头满是怒火的张学良将军对来人说：“好，你们没权，我没法子。那么我有这个权吧———我不见土肥原！我不跟他谈话！以后土肥原顾问来，我任何时候都不见。”
1928年12月12日，张学良宣布东北易帜，服从国民政府领导。国民政府在形式上完成了统一。当时，在东北有不少日本间谍，但事先对此事却毫无察觉。
从1929到1931年夏，关东军参谋部先后四次以“参谋旅行团”的名义在东北各地系统搜集情报，拟定各种计划方案。日本军国主义分子也积极为侵略东北做准备。
1931年4月，原驻日本寒冷地区仙台的第二师团轮驻辽阳；为对付沈阳城坚固的城墙，日本又从东京调运两门24厘米榴弹炮，配属日军驻沈阳第二十九联队兵营，炮口预先瞄准北大营和飞机场；7月，又从本土增派一个师到朝鲜，准备随时渡过鸭绿江参战。同时，日本还将熟悉中国情况，担任张作霖顾问多年的本庄繁调任关东军司令官；将一直从事于策划进攻东北，主持制定过多份解决满蒙问题大纲的参谋本部情报部长建川美次少将调任作战部长；另将“九一八”事变的主谋之一、绰号“日本之脑”的石原莞尔以及坂垣征四郎等人调至关东军参谋部任职。
此外，日本还施展调虎离山计，策动阎锡山与汉奸石友三等人挑起反对张学良的战争，将介入1930年中原大战的东北军主力继续吸引在关内，致使东北兵力空虚。至此，日军在东北的准备基本就绪，只等待着合适的时机，寻找借口发动侵略战争了。