日本内部帮派矛盾引杀机
1916年4月，张作霖当上了奉天督军，掌握着奉天省的军政大权。这时候，在日本统治集团的军政两界，对张作霖存在截然不同的两种看法。
这些看法都和当时日本极力推行的“满蒙独立运动”紧密相关。所谓“满蒙独立运动”，实际上是日本妄想把内蒙古东部和整个东北变成一个实体，成立一个独立的满蒙王国，由日本托管。
以日本参谋本部、日本关东都督和日本浪人川岛浪速等为首的一派认为，要实现满蒙独立，就必须依靠宗社党和内蒙古叛匪。宗社党是一个以复辟清朝为宗旨的反动组织，其头目就是清朝的肃亲王善耆，成员大多是清朝的宗室贵族、遗老腐儒。他们积极投靠日本，企图借日本之力东山再起。日本也正想利用他们，以达到自己的目的。
而另一方面，以日本参谋本部次长田中义一、日本外务省和日本驻奉总领事为代表的一派则认为，实现满蒙独立，应该利用张作霖，张作霖是日本的最好帮手，应该鼓动张作霖独立，日本便可兵不血刃地占领东北。日本这两派势力互不联系，在东北和蒙古各自活动。
早在1915年夏，日本人土井、川岛等人乘袁世凯复辟帝制的机会，利用宗社党和内蒙古匪帮巴布扎布为主要力量，策划“满蒙独立运动”。计划开始付诸实施时，在中国的一些日本外交官却表示坚决反对。他们认为，依靠宗社党和内蒙古匪帮搞独立风险太大，如不成功，会使日本丢脸，不如改用张作霖来搞，更为妥当快捷。双方各执己见，相持不下。
川岛等人因此认为张作霖是实现“满蒙独立运动”的最大障碍，决定用暗杀手段除掉他，然后乘乱杀入奉天城，使东北成为“宗社党”的天下。1916年5月，日本土井少将接到除掉张作霖的密令，马上来到奉天满铁附属地，纠集日本浪人伊达顺之助、三村预备上校等组成“满蒙决死团”，刺探消息，以便伺机行动。
第一次投弹不识庐山真面目
1916年5月27日，机会来了。这一天，日本天皇之弟闲院宫载仁亲王从俄国返回日本经过奉天，张作霖要到奉天车站去迎送。他特率部下汤玉麟等乘5辆豪华俄式马车，在骑兵卫队的护卫下，大张旗鼓地赶往车站。
送走“贵宾”后，张作霖在归途中路过小西边门，突然遭到炸弹袭击。炸弹是从一层楼的窗口里投掷出来的。但是，暗杀者没有见过张作霖，看见汤玉麟煊赫的气派，就把炸弹投向了他。刹那间，小西门大街硝烟弥漫，乱作一团。但由于刺客惊慌失措，投弹不准，汤玉麟等人只受了轻伤，在后边护卫的卫队士兵被炸死了五六人。
第二次投弹仅炸飞了张作霖的帽子
坐在后边马车上的张作霖头脑很灵敏。情知有变，立即跳下马车，蹿上马背，以极快的速度同卫兵互换上衣，然后在四周马队的保护下，从小西边门背胡同，穿过大西边门绕道奔回将军署。
当张作霖乘马飞驰经过奉天图书馆时，突然从图书馆门洞里跑出来一个人，手拿炸弹向张作霖扔去。由于张作霖飞马疾驰，炸弹在张作霖的身后爆炸，气浪只炸飞了张作霖的帽子，人倒是安然无恙。那个刺客被炸弹的弹片击中要害，在大街上滚了几下，就死了。
张作霖赶回了将军署，他的那匹马已经通身是汗，后腿正淌着血，马肚子也受了伤。门卫知道出大事了，赶紧在门口架起了机关枪，卫队也被紧急召集起来，整个将军署如临大敌，处于戒备状态。
日本人来慰问了
略受轻伤的汤玉麟也骑快马赶到了将军署，立刻问：“七爷回来没？受伤没有？”卫队长赶忙回答：“刚回来，没有受伤。”汤玉麟这才放下心来。很快，卫兵进来报告：“日本铁道守备队队长和日本驻奉总领事来慰问。”慰问是假，探听是真，日本人想来看看这次炸张的效果。
张作霖对日本人说：“哼，有人打我张作霖的主意，没那么容易！”日本人见张作霖神色自若，不禁暗自称奇。
别查了，不再追究
这次炸张事件，是日本帝国主义者第一次对张的谋害(12年后，在皇姑屯又搞了第二次炸车事件，张作霖被炸死)。这次谋杀事件发生后，日本人造谣说，暗杀行动是宗社党干的。事实上，将军署的密探们早就已经查清，暗杀是日本人所为。刺客没炸死张作霖，自己倒被炸死了，检验那个刺客的尸体，密探们发现虽然他穿戴的是中国老百姓的服装，但他的脚形明显是常穿木屐的，可以确定是日本人。
由于没有受到致命的伤害，而且又在日本人的势力圈内，张作霖对这次暗杀事件采取了故作不知、未予追究的态度，忍气吞声地对部下说：“别查了，拉倒吧！”张作霖明白，既然不可能向日本人兴师问罪，那么追究下去，只能是自取其辱。为了尽快平息这起突发事件，张作霖还故意在一个公开场合当众说：“算了吧，单从脚形判断凶手，证据不足！”算是把这一事件敷衍了过去。
这次暗杀事件给了张作霖一个重要教训，使他懂得，不能不对日本加以防备，当日本人的傀儡是很危险的。在以后的十多年里，张作霖既利用日本人达到自己的目的，也对日本保持一定的警惕性，并在可能的范围内抵制日本的无理要求。