日本关东军在确定了要对张作霖进行暗杀后，就开始制订实施方案。开始关东军村岗司令制定的计划是派竹下义晴去北京，借助驻守华北的日军的力量在北京对张作霖进行暗杀，不想同为村岗部下的河本大作洞悉了竹下义晴的举动，探明了要去暗杀的张作霖计划。在河本大作的提议下，日本关东军改变了原有方针，把对张作霖的暗杀行动放在了张作霖由北京回奉天的铁路上。经过勘察，河本大作把地点确定在京奉铁路与南满铁路的交口，并制定了多套方案，倘若炸不毁火车，就控制铁轨让火车翻出铁轨，并组织敢死队近身搏杀张作霖。当日本布下天罗地网等待张作霖踏进陷阱之时，张作霖也挥手告别了北京，告别了留守北京的张学良，乘上了回到关内的火车。回奉天的途中，张作霖还在想着如何养精蓄锐，囤积资本之后再杀回关内，这时，火车行驶至皇姑屯，一声巨响，张作霖所在的车厢被炸得脱离轨道，当时的随行人员死伤大半，张作霖被炸得浑身是血，他的警卫员背起张作霖逃离了出事地点，与奉系部队会合后，把张作霖送回到奉天。
日本无耻地借皇姑屯事件，贼喊捉贼地把张作霖的遇刺推到南方便衣的头上，并以炸毁日本所管辖的铁路为由想挑起东北战事，来到达控制东北的目的，由于日本内部的意见不同，这一诡计没有实施。此时各方势力在关注东北战事的同时也在关注着张作霖的生死，对于张作霖被炸身亡的消息奉天采取了保密措施，一方面邀请日本派最好的医生前来给张作霖看病，另一方面，寿夫人周旋于日方派来探听虚实的“日本太太”之中强颜欢笑。这一切都是为了拖延时间，让张学良从北京赶回奉天来主持大局。
张作霖死的那一天正好是张学良的生日，之后张学良再也没过过生日。
张学良从北京回奉天也是困难重重，最终不得不乔装打扮，混入军中与退守关外的军队一起回到了奉天。张学良到达奉天之后，张作霖的死讯才传开。张作霖的职位由谁来继承成了多方关注的焦点，这时张学良不敢以最高首领自居，而是抬出了张作相为东北三省保安司令，自己则为奉天保安司令。张作相等老一辈跟随张作霖打天下的文武官员都还是存在着封建思想，认为子承父业才是正统，最终在多方的劝说之下，张学良成为东北三省的最高长官。
日本方面在害死张作霖的事件上也出现了分歧，对日本的政治侵略造成了很大的影响。日本的统治也出现了分裂，日方的军事力量开始干涉到政治。张作霖死后，日本根本不把张学良看在眼里，认为张学良是一个乳臭未干的小毛孩，恐吓一下就能乖乖的为日本所用，他们没想到，张学良的脾气比张作霖还硬。
张作霖在位时就对日本的行径大为反感，张学良更是接受过新式的教育，对日本想要占据东三省的野心更是十分清楚，打心底里对其十分憎恨，再加上张作霖受害的地方是在日本管辖的地区，虽然没有证据说明一定是日本人炸死了自己的父亲，但从种种迹象表明这件事就是日本人所为。张学良在国仇家恨面前根本不买日本人的账，使得日本人与张作霖签订的一切条约都成了一纸空文。
张作霖的下场是可悲的。北洋政府时期，也只有张作霖这样的枭雄才能活得更加长久。张作霖在最后与******争夺全国失败之后，已经显得力不从心。这时的张作霖，俨然是一个想归隐山林、告老还乡的老人，没想到半路上被日本人刺杀。纵观张作霖的一生，他可谓是纯纯正正的草根英雄，暂且不论他的功绩和过失，仅从他对日本的反抗来看，他的一生就已经成功了。张作霖一生好赌，也决定了他人生历程的大起大落，吃过亏，享过福，当过乞丐，也当过中国最高统治者。抗日战争胜利之后，河本大作被抓获，供认了暗杀张作霖的全部过程，世人才终于得知张作霖的真正死因。
最硬气的“土匪头子”
张作霖的一生极富有传奇和戏剧色彩，有太多不可思议的事情发生在这位“土匪头子”身上，恰恰是因为这些不可思议的事情，成为了张作霖成功的垫脚石。同时在张作霖的身上也发生过许多啼笑皆非的趣事，每每张作霖都能巧妙地化解，体现出了他的机智。由于是从贫苦阶层一步步当上“东北之王”，张作霖也有他独特的倔脾气——张作霖事必亲为，喜欢一切都掌握在自己手中的感觉。张作霖的硬气救过很多次张作霖的命，也给他带了飞黄腾达的机会。
张作霖年少时其实也读过几天书，少年时期的张作霖在父亲的带领下时常出入赌场，但儿时的玩伴有些在上学，张作霖就很好奇的去偷听私塾教授的课程。时间长了张作霖也能背出几段文章，这些书本上的东西开始吸引他，最后他感觉偷偷地听满足不了自己的求知欲，他就趴到窗户上去看。有一次，私塾先生杨辅庆让一名学生背《三字经》，这名学生背不出，却听见门外传出儿童背诵《三字经》的声音，这时杨辅庆才发现了张作霖，仔细询问过后，发现张作霖不仅聪明，而且在回答他的问题是毫不慌乱。杨辅庆升起了爱才之心，免费教授张作霖知识。张作霖刚刚到私塾读书时还十分守规矩，对私塾的一切充满了新鲜感，慢慢的张作霖就对这种教育失去了当初的耐心，开始在私塾里欺负同学，扰乱学习秩序。杨辅庆知道后，用竹板打了他几下让他改正，张作霖却从此记下了仇，决定再也不去私塾读书了。
离开私塾前，张作霖还干出了一件谁都意想不到的事情，他不仅自己不上学，还堵到私塾的门口打跑了前来上学的同学。最后在张作霖母亲的规劝下这件事情才到一段落。
不过，张作霖并非忘恩负义之辈。进奉天之后，他不忘这位老恩师，也为自己年少时所做的事情感到十分羞愧，他知道杨辅庆德高望重，就请他来做儿子张学良的启蒙老师。
张作霖从小就脾气倔强，很有“只许我欺负别人，不许别人欺负我”的架势，非常硬气。不过，这也是当时在混乱的东北生存下来的秘诀，正是这种性格才造就了乱世中张作霖的崛起。
张作霖不仅对别人硬气，对自己也十分硬气。他对自己的要求十分严格，他知道作为领导者要在下属面前树立威信，而这种威信是靠对自己行为的严格约束。
在治理军政方面，张作霖很有自己的风格。他对待下属既有宽松的时候，也有严格的时候。张宗昌投靠到他的门下之后，张作霖拨给他一批军费，张宗昌领到军费后却和其他将领聚众赌了起来，最后把军饷输了个精光。张作霖知道后没有对其进行责怪，反而邀请和他打牌的将领和张作霖一起赌，最后张作霖带着张宗昌赢回了所输掉的军费。这样一来，张宗昌更加为张作霖卖命，另一方面，张作霖也借机向其他将领进行警告，让他们知道赌博的危害。张宗昌是新提拔上来的将领，对于张宗昌的言行举止，张作霖更是以身作则，言传身教。有一次张宗昌从黑龙江回来见张作霖，还没有进办公室就喊道：“老爷子，效坤回来了。”张宗昌前脚刚刚进门，就被张作霖一顿批评：“不要忘了你是个军人，这里不是家里，作为一个军人要有军人的素质，出去重进。”张宗昌被这突然的一顿批评吓出了一身冷汗，连忙退到门外举手敬礼喊道：“报告！张宗昌前来复命。”
张作霖上过几天学，也识得几个字，当上官后他逐渐感到自己的不足，就开始读书学习，还练习书法。有一次他出席日本人举办的一个酒会，在酒会上一位从日本来的上层想请张作霖留下墨宝。因为他知道张作霖是绿林出身，想让张作霖在酒会上出出丑。只见张作霖拿起毛笔写了一个大大的虎子，再落款处写上“张作霖手黑”几个字，日本人见张作霖出了丑，就哈哈大笑。这时，张作霖的随从急忙告诉张作霖他把“手墨”写成“手黑”了，丢掉了下边的“土”字。张作霖本来就很看不惯日本人，借着这个话头厉声对随从说：“本大帅还不知道‘墨’字怎么写吗？对付******日本人手就是要黑，这叫寸土不让！”
张作霖对日本人可不止硬气了这么一次。不平等条约签订后，日本人占据了南满铁路，同时把铁路沿线都划为自己的特权区，尤其在奉天火车站占据了大片的区域，内部有商业有学校，甚至还有兵营，俨然形成了一个租界，中国人到了这里也要受到他们的管制。
有一天，张作霖部下的一名士兵到租界内，不知什么原因与日本兵发生冲突被日本兵打死。中方要求日本赔礼道歉，并保证不会再有类似事情发生。当时的日本人十分的狂傲，拒不道歉，最后只给了二十块钱的丧葬费。这可把张作霖气坏了，张作霖就吩咐奉天的宪兵司令陈兴亚，吩咐他在宪兵执勤时，只要看到日本官兵携带武器扰乱民众生活，就立即枪决，一切后果则由张作霖承担。当时日本兵在中国的市区从来都是横行直撞，在酒足饭饱之后还到处惹事打骂中国同胞，并摆出一副你们不敢动我的样子，严重扰乱了市民的生活和生命安全。张兴亚早就对日本兵恨得牙根痒。张作霖的命令给张兴亚所带领的宪兵壮足了胆量。一次，两个日本兵在闹市区用刺刀杀死了一个中国人，宪兵规劝不住，便拔枪射杀了这两名日本兵。
张作霖得知此事后心里想总算轮到我出出这口恶气了，他立即安排交涉部门对日方表示：“日本兵在闹市区杀人，拒绝接受宪兵的调查，还要开枪杀我奉天宪兵，宪兵开枪自卫杀死贵国士兵两名。根据上次你方打死中国士兵赔偿丧葬费20元。中国方面死了一个，贵国死了两个，特此把应当给贵方的20元丧葬费奉上，希望日后贵国严格约束士兵的行为，以免再有以上事情发生。”通过这件事，张作霖十分痛快地打击了日本人的嚣张气焰，在张作霖管辖区域，日本人安分了许多。正是应为张作霖有强硬的一面，才不至于成为日本人的傀儡。
张作霖直奉第一次战败之后大力发展东三省的军事和教育，并在东北建起了连日本人都羡慕的兵工厂，兵工厂的筹备过程还出现了一件趣事，事后人们看到这座兵工厂后都说这座中国的“克虏伯”是赢回来的。
事情经过是这样的。德国在第一次世界大战中战败后被禁止生产武器，克虏伯等兵工厂都在卖生产兵工的设备，张作霖就命令当时负责兵工厂建设的韩麟春带领一位工程师和50万元去上海购买设备。到了上海后，韩麟春被上海的赌博业吸引，把50万买设备的钱全都输掉了。韩麟春写信给张作霖主动认错，请求张作霖再打一笔钱，并声称买完设备回去愿意以死来抵自己所犯下的错误。张作霖看到信后大骂道：“真没骨气，出去丢我张作霖的脸，输了再赢回来不就行了，还想着寻短见。”他马上吩咐人给韩麟春打了100万并嘱咐道：“50万买机器设备，另外50万接着去赌！”二人于是带着命令下赌场，也许是否极泰来，这一赌确实赢了，赢的钱最后超过了本金的四五倍。韩麟春最后把所有的钱都买成了军工设备，建成了当时中国最大的兵工厂。
张作霖在对下属和对待日本人都充满了一种匪气在里边，有骨气，有胆量，重气节。张作霖正是用时代赋予他的一种狂傲不羁又用自己的智慧处理与现实之间的矛盾。在今天看来，张作霖俨然一副土匪头子的模样，但他坚持自己的立场，在日本的侵略面前坚持寸土不让，使得中国和日本签订的“二十一条”成为一纸空文。最终张作霖的硬气也伴随着他的生命走到了重点。日本人需要懦弱的傀儡，张作霖已经让日本感到了威胁，土匪出身的经历使他天生就不愿受人摆布。为了自己的良心张作霖硬气到了最后，值了！