在张作霖励精图治整顿东三省之际，他也没忘关注关内的纷争。直奉战争之前和孙中山取得联系后，他们的联络就一直没有断过，段祺瑞在退居天津后，重新获得政治地位的心不死，也找到了张作霖为合作伙伴，共同谋划如何推翻曹、吴。张作霖也一直在等待机会。当他看到直系冯玉祥与吴佩孚的矛盾后，还把冯玉祥拉拢到身边。此次，张作霖对攻守同盟的结合准备十分充足，时刻准备着一雪前耻。
卷土重来，如愿成总统
1924年到1927年这短短的四年时间，是北洋军阀统治时期战争最多的年份，也是北洋军阀最混乱的时期，各方势力你方唱罢我登场，张作霖作为当时最有实力的军阀头子，在这场充满刺激与艰辛的斗争中画上了自己政治生涯取得最高权力的符号。张作霖在第一次直奉战争战败后一直在寻找机会一雪前耻。曹锟通过贿赂议员成为大总统后，********就掌握在直系的手中，直系也以主人自居，越来越嚣张跋扈，因此也激怒了不少人，为张作霖联合各方反对直系统治提供了很好的契机。
第二次直奉战争的导火线是直系、皖系在江浙的战争，江浙战争原因为所属直系孙传芳的部队抢夺皖系卢永祥的浙江的地盘，卢永祥向张作霖求增援。至此引起了直奉的直接开战，开战之初张作霖给曹锟写信，问候其起居，信中提到担心他被吴佩孚禁足成为傀儡，要是需要帮忙，由于地面交通不便，可以用飞机来接他。张作霖赤裸裸的挑衅让曹锟十分担心，他急忙派人到洛阳请吴佩孚回北京主持战局。多次邀请后吴佩孚才款款而来，并得到了北京各界人士的欢迎，曹锟授予吴佩孚海陆空大元帅一职，自己也听从吴佩孚调遣。这时的吴佩孚权利到了极点，在“讨逆军司令部”商讨战略部署上，谁的话也听不进去，一切部署全按照他的来办。在战略部署中，吴佩孚忽略了空军和海军的战略安排，在这次战斗中吃了大亏。一方面，吴佩孚对于奉系军队的严重低估，在多次战争得胜之后被胜利冲昏了头脑；另一方面，吴佩孚寄希望于孙传芳的支援，对冯玉祥的临阵倒戈毫无防备，最后在吴佩孚的领导下，直系以惨败收场，北京政府由张作霖和冯玉祥暗中把持。
直系失败后曹锟被赶下了台，张作霖、冯玉祥又抬出了段祺瑞主持国政，又开始了新一轮对地盘的瓜分。张作霖借由为卢永祥取回其所拥有的浙江地盘，出兵南下。奉系出兵南下，一举夺得了鲁、沪、宁、皖等地。此时的张作霖坐拥中国三分之一的地盘，但地盘多了事情就多了，同患难不能同富贵，一碗水总不能端得十分平。张作霖在对下属的管理上还延续了做土匪时所沿用的办法，谁打下来归谁，谁厉害谁就有地盘，这就招致一些在后方出谋划策的人的不满，张作霖在后方指挥部下驰骋疆场之时前院起火，这一把火差一点把张作霖半辈子的经营给烧没了。
原来，随着奉系势力的扩张，其内部也出现了许多小派系，最主要的有两派：一个是新军，主要亲近张学良；一个是旧军，主要是跟随张作霖的绿林英雄。由于张作霖权力过于集中，对下属功勋的分配不均，又对当时革命者加以迫害，为了筹措军饷，他还在东北种植鸦片，导致了新军将领郭松龄的反叛。
郭松龄召集下属说明原委，列指张作霖的种种恶行，以此换取下属的支持，进而达到了反叛的目的。郭松龄当时掌握着奉系最精锐的部队，可以说是张学良的嫡系。张学良对郭松龄过于信任，才导致了这支部队从装备到供给都独立于其他各部之外。郭松龄带着这只劲旅快要打进奉天城，此时的张作霖看着自己建立的军事帝国将要崩塌，拔出枪就想自杀。在王永江的劝说下，张作霖恢复冷静，他向日本求助，日本的出面给了张作霖很大的信心，他决定和郭松龄决一死战。
由于日军的出面使郭松龄的部队耽误了时间，导致军粮与药品短缺，在后勤上出现的严重的问题。正巧又赶上冬季的来临，张作霖一边奋起反抗，一边专门针对郭松龄的后勤补给进行破坏，以此来扰乱军心，同时日军也出动了炮兵，为战争的胜利提供了很好地保障。在饥寒交迫和枪林弹雨的打击下，郭松龄部下军心涣散。最终郭松龄意识到大势已去，带着妻子乔装逃跑，最终还是被抓到。张作霖马上枪决了郭松龄夫妇，但他还是不解恨，便下令将两人的尸体悬挂起来，曝尸三天。
郭松龄的倒戈是张作霖势力内部分化的一个起点，之后占据山东的张宗昌与占据直隶的李景林都有脱离奉系的举动。张作霖此时忙于联合吴佩孚这个昔日的冤家对头，一起反对冯玉祥的国民军。多年的大战已经把东北的财政耗费一空，军队多次受创后张作霖撤回了奉天，留下了张宗昌和李景林来协助吴佩孚筹划战争事宜。张、吴最终打走了冯玉祥，暂时守住了北京政府这个名义上的政治中心。
此时的北伐军已经突破了吴佩孚在长江地区的防线，由于北伐军在对吴佩孚与孙传芳的战争取得了胜利，迫使当时中国仅有的几大军阀首领不得不齐聚一堂商量对策。他们赶到天津张作霖的府邸蔡家花园召开高级将领会议，会议期间各方还在为自己的得失互相算计。会议最终决定建立安国军，张作霖就任安国军总司令并进驻北京。张作霖当时的计划是，派兵到西北阻截冯玉祥的军队，派吴佩孚、刘传芳正面抵挡北伐军，等战争斗得两败俱伤张作霖再带领东北军坐收渔翁之利。如此粗略不堪的计划却被张作霖视为绝顶的妙计，他做起了掌控全中国的美梦。张作霖进驻北京后就对大总统为位置十分垂涎，虽然战事吃紧，没有得到全范围的胜利，但这时的张作霖又表现出了他赌徒的性格，非要当一回大总统以了却一桩心愿。
张作霖进驻北京后也开始对共产党下手，逮捕李大钊并于1927年4月28日以绞刑处死了李大钊等二十多名共产党员。张作霖处在全国舆论的打击之下，但张作霖此时把希望寄托到外国人手里，认为这是在向外国表决心，此时的外国各界政府都已经对北洋政府失去了兴趣，开始寻找新的接班人。四一二反革命政变使北伐军分裂为南京政府和武汉政府，最终南京政府在******的带领下占据了主导地位，代表封建主义、帝国主义和大资产阶级的利益建立了南京国民政府。对于苟延残喘的北洋政府，******向张作霖提出了改旗易帜，信奉“三民主义”的要求，但张作霖想的却是“南北议和”。
******表示在张作霖易帜后只给他东北三省的地盘，这是张作霖不能接受的，他把原因归结为自己没有个名正言顺的地位来与******平起平坐谈条件。在孙传芳以及老部下的支持下，张作霖决定再赌一把。
1927年6月18日，张作霖荣登中华民国海陆军大元帅，上任后就颁布条令说明他这个元帅不统领全国军队，在军事混战时代表中华民国行使统治权，同时发布电报想与******联合起来共同反对共产党，以求得地位的巩固和维持。阎锡山这时却和张作霖唱起了对台戏，接受了******的易帜要求，并被任命为北方总司令，张作霖的军队开始和阎锡山对峙，最终阎锡山失败退回老巢，为张作霖的统治延续了寿命。1928年年初，******开始准备大规模的北伐，战事一开始，在奉系的精锐进攻之下北伐失利，后来，张宗昌和孙传芳的所在地区失守，战争局面开始扭转，这也是张作霖奉系战败的开始。张作霖仍然在赌，他觉得，这次一战，如果赢了就能得到全中国，如果输了，还可以退守到关外继续做自己的东北王。
战事上的失败让张作霖失去了争夺全国的机会，同时国际上对于张作霖所在的中华民国不予承认，纷纷倾向于******的南京国民政府，而日本方面也趁火打劫，向张作霖索要更多的特权。最终张作霖只能放下这和自己想象中不一样的“大总统”要回去做自己的“东北王”。在这次豪赌中，张作霖虽然损失惨重，但奉系的根本并没有丢，把一切事宜交给张学良后，张作霖计划回到奉天指挥战事，谁承想回奉天的路却成了张作霖的断魂路。
一声巨响，梦止皇姑屯
日本在侵略中国期间一直想把满蒙地区控制在手中，因此他们不断更换代理人，以寻求利益最大化。日本人在北洋政府期间和袁世凯签订过“二十一条”，由于袁世凯的狡猾应变而没有完全达成，日本就把“二十一条”合法化的希望寄托在张作霖身上，但张作霖当时羽翼已丰，不再一味地听从日本人的安排，这使得日本对张作霖怀恨在心。张作霖对日本的态度方面，早时可以用“含糊不清”来形容，后来，日本的要求越来越过分，张作霖干脆置之不理，还在舆论上对其进行打压。日本关东军的一些极端分子，早就想杀掉张作霖，自己来统治东北三省。但由于张作霖势力越来越大，日本极端分子的计划一直被他们的高层制止。
当******的北伐军队要打进北京时，所有人都知道张作霖的政治前途没有了希望，张作霖几经发布电文想要和谈均没有成功，最后在1928年6月3日登上去回东北的火车。鉴于当时的局势，张的部下想让张作霖走公路，但张作霖嫌公路颠簸，他并且对自己的老家充满了自信，认为没有人敢在自己的地盘对他下手。当时奉天的宪兵司令向张作霖汇报过日军在南满铁路与京奉铁路处有诡异行动，张作霖部队想设立警戒却遭到了日本人的破坏。张作霖对此不以为然，还训斥其胆小疑心太重，却不知此时日本正在密谋一场针对他的惊天布局。
张作霖打碎了日本想在满蒙建立国家的美梦，成了日本在中国东北进行掠夺的最大障碍。张作霖曾经说过：“我张作霖没有别的能耐，但替国家守护这点土地，还敢自信。日本人费莫大的力气，要求‘二十一条’，你问他在东三省得着什么了？他连一条也没有实行的了。不是我吹，你们可以实地考察。”在东三省，张作霖严禁日本商人租中国的土地，日本人试图从当地民间进行租赁，最后也以失败告终。以上这些，让日本人对张作霖的仇恨与日俱增，他们把日本在华的发展阻碍全归结到张作霖身上，认为只要张作霖一死，奉系必定崩溃。不过，杀死张作霖的方案在日本首相那里没有通过，日本首相还想借助张作霖来进行统治，以稳定东北的局势。所谓“将在外君命有所不受”，军人有他们自己的思维模式，东北地区的日本人就把所有的矛盾都归结到了张作霖，决定不管付出什么代价都要让张作霖死。