此时，段祺瑞虽然已经掌握军权，但实力上仍然难以为继，对冯国璋的伎俩，他是心知胜明，但自己却难以控制整个局势，出兵强行进攻南方军，势必造成自己的力量进一步被削弱而让直系坐收渔翁之利，不出兵吧，冯国璋的意图得逞，南方军仍然控制南方，全国统一遥遥无期。此时的他确实理解了这个词“骑虎难下”。
这时候，他的军师，也就是一直给他添麻烦的徐树铮提出了一个大胆的建议： “引奉入关”。具体做法就是说服张作霖的奉军以参战和助战为名，将奉军看进关内，威胁到京津一带，让冯国璋感到压力，并迫使苏督李纯辞职，王士珍自己下野，这样段祺瑞就可以回到北京政府，继续当他的总理了。
张作霖，字雨亭，土匪出身。他为人机敏，作战勇敢强悍，被一帮土匪推举为首领。与陆荣廷一样，他也在盘算自己的前途问题。于是，他设法接近奉天总督赵尔巽，成为东北旧军军官，他手下的兄弟们也被编入了官军。
徐世昌被袁世凯调任东三省总督兼练兵大臣时，带了北洋第三镇出关，张作霖在新军中积极扩张自己的势力。1911年，辛亥革命爆发，同盟会员、陆军第二混成协协统蓝天蔚密谋响应武昌起义闹革命。朝廷急令张作霖去镇压，张作霖很快击败了蓝天蔚，于是奉天的兵权开始转移到张作霖手里。
袁世凯大搞帝制，护国战争爆发，张作霖向袁世凯表示他愿意出兵“讨伐”西南，但要袁给他补充军饷和枪械，袁世凯同意了。可张作霖一拿到钱和枪后，玩了个花招，暗中指使奉天商会等团体发出通电，要求张作霖留在东北维持秩序，张作霖便以此为借口拒绝出兵。因为袁世凯还希望依靠张作霖的力量对抗西南，对他耍的伎俩也无可奈何。张作霖获得奉天地盘后，逐步依靠日本人，取得了黑龙江和吉林两省地盘，成为割据一方的“东北王”。
对张作霖这样一个野心勃勃的人，段祺瑞当然放心不下。他知道，按徐树铮的建议引奉军入关并不是难事，张作霖还会高兴得很，可是一旦想让奉军退回关外就“请鬼容易送鬼难”了。所以，段祺瑞只让徐树铮对外放空气，吓吓冯国璋，而不肯真让张作霖率部入关，同时加紧了对南战争。然而，段祺瑞再次遭遇了一个意外。
前面就已经说过，徐树铮其人骄横跋扈、目空一切，而且胆大妄为、专擅独行。如果大家对他认识还不够深刻，现在就有一个好机会。这件事从谋划到成熟，完全是徐树铮一个人所为，段祺瑞居然连一点风声都不知道，那就是“秦皇岛截械事件”。
还是段祺瑞第二次出任内阁总理时，曾经以陆军部的名义向日本订购了一批枪械，数量为27000多支。现在日方已经生产完毕，装船起运，运到秦皇岛的大概日期是2月3日。当徐树铮接到电报后，他那脑袋瓜又动起了专断独行的念头，私自决定将这批军械截夺下来，送给张作霖作为见面礼，作为交换条件，让张作霖引兵入关。当然，这里用的是“截”而不是“劫”，也就是说，并非强盗行为，而是内部争斗。
张作霖一直就想扩充势力，对这种天上掉馅饼的好事当然是满口答应。
于是，张作霖派张景惠、杨宇霆两人暗带军队，星夜赶到秦皇岛。这时候，冯国璋派来的接收军械的人也到了秦皇岛。张、杨二人特意同该接收人住同一客栈，每日一道吃喝玩乐，极力拉拢。等到运枪械的日本轮船抵达港口，张、杨安排人卸货装上火车，然后暗将机车倒挂过来，车头朝东，待汽笛一响，火车满载枪械出关。
军械截到后，奉天添编陆军一师，还添了陆军混成旅七个旅。张作霖按照和徐树铮议好的计划，由孙烈臣率领奉军沿京奉线入关，驻扎天津、廊坊一带，奉军司令部设在了天津军粮城，总司令是张作霖，徐树铮做了副司令。
奉军入关后，北京政府受到了直接的威胁，冯国璋非常震惊，电令张作霖退兵。张根本不加理会，冯立刻感到不妙，遂只身秘密南下，意图联络长江沿岸直系诸将商讨对策，谁知事机不密，叫倪嗣冲知道了，倪一边派人向段祺瑞急报，一边派人拦截，并终于在安徽的蚌埠阻截住冯，并逼他回京。
统一再次搁浅
奉军入关，直接威胁直系，受此鼓舞，段系势力重又抬头。同时，战场上又传来了好消息：3月17日，吴佩孚部一路顺利占领岳阳，3月18日，张敬尧所部进入平江县城，南军迅速撤退。
战场上的胜利消息令主战派们气势大增，本属直系的曹锟此时却是主战派，搞不清状况的他联合19省区的督军、都统等人致电段祺瑞，要求他重新出山：同时徐世昌也劝告冯国璋支持段祺瑞复出，否则会激起兵变；连九国驻华公使也出面支持段祺瑞。事态发展至此，冯国璋仰天叹息，无可奈何，于3月23日准王士珍辞职，任命段祺瑞为总理。
1918年（民国七年）3月29日，段祺瑞公布了他的内阁阁员名单：外交总长陆徵祥、内务总长钱能训、财政总长由交通总长曹汝霖兼任、陆军总长段芝贵、海军总长刘冠雄、司法总长朱深、教育总长傅增湘、农商总长田文烈。所有阁员都是“北洋旧人”。
段祺瑞安顿好自己的后院后，再一次把全部精力投入到“武力统一”上。事实上，这时战场上的情形还是颇令他满意的：进驻岳阳的吴佩孚率部沿铁路直奔长沙，“平、浏、醴的桂军和粤军在湘军之先向湘南撤走”。4月2日，吴佩孚部与张敬尧部会师长沙，张怀芝进入醴陵。
就在这天赐良机，让段祺瑞几乎要完成自己梦想中的统一时，老天爷偏偏不合时宜地开了个玩笑。这个玩笑不大不小，他只不过让志得意满的段祺瑞犯了一个小小的“错误”：3月27日，任命张敬尧为湖南督军兼省长。
张敬尧素有恶名，在北洋军队中，要说谁的部队战斗力最强，恐怕大家都有不同的看法，但要论谁的部队最凶残狠毒、滥杀无辜，大家的意见那是惊人地统一：张敬尧。
这且不论，就论功行赏言，攻湘最卖力最见成效的应算吴佩孚，而张敬尧不过是沾了吴佩孚的光进入长沙的。吴佩孚对段自是大为不满。另一方面，他对冯国璋却是心存感激的，因为曾有人为得到他的第三师师长的位置，向大总统府及各首脑军事机关写匿名信控告他，冯国璋非但没撤他，还委任他为攻湘第一路司令。吴佩孚不是个脑子糊涂只会玩命的军人，他对段祺瑞的想法看得很清楚，他也担心一旦这么顺利地击败革命军，直系力量也就消耗得差不多了，到时候飞鸟尽良弓藏，就没他们什么事了。
段祺瑞并不清楚也不屑于了解一个小小的师长的内心真实想法，他命令吴佩孚乘胜追击，肃清湘东的南军。但是，头脑简单的曹锟也慢慢明白过来了，尤其是张敬尧成为湖南督军更是让曹锟如同醍醐灌顶，一下子明白了段祺瑞的私心打算，原来自己忙活了半天，就是在为他老段卖命抢地盘。
于是曹锟致电冯国璋，要求免去自己两湖宣抚使一职，并准备和南军谈判。段祺瑞听说后大惊，忙给曹锟授勋稳住他，同时让奉军的张景惠开赴信阳和孝感，以增援的名义监视曹、吴动向。这一来更激起曹锟的对抗情绪，他索性以过于疲劳为名要求将吴佩孚的第三师调回岳州，并再次请求辞去两湖宣抚使的职务，休病假。第二路军总司令张怀芝因为担心他的山东地盘被人取代也出现不稳定迹象。在此形势下，段祺瑞只好亲自出马，一方面鼓舞士气，一方面稳定曹锟、张怀芝的情绪，巩固战果。
段祺瑞亲往汉口“犒师”，他努力统一前线各大员的思想，在九江会见了赣督陈光远，在南京会见了苏督李纯、皖督倪嗣冲、上海护军使卢永祥等人，主要是尽力和他们联络感情，让战争顺利进行下去。段祺瑞觉得自己的口才和威望还是很有作用的，可是，接下来发生的事完全出乎他的意料。
首先是吴佩孚，他顺利取得衡阳之战的胜利，却突然不再向南进攻，还与湘军协议互不相犯。而新任命的湖南督军张敬尧却完全是在拆他的台，在湖南巧取豪夺，大发横财，手下的部队几乎类似于土匪，令百姓痛苦不堪。
为了保存直系实力，吴佩孚准备结束战事，撤兵北上。吴佩孚是山东蓬莱人，是北洋武备学生，所以段祺瑞在他面前素来以老师自居。他一直随曹锟带兵，有较深厚的儒学修养，人称“儒将”。他的思想既独立又忠诚，为人自负也不下于段祺瑞。他所统率的部队操练勤备，纪律严明，在当时显得颇为特殊。也正是这一点以及他在南征战争中骁勇善战的表现，令他声名鹊起。
吴佩孚这个人虽然是旧军阀，但他个人的操守似乎也可以和段祺瑞有一拼，他从来不利用自己的地位和实力谋取个人利益，自己一所像样的房子都没有。北洋军阀时期的那些大大小小的军阀们哪个不是一得势就为自己购买田产房屋，但吴佩孚却从来没有过发财的时候。不光如此，他对那些借机发横财的军阀也是极为鄙视的，尤其是这个张敬尧，简直就是败类。所以吴佩孚很看不起他，要不是段祺瑞的支持，吴佩孚早就想给他点颜色看看了。所以在他撤兵之前，给张敬尧拍了个祝寿电报： “今闻大帅千秋，特率全体官兵前来长沙，庆祝大寿。”吓得张敬尧六神无主，赶忙请示段祺瑞。段祺瑞指示他马上接收吴佩孚的防区，别叫湘军又占了。但是张敬尧哪是吴佩孚的对手，吴佩孚退出一地，湘军就接收一地。这样湘军从南边一步步接近长沙，威胁到了张敬尧，迫使张敬尧只能向湖北撤退。
屋漏偏逢连夜雨，张怀芝兵败江西萍乡，也开始从江西撤军。已经控制了湖南常德的冯玉祥部也退出了湖南。为补救时局，段祺瑞打算奉军六个混成旅投入湖南战场，由徐树铮任指挥。但是张作霖却很不乐意，你段祺瑞要打仗，拿我的士兵做炮灰？想也别想，结果奉军湘东支队也退出了湖南。
更让他感到难以接受的是，曹锟率领的部队居然在没有接到中央陆军部的命令的情况下，直接回天津去了。当然，理由还是有的，那就是：生病！
怎么，我都生病了你还能让我上战场啊？曹锟是这个态度，吴佩孚一向是唯曹锟马首是瞻，对于段祺瑞的命令根本不当回事，甚至吴佩孚还公开指责武力统一是“亡国政策”，通电全国，要求罢战。
段祺瑞对吴佩孚的忍耐终于到了极限，于是通电指责吴佩孚不守军纪，根本不配做一名军人，并且要求他以后记住自己的军人本分，别再干预国家政治。没想到桀骜不驯的吴佩孚根本不吃这一套，反而回电说：“我这也是学习老师在孝感时候通电倡导共和的样子，因此是跟你学的，并不是我吴佩孚心血来潮，行为乖张。”
无可奈何花落去。在此形势下，段祺瑞不得不再次痛心疾首地承认他的“武力统一”又失败了。8月31日，他公开宣布前线各军暂取守势。
人强强不过天，在此形势下，段祺瑞也不得不徒呼奈何！“武力统一”的政策再次遭到了失败，他也只能是被迫咽下这枚苦果。8月31日，段祺瑞宣布前线各军停止进攻，驻守原地待命！