“只知段总长，不知袁总统”
袁世凯并不是一个喜欢****的人，他懂得放权的重要性，早在小站练兵的时候，就把管理教官的权利全都交给了段祺瑞。袁世凯以治军严明着称，而段祺瑞则比他更严格。有一次，段祺瑞的一个老乡触犯了军法，应该被处斩，这个人便让家人拿钱贿赂袁世凯的姨太太，求姨太太帮忙说情。袁世凯被说动，找到段祺瑞，让他网开一面，没想到，段祺瑞却以不能法外开恩为理由拒绝了。通过这件事，袁世凯不仅没有怪罪段祺瑞，反而对他更加刮目相看了。
小站练兵的时候，段祺瑞请了几名精通德文的人翻译德国军事着作，准备成集出版。为了表示对袁世凯的敬重，他把书稿呈给袁世凯过目，袁世凯看到后爱不释手，就以需要修改为由留下了这些书稿。后来，袁世凯根据这些书稿，撰写出自己的军事着作，屡屡被人称赞为军事奇书，但当时军队中的人都知道，这其中段祺瑞功劳不小，也正因此，他们对段祺瑞更加拥戴了。
1900年8月，八国联军进攻北京，在北京进行了一系列烧杀抢掠。他们还假借帮助清廷剿灭义和团的名义，趁机潜入到保定、沧州等地，但是，八国联军的部队行进到山东德州一带时，就不敢再前进了。原来，袁世凯的北洋军队正在这里进行演习，段祺瑞、王士珍、冯国璋三人指挥着军队，生生把八国联军的先锋部队震慑住了。
1902年，袁世凯向朝廷申请设立了军政司，负责编练、调度北洋军，段祺瑞因为在治军方面颇有手段，被袁世凯提拔为军政司参谋处总办。一年以后，在袁世凯的保举下，段祺瑞又被提拔为候补道员。1903年，段祺瑞继续扩大北洋军的队伍，新招募了十二个营的新兵，在保定设北洋常备军左镇，军队势力急剧壮大。1904年6月，武卫右军改编为北洋陆军，袁世凯任命段祺瑞为第三镇统制，管辖三个协的兵力。
段祺瑞管理军队初期，军中士兵染上了赌博的恶习，经多次禁止、警告，仍然屡禁不止。段祺瑞想出了一个办法，这天，他亲自来到赌博的士官中间，和他们一起赌博，还故意输了不少钱。第二天，他把昨天参与赌博的士官都召集起来，现身说法，告知他们赌博的危害，他说得头头是道，士官们都点头同意。但是，会议一解散，他们就纷纷议论，说段老总自己赢不了钱，就不让别人赢钱，等他气消了，也就没事了。过了一段时间，士兵们见风头过去了，又聚在一起赌博。段祺瑞听说以后，马上派人严查，并把几名不肯改过的士兵抓到操场上，在全军面前审讯。这几名士兵不服管教，与段祺瑞顶嘴，还以上一次都宽恕了为理由，要求段祺瑞再放自己一马。一开始，段祺瑞只是想在众人面前杖责这几人，没想到他们竟然为自己狡辩，毫不悔改。暴怒之下，段祺瑞命人把这几名士兵斩首，全军大震，从此以后，段祺瑞的军队里再也没有敢聚众赌博的了。
辛亥革命之后，通过段祺瑞的一番运作，南方革命军当中拥护袁世凯的人越来越多，这让身在日本的孙中山感到不安。他不认为袁世凯是一个值得信任的革命家，而是一个随时可能变卦的清廷重臣。1911年12月，孙中山从日本回到中国，希望能通过自己的努力挽回时局。孙回国后，对革命军进行了整顿，同盟会成员看到孙中山回国，顿时人心振奋。很快，段祺瑞苦心经营的倒向袁世凯的形势发生了转变。
袁世凯与南方进行谈判，最终达成了停战议和的一致，12月28日，袁世凯致电段祺瑞，要求他五天之内把停留在湖北的军队撤出百里之外，等候自己当选大总统的佳音。当总统的目的还没有实现就撤兵，段祺瑞觉得这件事不妥，他正犹豫要不要听从袁世凯的指示，12月29日，下属前来报告：孙中山已经当选大总统！
听到这个消息，段祺瑞的脸立刻沉了下来。在段祺瑞眼里，孙中山和革命军只不过是一群乌合之众，他们没有经过政治的历练，根本没有资格统治中国。如今，他们违背南北议和的协定，私自成立政府，根本就是对北洋势力的无视。段祺瑞马上传领各部将：“南军有违和议条款，擅自另立政府，我必诛之！”一声令下，段祺瑞的部队对革命军展开了强烈的攻势，革命军通电谴责，段祺瑞则称是革命军率先进攻，段部抵御不成，才下令进攻。
段祺瑞的擅做主张让袁世凯陷入被动。当然，袁世凯并不责怪段祺瑞。对袁世凯来说，段祺瑞的军队没有撤出湖北，反而在孙中山就职大总统之后对革命军强火猛击，恰恰成了自己与南方谈判的重要筹码——你不拥立我袁世凯，我就让人打你。
随后，段祺瑞又联合冯国璋、段芝贵等将领联名发表通电，谴责孙中山政府的行为。南京政府这边，一派主张再次议和，而以孙中山为代表的激进派则强烈反对。孙中山坚持北伐，想要彻底消灭袁世凯的势力。实际上，这是一个十分幼稚的想法。袁世凯曾为直隶总督，又是北洋系的最高首领，掌握着全国的兵权，再加上袁世凯身后有英、美势力的支持，想要打败袁世凯，实在难似登天。
在孙中山的指挥下，革命军挥军北伐，由黄兴担任北伐陆军参谋长。三日内，革命军击败北洋军队，不断向北行进，后来在安徽、河南等地也取得了一定的胜利。然而，就在革命军因为节节胜利而军心大振的时候，一件令孙中山头疼的事实摆在了眼前：军队经费不足。孙中山早年策划革命的时候，曾经获得过南方一些黑帮的支持，从他们那里获得过不少经费。现在，经费又成了大问题。有一次，安徽都督请示孙中山发放军饷二十万，而国库中只有十元钱。为了筹款，他自作主张把苏浙铁路抵押给日本，换来了三百万，后来又把汉冶萍公司抵押给日本，换来五百万——这在后来成了日本提出“二十一条”的依据。但是，即使这样，军饷还是不够发。随着英、美势力的介入，革命军北伐的势头渐渐熄灭，孙中山在各方压力之下，只好妥协，宣布辞去临时大总统职务。
袁世凯当上大总统后，根据《约法》内容，任命同盟会成员担任内阁总长，不过，他分配给同盟会的都是农司法、工商、农林、教育等职务，而至关重要的内政、外交、财政、军权等则留在自己手里。
在陆军大权归谁的问题上，袁世凯心里的最佳人选当属冯国璋、段祺瑞、王士珍三人。王士珍对袁世凯逼迫清帝退位一事一直不满，袁就任大总统后，他就递交了辞呈，王士珍是指望不上了；而冯国璋，不够灵活，尤其镇压武昌起义期间，一味恋战，让袁世凯深为不满。在这样的情况下，似乎只有段祺瑞是最合适的。1912年3月29日，袁世凯正式任命段祺瑞为陆军总长，这样一来，全国军队的调用、编制，各军将领的任用、罢免，就全部掌握在段祺瑞的手里。后来，段祺瑞又着手培养了很多自己的亲信，在北洋政府的军队里，新生力量往往只知道有段总长，而不知道有袁总统。段祺瑞势力日益膨胀，这也为后来袁、段出现裂隙埋下了伏笔。
趁袁之危夺取大权
段祺瑞的性格有个最大的特点，就是说一不二。欣赏他的人，说他果断坚决，反对他的人，则说他刚愎自用。段祺瑞对自己在军中的权威非常在意，不允许别人干涉，只要他拍板决定的事，他绝不允许别人擅自改动，就连袁世凯也不能左右他的决定。当上陆军总长之后，段祺瑞的架子更大了，他任命自己的亲信徐树铮担任陆军次长，不允许别人质疑。慢慢地，他培养起一支只听命于自己的力量，在这些人的眼里，“只知有段总长，不知有袁总统”，袁世凯下的命令，常常不如段祺瑞的命令管用。
袁世凯政府刚刚组建时，按照同盟党的要求，设立了军事处来牵制陆军处。当时，袁世凯觉得设军事处实属多余，加上他根本不想让同盟会掌握军权，就选举同盟会成员李书城担任军事处的书记，但是根本不给李书城任何权利，担任书记很久，李书城甚至连陆军处的文件都没有看过。
袁世凯从小站练兵时就很注意均衡段祺瑞、冯国璋、王士珍等人的关系，他的目的并不是培养出一个全能的英雄，而是培养出一批能够听命于自己的平凡人。袁世凯任命段祺瑞，主要是从扼制革命党势力的角度考虑的，他根本没有重视均衡力量这件事，使得段祺瑞的势力不断膨胀，一度超过了自己。渐渐地，袁世凯对段祺瑞的嫌隙就越来越大了。
掌握了大权之后的段祺瑞更加威风凛凛，架子也更大了。他根本不把陆军处当回事，加上平时懒散惯了，很少到陆军处上班，他派司官每天往返于住所和陆军处之间，传达公事命令。袁世凯对他的行为大为不满，却又不好发作。于是，他花了三十万大洋在陆军处的隔壁买了一套宅子，因为这套宅子和陆军处仅一墙之隔，他就命人在墙上凿出门洞，让段祺瑞每天早晨起床后，一转身就能到陆军处上班。
段祺瑞赶紧推辞，拒绝接受袁世凯的好意，袁世凯不容推脱，对段祺瑞说：“这是我送给女儿的陪嫁！”这样，段祺瑞只好无奈地收下。原来，1900年段祺瑞的原配吴夫人去世后，袁世凯把自己的义女张佩蘅嫁给了他。借着女儿的名义，袁世凯把房子送给段祺瑞，这才改掉了段祺瑞不去上班的臭毛病。
为了把军权掌握在自己手里，袁世凯曾尝试对北洋军进行重组，他打算先用蔡锷取代黎元洪的参谋总长，等时机成熟，才让蔡锷取代段祺瑞担任陆军总长。不过，这件事后来被黎元洪和段祺瑞知道了，袁世凯的计划遭到他们的联合抵制，最后只能作罢。
蒋百里留学归国，给袁世凯带来了机会。蒋百里早年在日本、德国学习军事，回国后一直想建立一所仿效德国模式的军校。当时，保定军校直接隶属北洋政府，由段祺瑞的陆军处管辖。袁世凯想通过培养蒋百里来限制段祺瑞，于是没有经过段祺瑞允许，便任命蒋为保定军校的校长。袁世凯的用意很明显，让蒋百里在保定军校培养出一批青年才干，这些青年才干将成为自己的嫡系力量。段祺瑞自然不会允许袁世凯这么做，他暗中对蒋百里的活动百般阻挠，还在学校经费上进行为难。
有一次，蒋百里耗费了很大的精力，拟定了一个扩大保定军校的规划，得到了袁世凯的支持。在全校师生面前，他充满激情地勾勒未来。第二天，他把提案送到陆军处，接收文件的魏宗翰竟然把文件扣押起来，始终没有向上递交。蒋百里感到不平，就去找魏宗翰理论，但魏宗翰还是拒绝批复。蒋百里感到自己要失信于军校师生，就召开全校大会，在众人面前失声痛哭，还掏出手枪来想要自杀，幸亏旁边的教员反应快，才救了他一命。蒋百里自杀事件，其实根本就是袁世凯和段祺瑞的暗暗较量，只不过因为一层翁婿关系，两人不好明刀实枪对决。
袁世凯和段祺瑞矛盾激化，是由徐树铮引起的。段祺瑞非常器重徐树铮，在一些重大事件上，他都听徐树铮的建议，这让袁世凯很不满。有一次，袁世凯忍无可忍，就要求段祺瑞把徐树铮赶出陆军处，没想到，段祺瑞却极力袒护，还说“请总统先免我的职，随后要怎么办就怎么办”！袁世凯当然不能以这个理由免段祺瑞的职。后来，段祺瑞的身体出现了一些问题，袁世凯就亲切地关照，让段祺瑞多注意身体，该休息的时候不要强撑——其实，袁世凯心里巴不得段祺瑞早点辞职。
段祺瑞自认为北洋军队势力雄厚，所以在很多政治问题上始终站在主站的一方。1915年，日本向北洋政府提出“二十一条”，段祺瑞主张动员军队震慑日本，如果日本继续侵扰，就对其动武。袁世凯则站在主和的一方，他认为“我国国力未允，目前尚难以兵戎相见”。在对日本的态度上，段、袁产生了严重的分歧，段祺瑞心直口快，在会议上和袁世凯发生口角，袁世凯仍旧坚持不对日宣战。段祺瑞无可奈何，便称病辞职，到西山养病去了。
这个时期，袁世凯和段祺瑞并没有完全决裂。段祺瑞到西山养病后，袁世凯还多次看望。后来，外界传言袁、段决裂，段祺瑞还专门通电全国澄清。直到袁世凯开始为称帝做准备，两人的关系才彻底破裂。
1915年8月，袁世凯开始为称帝做舆论准备。他专门把段祺瑞召回北京，询问他的态度。段祺瑞诚恳地说出了自己的想法：“帝制乃人民所疾首痛心，必不容其发现者。劝进之文皆奸人捏造，混淆视听，总统倘不及早觉悟，噬脐晚矣。”袁世凯并不想听他关于劝进文是真是假的判断，因为捏造劝进文的“奸人”正是袁世凯自己。他问段祺瑞：先不要说民意是不是真的，你的意思究竟是什么？段祺瑞并不拐弯抹角，就表示自己绝不会支持帝制，更不忍心见追随多年的总统成为历史的罪人。袁世凯根本听不进劝，最终还是选择复辟帝制。袁世凯复辟之后，段祺瑞开始秘密联络南方军队，组织反袁势力。全国军队纷纷起义，袁世凯在腹背受敌的情况下，准备起用段祺瑞，而段祺瑞拒绝出兵。后来，复辟派给段祺瑞发恐吓信，威胁说如果段不出兵就要了他的命，段祺瑞大义凛然地说“武人不怕死”，复辟派最终还是拿他没办法。
1916年2月，段祺瑞公开表明立场，坚持维护民主共和，促成南北停战。3月中旬，南方各省纷纷宣布独立。袁世凯看到这种情况，只有请老友徐世昌出来收拾残局，徐世昌又请段祺瑞出面商议取消帝制一事，3月23日，袁世凯任命段祺瑞为参谋总长，统领全国军队，并宣告取消帝制。