摆脱了张敬尧的掣肘，吴佩孚顺利抵达郑州，将部队摆在郑州至保定一线，摆出了要对付皖系的阵势。但考虑到北洋军阀里段祺瑞是老资格，威望还是存在的，为了将风浪控制在可接受的范围内，他提出的口号成了“惩办徐树铮、解散安福系”。
吴佩孚很有自信，本身他就不是个怕事的人，再加上他知道，自己不是一个人在战斗。因为张作霖这时以“调停人”的身份带着两营卫队、一个机枪连进入了北京，张作霖表面上忙于了解各方要求，调解各方关系，暗地里与直系共商讨皖之计。
段祺瑞不会束手待毙，他一直在拖延时间以备战。事实上，他6月中旬就把徐树铮从库伦调回来以布置战事。30日，当张作霖再次来到团河，讨问段对曹锟的要求的意见时，段认为同直系决战的时机已成熟，便不再模棱两可，而是怒气冲冲地对张指责吴佩孚以一个小小的师长，竟敢公然要挟罢免边防大员，干预政事，简直就没把中央政府放在眼里，如果一定要罢免徐树铮，就必须同时罢免吴佩孚。
就在这节骨眼上，段祺瑞又遭受了重重一击。由于传说吴佩孚已经将军队开到保定一带，随时准备进京，徐世昌召开了特别会议，下令解除徐树铮西北筹边使、西北边防军总司令等职，并将边防军交陆军部接收，一下子把皖系的重要军事力量和地盘给掳夺了。
此时的段祺瑞又一次气歪了鼻子，他对张作霖说： “罢免吴佩孚，万事皆休。”张作霖说： “这恐怕办不到吧。”段一听更加恼火： “办不到也要办！你们办不到，我一定要办到。”
徐树铮知道张作霖调停的条件竟然是罢免他自己，心里对他是恨之入骨，几近疯狂的他策划了暗杀张作霖的行动，并报告了段祺瑞。但段祺瑞的为人还是比较坦荡磊落的，他不喜欢搞阴谋，所以徐树铮没能下手。咽不下这口气的徐树铮决定再次单干，趁张作霖回奉天要路经廊坊之机再行暗杀，将生米做成熟饭，到时候让段祺瑞接受既成事实。但消息走漏，靳云鹏很快知道了这一计划，马上密报张作霖，张作霖化装连夜赶赴天津，得逃一劫。
不依不饶的徐树铮随后又搞了个暗杀团潜入奉天，企图暗杀张作霖。
面对徐树铮种种乖张的行为，张作霖再也不能容忍了，公开表明他要进行“武力调停”，且对曹锟表示他的立场是支持直系反对皖系的。
段派方面一直在积极备战，直军也在布置防线，吴佩孚从来就不是个优柔寡断的人，面对曹锟的犹豫，他拍着胸脯保证： “有我吴佩孚在，两星期结束战斗，您就放心吧！”形势越来越紧张，段祺瑞再也坐不住了，决定先下手为强，于是他立即回到北京，在将军府召开特别会议，决定将曹锟、吴佩孚、曹锐免职，交段亲自查办。但是这项决议送到大总统徐世昌那儿，徐世昌却面露难色，他是担心一旦命令下达，局面将再也无可挽回，两方势必直接摊牌，一场战争在所难免了。这对于中国政局来说不一定是什么好事，同时自己的大总统位置恐怕也坐不了多久了。于是他几次推脱，就是不在公文上签字盖印。段祺瑞早已下定决心摊牌，对徐世昌的墙头草作风极为恼火，一怒之下，他干脆派兵包围总统府，逼迫徐世昌同意。
被大兵包围的徐世昌骑虎难下，人在屋檐下，不得不低头，只好违心地下令惩办曹锟、吴佩孚。段祺瑞的皖系觉得自己占得了先机，却没想到适得其反。因为直系军队方面得知大总统令竟然是由段祺瑞的军队威逼发出的，不由得同仇敌忾，一下子抱成了团，枕戈待旦，下定决心与皖系决一死战。
偷鸡不成蚀把米，直皖开战已经是迫在眉睫了。
7月9日，段祺瑞将边防军改为“定国军”，在团河成立讨伐曹吴的“定国军总司令部”，自任总司令，靳云鹏为副司令，徐树铮为总参谋长，段芝贵为第一路军司令兼京城戒严总司令，曲同丰为第二路军总司令兼前敌司令，魏宗瀚为第三路军司令。同日，边防军第3师陈文运部开赴廊坊，第一师曲同丰部与陆军第九师魏宗瀚部、第十三师李进才部、第十五师刘询部开赴长辛店、卢沟桥、琉璃河一线。
直系方面，7月9日，曹锟在天津召开誓师大会，成立“讨逆军”，自任总司令，吴佩孚为前敌总司令兼西路总指挥，其司令部设在高碑站。第一混成旅旅长王承斌为后路总指挥，留守郑州，第四混成旅旅长曹瑛和奉军李景林部为东路正副总指挥，占据杨村。
7月10曰，段祺瑞以吴佩孚不仅不交卸军队，反而开进为由，下令向直系发动进攻。11日，曹锟发出通电，声称“目的一日不达，锟一日难卸甲”。
12日，曹锟又和张作霖联名通电讨伐段祺瑞，不再只是针对徐树铮，而是明确打出了“讨段”的旗号，称“皖系军阀恣胜专横，唯有秣马厉兵，共伸义愤。”吴佩孚还在第二天的通电里指斥段祺瑞是汉奸，并将之与张宗昌、石敬瑭、吴三桂相提并论。
张作霖在曹锟、吴佩孚公开发表反皖通电后几天，就悄然来到军粮城，一面仍保持局外中立的假象，一面在天津北仓一带悄悄地布置人马，等到一切准备就绪，张作霖发表派兵入关的通电。
一场直皖战争由此开始。
皖系出局
直皖两军的战区都是分东西两路。东路在京奉铁路沿线；西路在京汉铁路沿线。西路是双方交战的主战场，直军在高碑店一侧，皖军在固安、涿州一带。1920年7月13日，直皖两军第一次小规模战斗开始，双方在高碑店有小冲突，总体来说，皖系还是占了一点上风。
但很快战况就发生变化，吴佩孚率部与边防军第一师大战于涿州，皖军派出的右侧支队被直系部队袭击而发生混乱，逐步向后撤退，使部队的态势更加不利，致使京汉铁路作战部队的右侧背受到很大的威胁，皖系第二路军总司令曲同丰被困在了涿州城内。
吴佩孚没有直接攻击，而是写了一封信带给城内的曲同丰，劝说他投降。这封信只有寥寥数字，却抵得上千军万马。因为曲同丰在武备学堂做过吴的教习，双方还是有师生之谊的。曲同丰认为自己曾经是吴佩孚的老师，不至于受到加害，而且他的上级曹锟和曲同丰也是老熟人。
曲同丰是段祺瑞非常欣赏也着力提拔的干将，在他身上段祺瑞寄予了很大的希望。没想到，曲同丰居然完全没有与涿州共存亡的意思，相反还对前来劝降的人表示他自愿投降，而且还要一个像模像样的“受降仪式”。曹锟也乐得做个顺水人情，于是一场隆重的受降仪式在曹锟的大帅府举行，曹锟身着戎装在大厅站立，曲同丰连同被俘的其他军官一起踏着正步走入大厅。
曲同丰从腰间解下军刀，双手献上，并朗读事先拟好的投降文书，向曹锟发誓从此不与他为敌。曹锟接过刀后，表示接受了他的投降，然后又将它发还曲同丰，请他继续佩戴。仪式完成后，两人坐在一起聊天拉家常，气氛非常轻松，完全不像是受降，倒像是老友久别重逢。就这样，段祺瑞的三路大军中的第二路军土崩瓦解。
战前，段祺瑞将很大一部分兵力已经交给了曲同丰，现在他的临阵倒戈，几乎直接决定了段祺瑞的失败。
那么，荣任第一陆军总司令的段芝贵情况又如何呢？这位老兄不说他还好，一说他简直就是气不打一处来。“定国军”总司令段芝贵搞到一列火车，在车上狎妓、打牌，他指挥西路战事，基本是每战必败。他也无所谓，他的专列两头都挂上火车头，胜就向前开，败就向后开。当他正在麻将桌上挥汗如雨的时候，西路皖军战败的消息传来，他就急忙大叫开车，一路狂奔逃回北京的家中。就连家人问起情况，他也只是用手摸着头，连连说： “好险，好险！”就没别的话了，然后马上叫师爷起草通电辞职的稿子。
搞笑的是，这位师爷似乎早就料到有这么一天，在给段芝贵起草定国军总司令就职宣言的同时，就写好了辞职通电，现在正好派上用场，把段芝贵羞得恨不能找个地洞钻进去，但也只有用了。然而，他这篇文章发表出去，就叫人看出是早有准备，加之他逃得实在快，被人们好好嘲笑了一通。在这个百无一用的总司令率领下，皖系第一路军全部溃散，不是逃跑就是投降。
东路军总指挥徐树铮获知西路战败消息，知道大势去矣，深夜逃回北京，直系军大队开到长辛店，将四围溃败段军一律扫清。至此，京津线、京汉线皖军全被清除。
别急，事情还没完。三路大军虽然瓦解，皖系在长江上游还有一部分军事力量，这就是吴光新的部队。
吴光新是段祺瑞派去监视王占元部的，后来吴佩孚要撤防北上，段祺瑞命令吴光新的长江上游所属部队急行军集中到岳州，准备将吴佩孚部队消灭于洞庭湖中，但吴光新直到吴佩孚渡过洞庭湖之后才姗姗抵达汉口。当时直皖两系剑拔弩张，形势已很紧张，但吴光新毫不知觉，住在长江上游总部运输处里，整天趾高气扬。王占元听说他来了，请他于次日到武昌赴宴，表示为吴洗尘。他的部下极力劝阻，吴光新不仅不听，还骂他们胆小。第二天，王占元用电话催请，吴带随从副官和几个卫士坐马车轻轻松松进入两湖巡阅使官署。
王占元质问： “长江上游各地你的部队何以分途东开武汉？”不知死活的吴光新居然还在抖威风： “这是奉陆军部令，你管不着。”王占元仰天冷笑，吴光新也看出似乎不对了，扭头往外走，立马就被王占元扣留。失去了主帅的部队很快就被王占元缴了械。
应该说，战争进行到18日，胜负就已决出，皖系大败。段祺瑞派傅良佐到天津向直隶省长曹锟的弟弟曹锐求和，结果被扣押，最后一丝希望都已经破灭，尤其是花巨大代价培植起来的参战军，没几天便告覆灭，让段祺瑞心痛至极。
大势已去无可挽回，段祺瑞万般无奈，通电全国“引咎辞职”。酷爱权力的段祺瑞被人逼到今天这个份上，是他怎么也料想不到的，急怒之下，万念俱灰。有一天，段祺瑞突然开枪自杀，没想到因为过于激动，手一抖，子弹并没有击中自己，却从脑袋旁边飞过去打死了身后的一名卫兵。左右人开始对他严加看管并极力劝说，段祺瑞才慢慢恢复了平静，不再提寻死的事。
直系军队获胜后全面进入北京，裁撤了边防军和西北军的建制，彻底解除了皖系武装，同时对发起这场战争的安福系重要头目予以通缉。经过慎重考虑，通缉名单列了出来，分别是：徐树铮、曾毓隽、段芝贵、丁士源、朱深、王郅隆、梁鸿志、姚震、李思浩、姚国桢。这就是有名的“安福十祸首”。
那么，这些人的命运究竟如何？可以明确地告诉诸位：一个也没有抓着。
这里有必要谈一下西方各国对十大安福祸首的态度。当时在通缉令发布之前，北京政府曾将祸首名单通知了外交团，要求他们不要容留这些人。
美、英、法三国表示照办，日本、意大利、荷兰却不同意，日本更是将十名祸首中的九人收容在日本兵营，可见根本不将当时的北京政府放在眼里。
按说，皖系最大的后台是段祺瑞，安福系最大的后台也是段祺瑞。但奇怪的是，皖系虽然失败彻底出局，但直系似乎并不打算追究段祺瑞本人的任何责任，因此通缉令上皖系主要头目都有，却独独没有最应该负责任的段祺瑞。这不能不说是段祺瑞本人的个人魅力在起作用。段祺瑞虽然独断专行，咄咄逼人，但从根本上来说，他个人的操守是很值得当时的人敬佩的，就连那些与他刺刀见红的军阀们都是如此。政治是一回事，人品又是一回事，段祺瑞追求权力，但不搞阴谋，行事光明。在他当政期间，从来没有干过贪污腐败的事，也没有为自己捞取过金钱、土地、豪宅。所谓英雄惺惺相惜，你在台上，我在台下，少不得要明里暗里斗一斗，现在既然你已经失败下台，对我构不成威胁，双方的敌意就不存在了。
不光如此，看到失意的段祺瑞，吴佩孚竟然也动了侧隐之心，表示罪魁祸首安福系既然已经垮台，他的目的已经达到，他仍然支持段祺瑞回来当国务总理，就连张作霖也不反对吴佩孚的意见。
但是奉系战败，段祺瑞已经失去了待在北京的政治资本，留下来恐怕惹人笑话，眼看回天无力，身在北京的段祺瑞不愿意看着昔日自己的对手趾高气扬的样子，于是几天后携家眷黯然离京，搬到天津的日租界寿街，表面上过起了远离政治斗争的平静生活。