武则天万岁通天元年（696）五月，契丹首领李尽忠、孙万荣举兵围攻营州（治今辽宁朝阳），很快攻破城池，杀都督府都督赵文。接着又举兵南下，进攻河北。朝廷震动，急调狄仁杰任魏州（治今河北大名东北）刺史，组织力量防御。狄仁杰就是在这样的形势下离开了他任职达四年之久的彭泽县，赶赴魏州上任。
契丹是我国一个古老的民族，属东胡种，是鲜卑的近属。汉代时依附于匈奴，大约在北魏才有了契丹的称呼，居住潢水之南，黄龙以北，约当今内蒙古西喇木伦以南通辽市一带。在隋代臣服于东突厥，唐朝建立后曾遣使入长安进贡名马、方物。唐太宗征服东突厥，契丹摆脱了突厥人的压迫，向唐朝称臣。唐太宗征讨高丽时，契丹首领窟哥曾发兵跟随参战，太宗任其为右武卫将军。不久，又设置了松漠都督府，以窟哥为都督，赐姓李，统辖契丹诸部。松漠都督府属羁縻府，这是唐朝用来安置归附的少数民族的一种特殊行政制度，其长官通常都由诸族酋长充任，可以世袭，但必须接受当地正州府都督或刺史的监护。
契丹直到唐初，仍过着游牧的生活，逐寒暑，随水草畜牧。其风俗是子孙死，父母晨夕哭；父母死，子孙不哭。人死不建坟墓埋葬，以马车载入大山中，置于树上。全族共分八部，“猎则别部，战则同行。”实际上是一个部落联盟。契丹与奚接壤，所以互相之间经常发生战争，奚臣服于唐朝后，两族之间的战争便减少了，由于唐朝边将的压迫，两族常互为表里，骚扰唐朝的边境，唐人称之两蕃。当时契丹每一部落有战士3000多人，少者有战士2000多人，总共战士计4万余人。八部的酋长和部落联盟的首领都称大人，他们都是通过部落会议推举出来的。八部大人又推举一人为部落联盟首领，主要负责军事，如果发生灾荒而影响到畜牧业，就要改选部落联盟首领。契丹这时尚无定居农业，但奴隶的使用已经很普遍，其来源主要是战俘，此外，部落内部的贫富分化也比较明显。
窟哥死后，松漠都督便由其孙李尽忠继承，李尽忠的妻兄孙万荣任归诚州刺史，这也是一个羁縻州。按照唐朝制度，松漠都督府归营州都督府管辖。营州都督赵文刚愎自用，不知安抚契丹人民，即使对待其首领也如同对待奴仆，双方的矛盾本来就比较激化。这一年，契丹发生灾荒，人民缺少粮食无法度日。赵文不知赈济，引起契丹人的极大怨愤。孙万荣曾在朝廷做过人质，了解内地虚实，便鼓动李尽忠起兵反叛。李尽忠本来就对赵文不满，二人一拍即合，利用契丹各部的不满情绪，举兵围攻营州。赵文疏于防范，营州很快被攻破，杀赵文，李尽忠自称无上可汗，命孙万荣为前锋，向河北进军，一路所向披靡，很快就攻到檀州（治今北京密云）。
武则天得知契丹造反，急遣左鹰扬卫将军曹仁师、右金吾卫大将军张玄遇、左威卫大将军李多祚、司农少卿麻仁节等28将，率大军前往征讨。八月，官军抵达平州（治今河北卢龙）附近。李尽忠见官军势大，急忙收缩兵力，准备在这一带与官军决战。契丹人攻破营州时，曾俘获官军数百人，这时派人对这些战俘说：“我辈因家属饥寒，无法存活，才被迫造反，现在虽攻下营州，但家属饥寒仍旧，故只等大军一到就前去投降。”随后又放出这些战俘，有意拿给糠麸让他们吃，并说：“留下你们则无粮可供，杀死又心中不忍，不如放你们自去。”这些战俘回到官军营寨后，就把他们的所见所闻报告了官军将领。官军以为契丹真的无粮，人心涣散，士无斗志，遂争先直进，欲立首功。
平州以南为一望无际的大平原，地无险阻，官军势大，如在旷野平原上与官军决战，力量对比悬殊，对契丹极为不利。李尽忠再三权衡，决定在黄谷（位于今河北昌黎西北）与官军决战。黄谷地形险要，四周群峰林立，易守难攻，谷口狭窄，一旦误入谷内，截断谷口退路，很难突围而出。这里又是通向关外进击营州契丹老巢的交通要道，地理位置十分重要，扼守住这里可以牵制官军，使其不敢轻易出关，故欲彻底剿灭契丹必先攻占黄谷。官军逼近黄谷时，契丹有意派遣老弱者前来投降，并把老牛瘦马散布于道路两侧，示以饥馑疲惫之状。官军见此，误以为契丹军不堪一击，曹仁师等将为抢头功，竟不等步军赶到，急率骑军追击。官军全部进入谷内后，契丹兵遂截断谷口退路，埋伏在谷内的大军把官军团团围住。官军见此情况，军心大乱，无心接战。契丹四面出击，官军大败，曹仁师、张玄遇、麻仁节三将被俘，将士死者填满山谷，几乎全军覆灭。契丹获胜后，用缴获的军印伪造牒令，强迫张玄遇等署名，然后派人送交后军总管燕匪石、宗怀昌，称前军已破贼，命令他们率军急进，若误军期，定斩不赦。燕匪石等不辨真假，信以为真，率军昼夜兼程，甚至不及寝食，在官军赶得人困马乏之时，契丹于中途设伏截击，官军全军覆没。
官军大败的消息传到洛阳，朝廷震动，河北一带更是人心惶恐，不知作为。九月，武则天下诏征发天下罪人及士庶家奴充军以击契丹。右拾遗陈子昂上书反对这一做法，认为“罪人全少，奴多怯弱，不惯征行，纵其募集，未足可用”。嘲笑此举“损国大体”，不足以威天下。可见武则天一时慌乱到不知所措的地步。鉴于这种情况，她又令河北沿边诸州置武骑团兵，命建安王武攸宜为右武威卫大将军、清边道行军大总管，以讨伐契丹。这时突厥首领默啜请求和亲，表示愿意率部为国讨伐契丹。武则天遂命使册封默啜为左卫大将军、迁善可汗，让其率突厥兵讨伐契丹。十月，李尽忠死，孙万荣代其为契丹大首领。突厥默啜乘机袭击契丹后方，契丹大败，默啜俘获了李尽忠、孙万荣的妻子。突厥兵退去后，孙万荣收集余众，军势复振，并派军攻破冀州（治今河北冀州），杀刺史陆宝积，并屠戮吏民数千人。接着又进攻瀛州（治今河北河间），河北又一次告急，人心惶恐。
狄仁杰就是在这样的形势下到魏州赴任的。魏州地理位置十分重要，西邻相（治今河南安阳）、卫（治今河南卫辉），北靠邢（治今河北邢台）、贝（治今河北清河西北），与冀州相接，南临黄河，为河南屏障。自古以来欲占河北，必须先据有魏州；北方势力欲入中原，也必须先攻下魏州。后来出现的河北藩镇割据，其中就以魏州为中心的魏博镇最为重要。其对朝廷的忠顺与否，很大程度上决定着河北其他藩镇对朝廷的态度。契丹如继续南下，攻陷魏州，将使中原地区暴露在契丹的军事威胁之下，进而威胁到武则天的统治中心洛阳的安全。这样重要的州郡，必须有一个强有力的人物镇守，方可无虞。而前刺史独孤思庄怯懦无能，畏惧契丹，在契丹军队还远在冀州时，就将百姓驱赶入城，并强迫百姓上城防守，“缮修守备。”独孤思庄的这种举动，搞得人心不稳，生产荒废，在军事上有害无益。狄仁杰到任后，将百姓“悉放归农亩”，让他们继续安心从事生产，他对百姓宣布说：“贼犹在远，何必如是。万一贼来，吾自当之，必不关百姓也。”这样就使魏州动荡不安的局势很快稳定下来。同时狄仁杰也没有放松军事准备，他整顿军备，加强军队训练，“外示无虞，内为之防。”《全唐文》卷624冯宿《魏府狄梁公祠堂碑》。后来契丹退兵，由于狄仁杰措施及时，没有放松农业生产，结果“岁获大穰”。避免了因战争荒废生产，从而导致农田失收，百姓饥饿的局面的发生，使魏州百姓得以安居乐业。
据旧史记载，契丹得知狄仁杰在魏州的作为后，不敢贸然进攻，遂引兵退去。这是一种夸大狄仁杰作用的记载，与实际情况并不相符。事实是朝廷的讨伐大军这时已经抵达前线，契丹兵力不足，不敢再向南深入，撤军到营州、平州一线，收缩兵力，准备与官军决战。神功元年（697）三月，大将王孝杰、苏宏晖率大军17万逼近平州，平州地处平原，无险可守，契丹兵力有限，不愿与官军正面拼杀，遂把战场选在平州东面的石谷。这里地形险要，道路狭窄，山势陡峻，大兵团兵力不易展开。官军自恃兵力雄厚，未经侦察，就向这里推进。王孝杰率精兵为前锋猛攻，契丹军稍作抵抗，佯装不敌，向后退去。官军立功心切，遂纵兵猛追，一直追到谷内险要之处，这里谷深路窄，兵力不能展开，契丹军突然回兵反击，奋力冲杀，官军不意敌军会有这一行动，惊慌失措，苏宏晖见势不妙率先逃跑，后军不知情况仍向前推进，经溃军一冲，顿时乱作一团，混乱中被契丹杀伤杀死无数，王孝杰退至悬崖失足摔死，官军大败，纷纷向南逃跑。
武攸宜此时率军屯驻渔阳（北京蓟县），得知王孝杰军大败，不仅不去接应，反而畏惧不进，致使契丹军攻到幽州（治今北京西南），“攻陷城邑，剽掠吏民。”武则天得知官军失败的消息后，大为震惊，急命武懿宗为神兵道行军大总管，以娄师德为清边道副大总管，分率大军讨伐契丹。武懿宗率大军到达赵州（治今河北赵县），听说契丹将骆务整率数千骑兵快要到冀州，心中畏惧，欲率军南逃。部下将领再三劝阻，武懿宗不听，仓皇退到相州（治今河南安阳），匆忙之间抛弃军资器仗无数。由于赵州无兵防御，契丹遂屠城而去。孙万荣击杀王孝杰后，在柳城（辽宁朝阳）西北200公里依险筑城，将老弱妇女及缴获的器仗资财全都留在城中，命其妹夫乙冤羽留守，自率精兵进攻幽州。他又担心突厥乘机袭击其后方，遂遣使到突厥劝其共同进攻幽州。不料契丹使者反倒把其后方空虚的情况转告突厥首领默啜，并作为向导引突厥兵袭击了契丹所筑新城，将资财与妇女抢掠一空。五月，孙万荣正在幽州与官军相持，得知这个消息后，契丹军心大乱，士无斗志。依附于契丹的奚族人乘机反戈，攻击其军之后，官军攻其前，前后夹击，契丹军溃散，孙万荣率轻骑数千逃走。沿途遭到官军的截击，部下损失殆尽，逃到潞水以东（北京通县东）时自感势穷力竭，走投无路，遂让其奴斩其首献于朝廷。
孙万荣死后，虽然战争结束了，但战争的破坏使河北诸州大都残破不堪，百姓不是死于战乱，就是逃往他乡，流离失所，农田荒芜。只有少数州县未经破坏，其中魏州在狄仁杰的治理下，农业丰收，百姓安居，是当时河北最为平稳的地方。狄仁杰还在当地推行“缓赋宽役，勉农劝桑”的政策，使魏州在战争期间不仅没有加重百姓的赋税和徭役负担，反而比以前有所减轻，这不能不说是一个奇迹。这种状况的产生与狄仁杰重视发展生产的措施有直接关系。魏州的农业获得丰收，不仅解决了百姓的衣食问题，同时也使官府的仓廪得到充实，战争期间从魏州调发了不少军资粮草，却无加重百姓的负担。狄仁杰在魏州刺史任上仅仅一年，就深为当地百姓所敬重，一位地方官员在这样短暂的时间内能如此得民心，在历史上还是比较罕见的。
神功元年（697）六月，武则天调狄仁杰为河北安抚使。而《新唐书》卷61《宰相表》上载：“神功元年八月庚子，仁杰兼纳言。九月戊寅，仁杰为河北道副元帅，检校纳言。十月癸卯，仁杰为河北道安抚大使。”如依这种记载，则狄仁杰是以纳言的身份充使河北，与《通鉴》所记不同。另据两《唐书》本传，狄仁杰离开魏州后，曾任幽州都督，然后才调入朝中，故不可能在这年八月任纳言。且契丹于五月已平，如何会于九月任他为河北道副元帅？魏州百姓不愿狄仁杰离去，奔走相告，“泣涕彷徨”，不少人甚至“援刀割肤，守阙上章，终然不克”，即没有获得武则天的同意。于是州人共同出资，为狄仁杰兴修了一座生祠，安放他的塑像，并立碑颂扬其恩惠《全唐文》卷624冯宿《魏府狄梁公祠堂碑》。
后来，狄仁杰的儿子狄景晖任魏州司功参军，贪暴不法，给当地百姓造成了很大的祸患，人们遂摧毁了祠堂和碑石。这种历史的教训是非常深刻的。