金兵于宋徽宗宣和七年（1125年）兵分两路大举进攻宋朝，虽然金兵西路军受阻于太原，但是东路军却直逼宋都开封。
宋徽宗得知这个消息以后，下诏传位于太子赵桓，自己当上了太上皇。赵桓继位后，史称钦宗，改年号为靖康。
金兵围攻开封达三个月之久，未能攻克，与宋朝签订了苛刻的议和条约后撤退。
同年八月，金兵西路军攻陷太原。于是金兵东、西两路军会合，再次向宋发起进攻，宋朝面临着灭顶之灾。
在国难当头的时刻，六十多岁的宗泽再也无法过远离尘世的隐居生活了。他准备为国效力，收拾残局。在御史中丞陈过庭等人的极力举荐下，宗泽赶到开封，谒见宋钦宗。不想，钦宗却封他为假宗正少卿，命他任宋朝的"和议使"，向金人乞和。一心有所作为的宗泽万万没有想到，钦宗居然让他担任这样的差事，他难过地对臣僚们说："皇上派我前去向金乞和，我无法活着回来了！"大家问其原因，宗泽说道："我如果能说动金人自动退兵当然好，如果不能，我又怎能向金人屈膝而有辱君命呢？"
议和派向钦宗上奏道："宗泽为人刚正不屈，派他前去议和对和议有害无利。于是，钦宗收回原命，令宗泽出任磁州（现在的河北磁县）。
磁州位于金军南下攻打开封的必经之地。当时，太原已经失守，金军合兵南下，河北、山东、河南北面的宋朝官员皆因惧怕金兵，托故不去磁州上任。
这无疑对宗泽是一个严峻的考验。
宗泽却在诏令下达的第二天，带着十几个老弱残兵，前往磁州上任。此时的磁州经金兵多次蹂躏，仓库空虚，百姓逃离避难。
宗泽上任以后，一面积极发动兵民维修城池，开浚城河，制造兵器，一面招兵买马。宗泽向朝廷上疏献计道："邢、沼、磁、赵、相五州相接，每州可蓄养两万精兵，金兵只要攻打其中一州，另外四州马上出兵支援，如此一来，虽然每州只养两万兵，却相当于十万精兵。"宋钦宗对宗泽的上疏极为赞赏，封他为河北义兵都总管。
金兵夺取真定（现在的河北正定县）后，准备夺取庆源，必然要从李固渡河，金兵担心宗泽断其后路，决定先派数千金兵攻打磁州。
宗泽临敌不乱，亲自登城指挥作战，打退了敌兵。
金兵败逃以后，宗泽将在战争中获得的金帛全部犒赏军士。
这时，宋钦宗下诏命康王赵构（南宋高宗）出使金国乞和。康王途经磁州时，宗泽对他说："上一次，肃王前往金国议和，一去不返，现在金人又邀请您前去，您千万要小心啊！"
原本就懦弱的康王自然认为宗泽的话很有道理，于是折返回相州（现在的河南安阳）。赵构因此侥幸活命并得以登基称帝，他对宗泽心存感激。
不久，金人撕下了和议的面具，再次挥兵南下，包围宋都开封。宋钦宗封康王赵构为天下兵马大元帅，命宗泽、汪伯彦为副元帅，速调人马勤王，以解开封之围。
宗泽随康王率兵支援开封。他认为应率兵攻打李固渡，如此一来金军孤军深入，后路被切断，开封之围不日可解。但是，众人不从。宗泽只好独自引兵渡河。
勤王师在大名府（现在的河北大名东北）会集，研究救援开封的方案。宗泽说："开封被围日久，入援已是刻不容缓，应马上发兵，以解开封之围。"
此时，枢密院事曹辅带着宋钦宗的蜡书赶到，声称现在金人同意和议。众将听后皆感到轻松很多，宗泽却说："金人素来狡诈。此时议和，只是为了延缓勤王师去开封的时间。现在皇上急切地盼望救援之师，我们应马上率兵解开封之围。即使金兵没有议和的诚意，我军也已到达城下。"
但是汪伯彦却劝康王先派宗泽率军南下前往开封救驾，而让康王率精兵前往东平（现在的山东东平）。
宗泽率兵赶到开德府（现在的河南濮阳）时，遇到金兵的阻截，宗泽率军与金兵先后交战13次，皆获胜。当时，抗金名将岳飞正在宗泽的军中服役。宗泽给康王去信，劝他将各路兵马会集到宋都开封。又给北道总管赵野、知兴江府曾擀、河东北路宣抚使范讷去信，请他们合兵入援。但是赵野、曾擀、范讷认为宗泽为人狂妄无知，不同意他的意见。于是，宗泽率孤军奋进。都统陈淬认为金兵势众，宗泽不应孤军深入。宗泽下令处斩陈淬，众将士跪地乞请不要斩陈淬，宗泽赦免了陈淬的死罪，命其戴罪立功。陈淬带兵前行，遇到金兵时，奋勇杀敌，屡败金兵。金兵攻打开德，宗泽命孔彦威率兵迎敌，打得金军大败而逃。金人再次攻打开德，宗泽命权邦彦和孔彦威率兵出击，金兵再次失败。
宗泽率军赶到卫南（现在的河南汲县）时，部队经过多次战斗，已是将多兵寡，先锋军报告说前方发现金营。宗泽仍然率军与金兵交战，金兵败走。宗泽率军向东而行，金兵的援军赶到，宋将王忠孝不幸战死，宋军前后都是金军营垒，此时金兵十倍于宋军。宗泽高声对宋军将士们说："如今进退皆死，我们要死中求生！"宋军将士们见已无退路，个个以一当百，奋力杀敌，杀得金兵大败而去。
宗泽估计金兵势必夜袭宋营，于是传令宋军，天黑以后拔营。当金兵发动夜袭时，只得了一座空营。从此以后，金人惧怕宗泽，称宗泽为"宗爷爷"，不敢轻易与他所率之军对阵。这时，宗泽出其不意地率军渡过黄河，向金军发动袭击，金军败退。康王赵构命宗泽担任徽猷阁待制。
就在宗泽率军南下屡胜金兵之时，开封城失陷了，只是众军未得到消息而已。宗泽在得知金人逼宋徽宗、钦宗父子以及贵戚、嫔妃北上的消息以后，亲自率兵经渭州，过黎阳，到达大名府，准备渡过黄河，在金人归途中击杀金军，夺回二帝。但是，由于其他勤王师的不配合，他的这个愿望最终没有实现。