康熙皇帝深知，要想取得反侵略战争的胜利，必须有充足的粮食，保证军队的给养不致中断，这样才能彻底驱逐殖民者。为此，康熙皇帝决定沟通东北辽河、松花江、黑龙江三大水系，组成一条纵贯东北三省的水陆联合运输线，以保证粮草、给养源源不断运往黑龙江。二十二年三月，康熙皇帝先派官员检测辽河和松花江上游的伊屯河（今伊通河）水位深浅，进而又以“瀛台、通州之船载米试之”。经过勘测和试航，形成从南到北的五段联运线：
五段联运线的形成，为保证黑龙江驻戍军队的供给提供了可靠的保证，但这样的运送，每年只能进行一次，所运之粮也只能供前线军队支用两年，而耗用人力却多达数千。为确保黑龙江驻军的军粮供应，康熙皇帝发出“我兵一至，即行耕种”的指示，命令瑷珲、额苏里的驻军就地屯田，自己动手解决吃饭问题。二十三年，康熙皇帝还特派户部侍郎萨海前往黑龙江监督耕种，次年，又调盛京兵五百名前去黑龙江守城种地，开垦土地一千五百垧。由于屯田士兵中有许多不长于从事农业的少数民族，康熙皇帝还特派官员前去指导，使其“耕种有法，禾稼大收”。南北运输线的沟通和黑龙江地区就地屯垦，很好地解决了武装反抗沙俄侵略的粮食供应问题，使武装收复雅克萨的斗争一开始就建立在一个坚实的基础之上。
为保证反侵略战争中情报传递的快捷、准确，康熙皇帝从二十二年起，就开始筹备建设驿站工作。
经过永戍、屯田、设立驿站等一系列艰苦努力，武装收复雅克萨的条件已经成熟。因此，从二十四年起，康熙皇帝终于开始武力收复雅克萨。
两收雅克萨迫使沙俄求和
在武力收复雅克萨之前，康熙皇帝于二十二年七月，再次命理藩院正式照会俄国政府，指出：“前我朝派遣官员孟格德曾与你方约定，双方不能收纳逃人，并要你方归还我逃人根特木尔，但你方背弃前约，入我边地，扰害我达斡尔、索伦、费牙喀、奇勒尔等少数民族部众。我方忍无可忍，即命出师，永驻额苏里。你等若离我边界，还我逃人，则双方仍可和平相处，否则，我方亦可擒捉你方往来之人。”七月初，清军进驻额苏里后，即与沙俄侵略军发生武装冲突。
到康熙二十三年正月，黑龙江中下游及其支流上的俄国侵略据点已基本肃清。因此，康熙皇帝便把目光转向仍被沙俄侵略者侵占着的黑龙江上游地区的据点——雅克萨和尼布楚。
二十四年四月二十八，康熙皇帝下令清军分批开赴雅克萨。黑龙江上江风浩荡，波涛汹涌，瑷珲城下旌旗飘舞，号角齐鸣。由满、蒙、汉、索伦、达斡尔、鄂伦春、赫哲各族组成的清朝大军，水陆齐发，直逼雅克萨。到五月二十二日，清军全部集结完毕。康熙皇帝本着先礼后兵的原则，命令彭春在城西隔江的小岛上安营扎寨，建立指挥部，同时命令彭春，用满文、俄文、拉丁文三种文字致书雅克萨统领，令其撤出雅克萨，返回俄国本土，并提出以雅库次克为界的议和方案。但沙俄自恃巢穴坚固，拒不撤军，且出言不逊，要以武力相抗。康熙皇帝遂命清军于二十三日分水陆两路列营，准备武装攻取。沙俄得知消息，赶紧于二十四日晨从尼布楚派来援军，但被清军击溃，击毙俄军三十余人，余众仓皇而逃。二十四日夜，清军又将神威将军等火器移置于前，准备强攻。
二十五日黎明，收复雅克萨的战争终于打响。清副都统雅钦、营门校尉胡布诺等设立挡牌土垄，从城南佯攻，牵制敌人火力；副都统温岱、护军参领瓦哈纳、汉军提督刘兆奇在城北架设红衣大炮，向城内轰击；护军参领博里秋、营门校慰乌沙、绿旗左都督何佑等率军用神威将军炮从东西两侧夹攻；副都统雅齐纳、镇守达斡尔提督白克等率水军屯于城东江面，防止敌人从水上逃遁。准备就绪后，清军四面合围，炮火齐发，雅克萨城内烈焰熊熊，毙伤俄军百余人。二十六日中午，清军堆积柴草，准备火烧雅克萨城，俄军惊慌失色，遂打出白旗，开城投降。收复雅克萨的消息经由驿站飞速传到古北口，外行在此的康熙皇帝得此消息，非常高兴，即传谕诸王大臣：“罗刹扰我黑龙江、松花江一带三十余年，占据之地离我朝发祥地甚近，如不速加剪除，边境之民必不得安宁。今蒙天恩，收复雅克萨，朕心甚为嘉悦。朕行仁政，素不嗜杀，可传谕将士，勿杀投降之人，使其还归故土，以示朕柔远之意。”圣旨传到雅克萨，清军即将俄军俘虏七百余人（包括少数妇女、儿童），令其携带其武器和财产，送至额尔古纳河口，遣归尼布楚。对于不愿回国的巴什里等四十五人，康熙皇帝传谕将其安置于盛京。雅克萨城内被俄军掠去的索伦、达斡尔人质，也各自发回原地，与家人团聚。收复雅克萨的战斗，是我国军民为维护国家主权而进行的一场正义之战。在战斗中，虽然我方在武器装备上劣于敌人，但我方军民士气高昂，作战勇敢，康熙皇帝又吸取了前朝轻进的教训，在战前进行了周密细致的准备，因此才取得了收复雅克萨战斗的胜利。
收复雅克萨之后，按照康熙皇帝意图，本应在黑龙江驻兵，在雅克萨设立哨所。而且在出征之前，康熙皇帝一再指出在雅克萨城设立哨所的重要性，指出：如不如此区划，纵克取雅克萨城，我方退兵之后，他们又会前来，仍旧是我方边境的大患。收复雅克萨后，康熙皇帝在六月十四日的谕旨中再次告诫百官：雅克萨虽已克取，防御绝不可疏忽。但彭春等人在收复雅克萨之后，并未按康熙皇帝旨意行事，而是将城堡一烧了之，雅克萨周围的庄稼未割，哨所未立，且不待命令即擅自撤兵回瑷珲、黑尔根等地。二十四年七月，俄军雅克萨头目托尔布津逃至尼布楚后，即与该地俄国督军弗拉索夫计议，率原班人马及增援人员、武器、物资，重新盘踞雅克萨，并重新筑城，挖掘壕沟，建设炮垒、粮库，并于二十五年到呼玛旧堡窜扰。康熙皇帝于二十五年二月得知沙俄重占雅克萨后，立即意识到这一事件的严重性：“今罗刹复回雅克萨盘踞，如不速行扑剿，则沙俄必积粮坚守，一旦其站稳脚跟，我们攻灭它就更加困难。”因此他命令黑龙江将军萨布素暂且停止迁移家口，速修战舰，统领乌喇、宁古塔官兵，即刻驰赴黑龙江域，并让其所率黑龙江兵二千人，担当第二次收复雅克萨的主力。四月底，又派副都统郎谈、班达尔善、马喇参赞军务。为避免重蹈第一次收复雅克萨后的覆辙，行前，康熙皇帝特别召见马喇，告诫他说：“你等此行，宜谨慎从事。出征之前要晓谕罗刹，让其速降。如果他们拒不悔悟，则我大兵尽诛之”。又说：“如果复得雅克萨城，即可命军士直逼尼布楚，但一定要在雅克萨驻兵，勿毁其城与田禾。”表示了我国政府再次收复雅克萨的决心。
五月上旬，萨布素、郎谈两路进兵，月底逼近雅克萨城。按照康熙皇帝旨意，萨布素首先命俄俘带信入城，让其迅速投降，如果俄军试图负隅顽抗，则我们绝不善罢甘休。当时盘踞雅克萨的俄军近千人，有火炮十三门，粮食也较充足，俄军便凭借其势，拒不投降。为防止俄军从尼布楚增援，清军于六月一日占据了黑龙江上游，遏制了俄军的增援之路。六月初四，清军开始攻城，经数日激战，歼灭敌人百余名，其中包括俄军头目托尔布津，沙俄侵略者见清军攻势强大，便仰仗其新筑之城比较坚固，撤回雅克萨城内固守，清军便于雅克萨城下，挖长壕、立土堑、筑炮垒，准备进行长期围困。时深秋已至，天气渐寒，康熙皇帝非常关心前方进展情况，遂于八月二十五日传谕萨布素，让其将船舰如何收藏，马匹粮草如何储备，一旦敌兵增援，如何扑剿等事，“详加筹划，密以奏闻”。萨布素遵旨上奏：“现已于雅克萨周围三面挖壕筑垒，并在壕外设置木桩鹿角，分批防御；又在城西江对岸，另设一军，遏制增兵沿江而来；船舰已备足，藏于离城六、七里处的上游港口，现已派军守护，并令其阻击尼布楚援军；军中马匹羸弱者，一半发往黑龙江，一半发往墨尔根，让驻扎在那里的盛京官兵负责喂养。”康熙皇帝得其奏报后，非常满意，只是担心盛京官兵不善喂马，贻误战机，遂改令由索伦总管和黑龙江官兵承担。
清兵长期围困，使盘踞在雅克萨的俄军遭受很大打击，城中弹尽粮绝，饥寒交迫，加上坏血病流行，死者无数。八百多名俄军只剩下一百五十余人，且大多患病，能站岗放哨的只有三十名士兵和十五名青少年，尼布楚俄军又无法增援，雅克萨实际已成指日可下的孤城。沙俄政府见我国收复失地坚决，雅克萨又大势已去，为避免上游尼布楚遭到冲击，迫不得已改变态度，转而求和。
划定中俄东段边界
第二次雅克萨之战结束之后，中俄双方便开始了划定疆界的谈判。对于中俄边界问题，康熙皇帝一贯主张和平解决，因此，在雅克萨之战取得胜利的情况下，他主动提出双方谈判、划定疆界。关于这一点，康熙皇帝说得很清楚：“朕唯念万邦之民皆无兵戎之忧，安居乐业，和睦相处。”因此，雅克萨撤兵之后，康熙皇帝就责成官员积极准备谈判事宜。而沙皇政府虽然迫于形势和压力接受了清政府谈判建议，但并没有放弃对中国领土占有的欲望。康熙二十五年正月，沙俄政府指派戈洛文为全权大使，率领官吏士兵一千九百余人前来中国进行谈判时，就明确指示戈洛文：在谈判中力争以黑龙江为界，即要占领黑龙江的整个北岸。如果达不到这个要求，则可以牛满河、精奇里河为界，占领黑龙江中游北岸，再达不到要求，则以雅克萨为界，但要在牛满河和精奇里江保留中俄两国共同的渔猎场。此外，沙皇还赋予戈洛文广泛的权力，“如果中国人坚持原有主张，毫不让步，不愿根据上述条件缔结和约”，则戈洛文可调动西伯利亚地区的军队，出兵和中国作战。可见，沙俄政府派出使团谈判，并不意味着停止侵略，而仅仅是侵略策略和手段的调整。戈洛文使团的组成也恰恰说明这一点。当时戈洛文使团共有官员士兵一千九百余人，包括炮兵、火炮兵、骑兵等，都表明他们在要求达不到时仍准备采取武力的野心。康熙二十五年，戈洛文出使中国，次年春，得知康熙皇帝为促成两国谈判早日实现而主动撤军，便对和谈采取了消极拖延的态度，企图策动我国喀尔喀蒙古臣服俄国，以加强在谈判桌上对清朝政府的压力，并因此在我国外蒙地区逗留达两年之久。
康熙二十八年七月八日（8月22日），中俄双方开始正式会谈。谈判过程中，戈洛文使团为夺取中国更多的领土，将他们过去制定的前三个方案，逐一抛出，漫天要价，并力图推卸战争责任，诬蔑中国是“派兵侵犯沙皇陛下国界”。索额图根据康熙皇帝旨意，据理力争，严正指出：鄂嫩河、尼布楚均系我国所属茂明安等部落旧址，雅克萨也系我少数民族头人阿尔巴西故居，后被你等窃据。由于俄方不断对我国实行武装侵略，我国政府不得已才采取自卫行动，以武力收复雅克萨。你等俄军在乞降时，也曾许诺不再到雅克萨来，不再建城堡，不再寻衅扰乱。但你等背信弃义，出尔反尔，又二次侵占雅克萨。我国政府被迫再次还击，直至你等要求撤围、谈判。这怎么能说是我国挑起争端呢？戈洛文理屈词穷，进而提出要以黑龙江为界的无理要求，索额图当场予以严辞拒绝。谈判呈破裂状态。戈洛文见第一个方案不能实现，于是稍微降低要价，企图以牛满河或精奇里江为界，并要求中国赔偿俄国在雅克萨等地所受的“损失”。清朝使团缺乏外交谈判的经验，误认为俄国使团已经让步，又希望尽快能达成一个协议，因此，在第二天会谈中，我国使团就作出重大让步，表示愿以尼布楚和音果达河为界。这样就把康熙皇帝的最后划界方案一下子就摊了出来，使中国代表团失去了回旋的余地。戈洛文听到中国政府肯于出让尼布楚，异常高兴，但为了获取更多利益，故意纠缠，拒绝中国使团的方案。清朝使团看到最后方案被拒绝，以为谈判破裂，自己已无话可说，便准备返回北京。戈洛文使团一面买通使团中担任译员的徐日升、张诚二人，劝说中国使团继续留在尼布楚，说俄国人将放弃雅克萨；一面在一些问题上讨价还价，迟迟不肯达成协议，中国使团为了早日达成协议，除让出尼布楚外，又作出了许多让步，七月十一，清朝使团提出在尼布楚以东让出七日路程之地，以石勒喀河至绰尔纳河为界，左侧属沙俄，右侧属中国；七月十二，清朝使团在黑龙江北岸再让出几十里，退至格尔必齐河为界；七月十三，清朝使团又提出在黑龙江北岸，以额尔古纳河为界。但沙俄仍不满足，坚持要以雅克萨建城之地划界，并坚持双方可在此共同渔猎。沙俄顽固的侵略政策，遭到清朝使团的严辞拒绝，谈判陷入僵局。正在这时，原喀尔喀蒙古所属布里亚特人、温科特人掀起了大规模的抗俄斗争，起义者达到两千人，许多受俄国奴役的喀尔喀部众，纷纷来到中国使团驻地，请求将他们带入中国境内，回到中国皇帝一边。俄国使团见势不妙，担心沙俄的殖民统治会全面崩溃，因此才被迫答应清朝政府的要求，双方终于在1689年9月7日（康熙二十八年七月二十四日）达成协议，签订了《中俄尼布楚条约》。