清军入关后，兵力大部分移到内地，所以驻扎在东北的清兵有所减少，黑龙江一带屡遭沙俄的侵扰。当时清朝忙于攻取江南、平定三藩、收复台湾等等，无暇顾及东北黑龙江一带，给沙俄入侵造成空隙。这伙侵华沙俄原居欧洲，距中国十分遥远，然而他们侵略成性，经常用最残忍、最野蛮的手段向外扩张，最后魔爪伸到亚洲，直到中国黑龙江一带。
康熙帝继位后，鳌拜专权，政局混乱，鳌拜对沙俄入侵又隐瞒不报，致使沙俄先后占据雅克萨、尼布楚等地。他们在两地修建碉堡，建立殖民地，强征当地居民的赋税，甚至向清朝发布外交文书，要清朝皇帝向他们称臣。甚至还无理要求中国每年向沙俄进贡白银4万两和丝绸等物资。这一切都遭到康熙帝的严辞拒绝。沙俄恼羞成怒，增兵雅克萨，修筑更多的碉堡据点，威胁大清，并伺机扩大侵略范围。
三藩平息后，国内基本安定。康熙帝以为应适时出兵黑龙江，给沙俄侵略者以应有的回击，以保卫祖国领土主权不受侵犯。为此康熙帝于公元1682年借回盛京拜谒太祖、太宗陵寝之机，亲自调查边境情况。他出柳条边，乘船沿松花江北行，询问由黑龙江逃回来的老百姓，打听那里的情况，听到百姓对罗刹（即沙俄）的愤怒与咒骂，得知民心思归，百姓爱国，不为沙俄所用。这是击败沙俄，保卫边境实现领土完整的有力保证。康熙帝安慰百姓说：“朕对罗刹早有所备，待我大军一旦布置就绪，即刻发兵，收复失地，让你们返回家园。”
经过实地了解，康熙帝对出兵黑龙江充满了必胜的信心。为了更好地掌握沙俄的实际情况，回京后，他即派都统郎坦率几百健卒，化装成猎人，深入雅克萨一带侦察敌情，勘察地形交通。郎坦等人经过一个多月的侦察，取得了可靠的材料，绘制了地形图回到北京。郎坦上奏说：“根据臣等实际了解所掌握的情况分析，要想打败罗刹并不难，只要派3000兵就可取胜。”郎坦的报告与康熙帝的分析是一致的。为了永保边境的长治久安，康熙帝考虑必须在边境建城驻兵，屯田开荒，修筑水路公路，加强与内地联系，这样才能从根本上加强边境地区的防御能力。
公元1683年康熙帝派兵驻守瑗珲等地，任命萨布素为黑龙江将军，派户部尚书伊桑阿到吉林督造船只，修通水路，扩建陆路，使边境与北京的通信几天就可以通达。康熙帝谆谆嘱咐萨布素，要求他关心和保护好边民，加强军民团结。
经过二三年的准备，到康熙二十四年（公元1685年）春，康熙帝得到萨布素的报告，知道一切准备就绪，于是下令攻占雅克萨。强大的清军得到当地人民的支持，很快攻下雅克萨，将沙俄侵略者赶走，首战告捷。康熙帝告诫萨布素要警惕罗刹的卷土重来。
果然不出康熙所料，沙俄退兵并不死心，不久窥探到清军撤回休整，雅克萨守兵少的机会，立刻组织大批军民，偷袭雅克萨。沙俄这次占据了雅克萨后，高筑墙，深挖沟，准备死守下去。雅克萨失守后，康熙帝命令萨布素第二年春必须夺回雅克萨，彻底消灭这股侵略者。这次战斗进行得十分激烈，因为沙俄防守工事修得又多又坚固，战争持续了三个月，最后沙俄头子托布尔津被击毙，士兵死亡百分之九十，清军重新夺回雅克萨。
第二次击败沙俄，康熙帝致书沙皇，提出通过谈判解决边疆问题的主张。沙皇因两次受挫，看到想用武力霸占黑龙江流域毫无希望，只好答应谈判，想到谈判上再捞一把。沙皇的代表是老奸巨滑的果洛文，清朝代表是索额图。果洛文使出浑身解数，耍尽了无赖手法；索额图义正词严不卑不亢。在雅克萨中国各族居民强大声势的压力下，果洛文害怕如果再赖下去，将失去在黑龙江一带所有的地方，无可奈何地接受了中国代表提出的方案。双方达成了协议。
康熙二十八年（公元1689年）七月二十四日双方在尼布楚签定了《中俄尼布楚条约》。条约明文规定：格尔必齐河、外兴安岭和额尔古纳河为中俄两国分界线。分界线以南原俄国所建的据点包括雅克萨在内，全部拆毁；中国把尼布楚和它以西直到贝加尔湖的领土让给俄国。
《中俄尼布楚条约》虽然把原来属于中国的一部分领土让给了俄国，但这是出于清政府战略上的考虑同意的，是双方共同商议的结果，是中国历史上第一次平等条约。它确定了中俄双方东北部的边界，此后长达150年的时间里，这一段边境一直比较平静。《中俄尼布楚条约》也是康熙皇帝在外交政策上的一次胜利。
但是沙俄侵略者并不死心，它开始改变了侵略手段，以挑拨中国民族关系为阴谋，鼓动中国西北部的噶尔丹起来作乱。