随着苏联“远东共和国”的宣告建立，开始共对华的经济贸易关系。为此，中苏之间开展了一系列的商务谈判。
中苏建立外交关系谈判开始于1920年中，最初是与远东共和国进行的。十月革命胜利后，苏俄政府并没有得到真正的喘息机会，在列强的包围下，为了保卫年轻的苏维埃共和国，苏俄政府奉行了和平共处的外交原则，甚至不惜为此作出暂时的重大让步。苏俄这一时期外交政策的任务之一就是避免在远东同日本发生军事冲突，并准备好在西方帝国主义国家一旦向俄国重要中心发起新的进攻时予以还击。这一政策的重点是抵制波兰军队的进攻，而为了避免同日本作战，苏俄决定在远东地区成立一个“缓冲国”——远东共和国。远东共和国是在列宁亲自指导下，由原苏俄远东人民委员会主席克拉斯诺晓科夫具体负责创建的。
1920年3月28日，贝加尔湖沿岸居民制宪会议开幕，4月6日，克拉斯诺晓科夫为会议起草声明，宣告正式建立独立民主的“远东共和国”。该共和国包括阿穆尔省、滨海省、外贝加尔省、库页岛省、堪察加省和划归中东路的地带。1921年1月，远东共和国制宪会议举行选举，成立了由布尔什维克领导的政府。远东共和国对华外交的主要任务是利用其非苏维埃形式，建立和发展同中国的经济贸易关系，同时，为尽快解决中苏之间的悬案并建立正式外交关系创造条件。根据这一政策，’1920年5月30日，远东共和国外长向北京政府发出照会，提议两国建立正式关系，并设立领事机构和举行官万代表会议。6月，优林使团来华。该使团的权限很广，不仅能就经济及外交关系等问题同中国政府进行谈判，而且有权签订条约，并被苏俄政府授予解决中东铁路等问题的权力。但北京政府担心与远东共和国接触会引起列强的不满，迟迟未准使团进京，直到8月26日，始准优林以“远东共和国商务总代表”名义经库伦抵达北京。
11月30日，优林照会北京政府外长颜惠庆，提出远东共和国政府宣言，宣言主要包括五项内容：（1）废除帝俄与中国签订的不平等条约；（2）允设远东领事馆；（3）拒绝道胜银行对中东路的要求；（4）发展两国商务，订立商约；（5）恢复邦交，建立外交关系。同日，优林开始与北京政府外交部俄事委员会会长刘镜人举行首次非正式会谈。刘镜人提出商务谈判的四个前提条件：（1）在中国境内不作任何与中国社会不容的政治“鼓吹”；（2）赔偿俄国革命时给中国侨民造成的损失；（3）保护中国侨民的生命财产，予以旅居经商自由；（4）查处并杜绝新疆、外贝加尔等地方对中国侨民的不该发生的事件。12月4日，优林以远东共和国政府名义接受了这四项条件。经过谈判，双方签订了《黑龙江政府与远东政府开通边界章程》及《会订东赤两路开通车辆条件》，但对华侨赔偿一事仍悬而未决。1921年4月20日，北京政府正式接待优林使团，外长颜惠庆直接与优林谈判，谈判的重点是商约草案、中东铁路及外蒙占三大问题。谈判一直持续到10月中旬，双方就中东路问题和外蒙古问题达成初步谅解。优林使团来华，基本上打通了中俄的边境往来，为中俄恢复外交关系及解决中东路和外蒙古问题打下了基础。
在与优林使团访华几乎同时，北京政府也向远东共和国派出了一个军事外交代表团。
1920年6月，由督办边防事务处派谴陆军中将张斯麐为首的代表团赴远东共和国考察并俟机前往苏俄，进行非正式洽谈。6月下旬，张斯唐率代表团到达远东共和国首府上乌丁斯克，拜会了远东共和国政府主席克拉斯诺晓科夫，双方进行了长时间的秘密会谈。9月5日，代表团抵达莫斯科。9月10日，张斯麐照会苏俄外交人民委员齐切林，声明代表团代表中华民国政府前来莫斯科进行谈判，并将随车带来的面粉送与莫斯科的儿童和赈济华侨。苏俄政府接待了代表团，为该团了解苏俄情况提供了一切便利条件，并将苏俄政府第二次对华宣言交代表团转交中国政府。11月2日，列宁接见张斯磨。11月3日，代表团抵彼得堡，逗留几日后回国。张斯磨使俄，是北京政府与苏俄非正式交往的一次尝试，有利于双方的进一步接触。
1921年11月至1922年2月，帝国主义列强举行了以划分在远东势力范围为主要内容的华盛顿会议。为反对华盛顿会议，共产国际于1922年1月21日召开了远东各国共产党各革命团体代表会议，作出了《华盛顿会议的结果及远东形势》的决议。在这种背景下，苏俄决定派出以越飞为全权代表的新的驻华外交使团，到北京与吴佩孚及其控制下的北京政府谋求合作。1922年8月12日，越飞使团抵达北泵。他在同北京政府积极父涉的同时，义派使团顾问伊万诺夫及苏俄驻北京通讯社负责人霍多罗夫等多次到洛阳会见吴佩孚，以促进双方的关系。然而，吴佩孚镇压京汉铁路工人大罢工的政策，使苏俄的联吴希望落空。越飞使团与北京政府的交涉遭到挫折，但与南方的国民党之间的关系却取得了迅速的发展。1923年1月，越飞以养病为名离开北京抵上海，与孙中山进行了秘密而频繁的接触。1月26日，双方发表《孙中山与越飞会谈纪要》，即历史上有名的《孙文越飞联合宣言》。不久越飞奉召回国。苏俄派出苏俄副外交人民委员加拉罕、职业革命家鲍罗廷、共产国际远东局书记魏维经斯基来华，以实现苏联对华外交和对中国革命的统一指导。1923年9月，加拉罕抵达北京。9月4日，加拉罕向报界发表苏联政府第三次对华宣言，重申对华政策的原则精神，指出，苏联政府的对华政策不同于沙皇政府，在与中国的关系中，完全尊重中国领土主权，放弃一切领土和其他要求。宣言声明前两者对华宣言的原则和精神仍然是苏联政府对华关系中的指导基础。但宣言同时声明“决不放弃在中国的利益”，理由是“这些利益不破坏中国人民的主权”。9月14日，加拉罕与北京政府代表王正廷举行第一次正式会谈。在会谈中，加拉罕根据苏联政府争取外交承认以打破国际孤立状态的原则精神，并鉴于越飞使团前的裴克斯使团对华交涉的教训，提出必须抓住主要问题，即首先解决恢复正式外交关系问题，而后再解决双方关系的悬案。王正廷则根据外交总长顾维钧与越飞先前达成的谅解，即“中俄两国业已赞成将一切悬案均由会内讨论解决，无沦如阿，不得事先提出任何条件预行裁决”，因而建议“应先开始协商，后恢复邦父”，坚持以谈判重大悬案作为正式承认苏联和建立外交关系的条件。由于双方意见迥异而又各自坚持己见，第一次会谈未取得任何进展。
10月13日，王正廷根据与顾维钧商定的意见，向加拉罕提出了解决双方悬案的13点草案，以作为恢复正式外交关系的基础。主要内容有：（1）中国与沙皇政府之间所订立的一切条约、公约、协议、议定书均无效作废。（2）苏维埃政府同意撤出现时驻外蒙古的所有军队，撤完时期不迟于本协议签订后6个月；中国将自主地派兵驻防蒙古。（3）苏维埃政府同意与外蒙之间签订的一切条约和协议无效作废。（4）双方互相保证在各自领土内不允许任何密谋反对对方政府的机关或组织存在或行动，保证不进行有害于对方公共秩序或有害于对方社会组织的宣传。（5）苏维埃政府同意将中东铁路连同其它所有附属财产一并完全归还中国。（6）苏维埃政府同意放弃前俄国政府在华租用或建立的租界、兵营、阅兵场，同意放弃治外法权，放弃辛丑条约所规定的赔偿。10月17日，加拉罕全部驳回上述13点草案，提出一个反建议，认为除了尽快缔结关于运行中东铁路的协议外，其余问题应在恢复外交关系后的适当时候商谈解决。双方的谈判陷于僵局。
1924年2月以后，国际形势和中国国内形势更加有利于苏联对北京政府的交涉。2月2日，英国政府实际承认了苏联，随后，意大利、挪威等国也相继承认苏联。苏联政府逐步摆脱了外交上孤立的处境。而中国国内，直奉两系矛盾尖锐，孙中山领导的广州政府与北京政府分庭抗礼，国内舆论要求与苏联尽快复交的呼声日高，在这种形势下，中苏之间的谈判重新诙夏。但加拉罕声明，若不预先承认苏俄政府，苏联将不准其磋商它种问题。1924年2月15日，中国谈判代表王正廷提出与1923年10月13日提出的解决双方悬案的13点草案内容大致相同的《解决中俄悬案大纲协定草案》13条及《暂行管理中东铁路协定草案》11款。3月1日，加拉罕则提出《解决中俄悬案大纲协定草案》修正案15条和《暂行管理中东铁路协定草案》修正案11款。加拉罕的修正案基本同意王正廷的提案，但就如下几点作了修改变动：一是关于废止旧约、取消旧俄特权问题，认为应在将来会议中废止；二是关于外蒙苏军撤离问题，提出有条件撤兵；三是关于中东铁路问题，提出不同意无偿归还，认为中东路的管理权在中国赎路之前由“中俄合办”，铁路局长应由苏联政府派员担任。
3月13日，王正廷在未得到北京政府内阁同意的情况下，与加拉罕草签了上述两个草案。3月14日，王正廷与加拉罕草签的草案遭到北京政府内阁的否定并拒绝批准。对此，加拉罕照会北京政府，提出在三天内等候中国政府的核准，“三日期限过后，我将不认为我受条约束缚”，并多次公开表示，若北京政府不肯承认苏联，他将赴南方同孙中山会晤。鉴于各方面的压力，北京政府决定改派外交总长顾维钧与加拉罕进行谈判。4月初，双方开始秘密接触。双方经过一系列磋商后，于1924年5月31日正式签定了《中俄解决悬案大纲协定》、《暂行管理中东铁路协定》以及七件声明书、两件换文和一个议定书，中苏外交关系也由此正式建立。
《中俄解决悬案大纲协定》共15条，对中国来说，其积极的方面主要有：（1）中苏两国改府同意，“将中国政府与前俄帝国政府所订立之一切公约、条约、协定、议定书及合同等项概行废止，另本平等、相互公平之原则，暨1919与1920年苏联政府各宣言之精神，重订条约、协约、协定等项”。（2）苏联政府“根据其政策及1919年与1920年宣言，声明前俄帝国政府与第三者所订之一切条约、协定等项，有妨碍中国主权及利益者，概为无效。缔约两国政府声明，嗣后无论何方政府，不订立有损害对方缔约国主权及利益之条约及协定”。（3）“苏联政府承认外蒙为完全中华民国之一部分，及尊重该领土内中国之主权。”（4）中苏两国声明，中东路纯系商业性质；并声明，除该路本身营业事务直辖于该路外，所有关系中国国家及地方主权之各项事务，如司法、民政、军务、警务、市政、税务、地亩（除铁路自用地皮外）等，概由中国官府办理。（5）苏联政府“允予抛弃前俄政府在中国境内任何地方根据各种公约、条约、协定等所得之一切租界等等之特权及特许’，“允予抛弃俄国部分之庚子赔款”，“允予取消治外法权及领事裁判权”。协定的签订促进了中苏两国关系的发展。但是，《中俄解决悬案大纲协定》也有不符合中国民族利益之处。首先是关于外蒙问题，协定规定：“苏联政府声明，一俟有关撤退苏联政府驻外蒙军队之问题，即撤兵期限及彼此边界安宁办法，在本协定第二条所定会议中商定，即将苏联政府一切军队由外蒙古尽数撤退。”这实际上是一种有条件的撤兵，而且协定没有关于苏蒙协约的条款，实际上是苏联仍保留相互承认，互派使领，甚至可以谈判边界的苏蒙条约。这就为后来苏联控制外蒙，促使外蒙脱离中国而独立制造了方便条件。中苏协定后不足半月，就形成了“蒙古人民共和国”的既成事实。其次是中东铁路问题。协定中关于中苏共同经营中东铁路的规定，实际上是在1919年和1920年苏俄两次对华宣言精神原则上的倒退。中苏协定的不足之处还表现在，中国方面的多数合理要求以及苏方的承诺实际上仍然悬而未决，如废除中苏之间的不平等条约，苏联从外蒙撤军，中国赎回中东铁路各项，仍须于协定规定的日后中苏会议上商讨解决。日后苏联方面根据形势的发展一再延宕中苏会议的召开。这样，苏联在协定中就中国主权利益等方面的承诺只能长期停留在纸上，从而成为苏联向中国人民所开的一张空头支票。中苏协定签订后，在国共两党的领导下，在孙中山和苏联、共产国际及其在中国代表的大力支持下，全国各地借着中苏协定签订之机，纷纷掀起了废除帝国主义强加给中国人民的一系列不平等条约的群众运动。