8月8日夜，苏军3个方面军、太平洋舰队和黑龙江区舰队的部队占领进攻出发地域（阵位）。9日零时，各先遣支队越过国境。拂晓，主力先后发起进攻，航空兵分两批袭击哈尔滨、长春、吉林和沈阳，太平洋舰队在日本海积极行动。
在西线，后贝加尔方面军各先遣支队利用夜暗，不经炮火准备，同时在所有方向越过国境。4时30分，方面军主力开始进攻，基本未遇日军抵抗。坦克第6集团军在相隔70余公里的两个方向上成两路以疏开队形快速前进，战役第一天前进150公里。10日下午，又前进100余公里，主力到达大兴安岭。由于进展顺利，方面军司令员要求坦克集团军提前完成当前任务，于8月12日日落前，前出到鲁北、突泉一线。坦克第6集团军遂在行进间变更部署，坦克第5军由第2梯队改为第1梯队，当夜登上大兴安岭，占领了台日黑达坝。8月12日，坦克集团军全部越过大兴安岭，其先遣支队已于11日攻占鲁北，12日攻占突泉。左翼第36集团军于11日攻克满洲里筑垒地域，坦克部队在海拉尔筑垒地域，遭日军顽抗，主力实施迂回。右翼苏蒙骑兵机械化集群分两路开进，一路14日攻占多伦，另一路15日占领张北。
在东线，远东第1方面军先遣支队于9日1时趁夜暗和暴雨偷渡乌苏里江，袭击日军边境筑垒地域。8时30分，主力发起进攻，除个别方向外，均未进行炮火准备。左翼第25集团军和右翼第35集团军分别遭到日军东宁、虎头筑垒地域的顽抗，屡攻不克，前进受阻，主力被迫迂回，留下一部兵力，并调来重炮和轰炸航空兵，继续攻击。第5集团军以先遣支队消灭日军火力点后，主力迅速前进，于战役第2天攻占绥芬河，14日攻入牡丹江市区，与第1集团军协同，同日军展开巷战，为提高进攻速度，避免陷入僵局，方面军司令员决心以主要力量从牡丹江市南面迂回，直插吉林。
在北线，远东第2方面军于9日1时发起进攻，独立第5军强渡乌苏里江，14日占宝清。第15集团军在黑龙江区舰队协同下，强渡黑龙江，于14日经激战攻占富锦筑垒地域，打通了至佳木斯的道路。第2集团军先担任黑龙江北岸海兰泡沿线的防御，11日转入进攻，因渡河器材不足，只得分批投入战斗，进展缓慢，于14日才包围了孙吴和爱辉筑垒地域。
经战役第一阶段6天的交战，后贝加尔方面军越过大兴安岭，前进450～500公里，前出到东北平原；远东第1方面军前进150～200公里，前出到牡丹江平原；远东第2方面军前进50～100公里，前出到佳木斯的接近地；太平洋舰队协同陆战队，占领了北朝鲜雄基、罗津等港口，切断了日军从海上的退路。关东军的部署被割裂、打乱，失去统一指挥，只有部分兵力仍在牡丹江市和海拉尔、孙吴、虎头等筑垒地域继续抵抗。