第2兵团第二政治委员杨成武“立即开始组织西进兵团，担负向绥远作战之任务”。该兵团以目前在平保线作战的的第1、第2、第6纵队（欠1个旅）组成之。预定于8月10日开始西进，取道大同以南。务于8月25日左右到达归绥附近，并相机夺取归绥，尔后相机向包头、五原、临河地区攻击，占领整个绥西产粮区。或向归绥以东机动，吸引傅作义至少1个军西援，以利东面之作战。
并规定：杨成武兵团从7月26日起，直接受中央军委指挥，“其后力补给由华北军区担任，晋绥军区协助之，并以晋西北为后方。
并须准备长期在整个绥远境内作战。华北局应即组织一批地方工作干部随军西进”。7月30日，中央军委进一步规定，杨成武兵团“在绥远作战之时间预定为一年”。
第2兵团司令员杨得志、第一政治委员罗瑞卿、参谋长耿飚率第3、第4纵队等部本月底结束在现地之作战，即行休整至8月15日为止，准备于8月20日左右直接接受林彪、罗荣桓、刘亚楼的作战任务。
第6纵队1个旅及第7纵队留在平保线以西以南地区作战。
受华北军区指挥。
8月3日，毛泽东、刘少奇、朱德、周恩来、任弼时在西柏坡接见了聂荣臻和杨成武，就华北军区部队编组、配合东北作战任务及杨成武兵团西进绥远等问题进行了具体磋商。中共中央、中央军委决定：
以第1、第6纵队和第2纵队2个旅组成第3兵团，由杨成武任司令员，李井泉任政治委员，李天焕任副政治委员。并统一指挥晋绥军区第8纵队、内蒙古军区2个骑兵师及晋西北地区地方部队，向绥远挺进。开辟新战场，在平绥线上拖住傅作义主力，调动其向绥远增援，使华北国民党军不出关少出关增援东北。该兵团计划于8月21日开始西进，9月10日左右以主力到达归绥附近，并开始攻击归绥，以一部到达集宁、兴和附近，并开始攻击该两点。
以第3、第4纵队和第2纵队第4旅及华北军区2个独立旅组成第2兵团，由杨得志任司令员，罗瑞卿任政治委员。耿飚任参谋长，并统一指挥冀热察地方部队，于9月10日以前向冀东出击，以主力出（北）平承（德）线，以一部出平张线。掩护第3兵团入绥作战和配合东北野战军在北宁线作战。在这一阶段内该兵团受中央军委直接指挥。
中共中央、中央军委期望华北第2、第3兵团在绥远、冀东猛烈发动攻势，钳制并削弱傅作义集团，有力配合东北野战军作战。
同时进一步发展华北战局，为尔后解放平、津创造更加有利的条件。
（二）第2、3兵团密切配合，转战察绥
为做好挺进绥远的各项准备工作，经中央军委批准，华北第3兵团推迟了向绥远进发的时间。
9月5日，第3兵团司令员杨成武率该兵团与北岳军区部队（大小5个团），从易县、涞源地区出发，以7日行程进至雁北之朔县、山阴、代县地区，与兵团政治委员李井泉率领的入绥干部会合。第3兵团前委在朔县米昔马庄召开了有晋绥党政领导干部参加的扩大会议，研究了战役计划，制定了征借粮食、建立乡村政权和地方武装的各项政策，并抽调一部分军队干部与地方干部组成600余人的工作团，随军向绥远进发。
为掩护第3兵团西出绥远之行动，第2兵团适时在冀东地区发动攻势。9月8日，第4纵队主力在冀东军区第14军分区队配合下，攻克三河县城。随后，破坏了顺义至怀柔间平承铁路，摧毁了沿线据点碉堡。并将第35军及新编骑兵第4师吸引于平承线；第3纵队和冀察热辽军区3个独立师则向平承铁路密云、通县之间和北平以北地区积极活动，直接威胁平绥、平古两线，并造成威逼北平之势。傅作义为解除威胁，以第16军、暂编第3军分由密云、昌平、延庆等地对平北地区解放军连续发动进攻。第3纵队等部采取运动防御，以诱敌深入，至20日，将其吸引至平北山区汤河口、宝山寺一带。该部国民党军进入山区后深恐被歼。
于21日仓皇南撤至怀来，被迫歼一部。
这样，第2兵团在平北山区拖住了傅作义部3个军10个师，并歼灭其3000余人。不仅有效掩护了第3兵团的西进行动，而且直接配合了东北野战军正在进行的北宁线作战。
当第2兵团在平北地区反复扭击国民党军。将傅作义的注意力吸引于该方面之时，第3兵团于9月23日晚经大同东西两侧地区向绥远腹地挺进。这时，在绥远广大地区只有国民党正规军1个军3个师（旅）及部分保安团队防守，傅作义采取守点布防：以暂编第5军新编第7师等部共8000余人驻守归绥。以暂编第2师驻守包头、凉城等地，以2个保安团驻守集宁，以1个保安团驻守丰镇，以整编骑兵第13旅等部守萨县、察素齐一线。
根据中央军委的指示和绥远地区国民党军情况，第3兵团兵分2路。以主力直取归绥。其部署是：西路以第2、第6纵队和第1纵队主力，首先以奔袭手段攻歼凉城、新堂、和林、清水河等地守军，尔后分路向归绥城挺进。迅速包围攻歼归绥守军；东路以晋绥军区第8纵队、第1纵队第2旅及北岳军区部队，首先奔袭丰镇、集宁等地守军，尔后在集、丰以东选择有利阵地，阻击由东面增援的国民党军，保障兵团主力围攻归绥作战。
24日，第1纵队第2旅攻占隆盛庄，北岳军区部队攻占丰镇，守军保安第2团等部沿铁路向集宁方向撤逃，被第8纵队骑兵旅、第14旅截歼于红沙坝地区。25日夜，第8纵队和第2旅包围集宁城。26日18时，第2旅首先攻占城西南制高点卧龙山，然后由西面、西南面攻入城内，第8纵队第11、第14旅相继由东北面、西北面突入城内。至27日11时，攻克集宁，全歼守军保安第6团等部2000余人。28日。第2旅乘胜攻占卓资山。与此同时。第1、第2、第6纵队横扫绥南，分别攻占新堂、凉城、和林，晋绥军区一部攻占清水河。各点守军纷纷退集归绥城。26日，各纵队进逼归绥城郊。至此，第3兵团解放绥东、绥南广大地区，歼灭国民党军5600余人，控制平绥铁路得胜堡至白塔段240公里，并包围了归绥城。
此时，东北野战军正围攻锦州，蒋介石急需从华北抽兵增援东北，南京国防部认为对华北解放军行动“应置之不顾”，令傅作义集中兵力沿北宁路向东攻击。与沈阳地区国民党军主力合力夹击锦州地区解放军。傅作义深感华北解放军兵临归绥城下，严重威胁其后方基地，因此认为在归绥方面未得解决之前，此令难以执行。为确保绥远的安全，傅作义急忙从张家口、北平地区抽调第35、暂编第4军及新编骑兵第4师。整编骑兵第5、第11、第12旅等10个师（旅）组成西进兵团，驰援归绥。28日，其先头部队3个骑兵旅和第35军等部进至集宁以东之马连滩、玫瑰营子和兴和、台基庙地区。30日，第35军等部进占集宁。
中央军委于9月27日24时致电杨成武、李井泉、李天焕：傅作义增援甚快，先取归绥已不可能，你们除以一部佯攻归绥外，主力东转，先歼援军，再打归绥。并强调指出：“你们行动要快，不要迟延”。你们要准备连续战斗，要有歼灭全部援军之“决心与勇气”。
据此，第3兵团除留第6纵队第18旅和晋绥军区警备第1团等部监视归绥外，主力于28日转兵向绥东急进，5天行程200余公里，于10月3日前进至丰镇以西以北、卓资山以东以南地区集结，准备迎击傅作义西进兵团。
为调动西进的国民军回顺，策应第3兵团作战，第2兵团向平绥路东段展开进攻。9月27日晚，第4纵队攻占北平以东之燕郊、白庙。28日，冀热察军区独立第7师攻克赵川堡镇。28、29日夜，第3纵队连续破击新保安至康庄段铁路，吸引一部国民党军来援。10月1日晚，当查明暂编第31师2个团进驻宣化以东之贾家湾、贾家营地区后，第3纵队即连夜疾进，于2日将该部国民党军余歼。同日，冀热察军区部队攻克崇礼、尚义两县城。
第2兵团在东线的迅猛攻势，使傅作义认为解放军有“进窥张垣”之企图，遂放弃援绥计划，将第16军主力由平承路调至怀来，暂编第3军和暂编第4军暂编第11师分由张家口、宣化向东调动。第35军及新编骑兵第4师于4日由绥东回援张家口、柴沟堡、宣化。为进一步吸引国民党军东调，第2兵团集中主力大力破击平绥路东段，第3纵队破击怀来至宣化段，第4纵队主力及第4旅、独立第1旅破击怀来至南口段，第4纵队第12旅破击南口至昌平段。9日晚，第3纵队第7旅攻占沙城。同日，第4纵队等部攻克岔道、青龙桥、八达岭诸点。随后，各部连续三次大举破击平绥路，使北平至张家口间铁路陷于瘫痪。
在绥东地区，第35军等部东调后，暂编第4军主力也退到兴和。这时，整编骑兵第12旅位集宁，整编骑兵第5、第11旅位老平地泉及其以东地区。第3兵团首长决心乘傅作义部主力东转之机，集中主力攻歼集宁、老平地泉地区的国民党军。10月7日各部开始行动，但集宁等地守军闻风东撤至张家口。第3兵团重占集宁。
10月11日，第3兵团前委在丰镇召开扩大会议，研究落实中共中央、中央军委赋予第3兵团歼灭国民党军6个旅和在1年内经营好全绥远的任务问题。会议确定，除留第8纵队第14旅和北岳军区部队在集宁、兴和地区掩护开展地方工作外，集中第1、第2、第6纵队和第8纵队主力向绥西、绥北进军，攻取包头、武川等地，力争吸引归绥守军出援歼其一部，尔后视机夺取归绥。
同日，中央军委致电杨得志、罗瑞卿、耿飚，杨成武、李井泉、李天焕，同意杨成武兵团主力向西行动，以利杨罗耿兵团在东面作战。指出：“归绥城则作为将来之攻取目标，目前不要理他”。并强调：“杨李李主力到西边后，应确定一个时期内专打中等的及小的敌人，即用全力攻占毕克齐、察素齐、托克托、陶思浩、萨拉齐、包头及该线以西以北地区，广占地面，征集粮食。”
如此，“将使傅作义完全处于被动地位（他现在已经处于被动地位）”，将避免杨成武兵团“又想打大仗又想打小仗两头失塌”。