僧格林沁率部南下山东后，袁甲三曾向他指出，“河南之兵名为万余，多系新募，宿、徐之兵本不满万，近因饷缺，大加裁汰，所存无多，山东之兵又不能越境会剿，此贼所以到处窜突，如入无入之境也。”并向僧建议：“以山东兵为中路，由曹、单直趋虞、夏，以河南兵为右翼，以徐、宿兵为左翼，声势联络，互相策应。步步为营，与民寨相犄角，逐渐而进，不求速效。”僧格林沁没有采纳袁的建议。他急功近利，孤军在山东境内作战，因而屡战屡败。
僧军进驻山东不久，亳东捻军四万余人（其中马队万余）在刘玉渊等率领下，又一次进入山东，经鱼台、金乡北上。僧格林沁急忙率骑兵二千余人前往追击，于12月25日由嘉祥驰赴巨野。时值大雪，军行甚疲。26日，僧军在巨野东南的羊山集与捻军接战，僧格林沁率主力从东面进攻，瑞麟率部从西南进攻。捻军分路抵御，首先将僧格林沁部击退，进而包围瑞麟郎，将副都统格绷额等击毙。瑞麟突围逃到离金山二百余里的汶上。僧格林沁溜回济宁后，参劾瑞麟突围后。不在巨野扎营，复越过嘉祥、济宁退至汶上，……以致后路官兵涣散，实属怯懦无能”。清廷革去瑞麟侍郧职衔，饬令回旗，改由镶蓝旗蒙古都统西凌阿、工部右侍郎国瑞帮办僧格林沁军务，并将原先革职的副都统伊兴额和徐州镇总兵滕家胜的步骑三千人交僧调遣。不久，清廷又将陕西巡抚谭廷襄补授山东巡抚，令其带领步骑兵一千五百名增援山东。
僧格林沁在羊山集战败后，下令从河南的考城（今兰考东北）至山东鱼台的南阳湖长四百七十余里地段，浚壕筑垒，由曹、单、菏、城四县民团分段扼守，郓、巨、济、金、嘉、鱼六县民团闻警协守，企图遏阻捻军北上。但捻军向山东的进攻并来因此受阻。1861年1月底，捻军首领赵浩然、张敏行、李成等率黑、蓝、白三旗四万余人，由砀山、虞城进入山东，接着分兵两路：一路伺曹县南部游动，一路进入巨野东南六十余里的羊山集。2月2日，僧格林沁及副都统舒通额分率骑兵包抄羊山南麓的捻军，捻军即北上嘉祥之纸坊，又南下至金乡以西，城武以东地区，后又北上菏泽东北之关李家庄，筑垒布阵，准备抗击追击的清军。2月20日，僧格林沁不顾部队连日奔驰和饥疲不堪，下令分南、北、中三路进攻。捻军以逸待劳，步队居中，马队从两旁抄袭，号角四起，奋勇迎战。清军南路的黑龙江马队及陕甘步队首先溃退，接着中、北两路也纷纷败逃。此战，捻军歼灭清军近千人，缴获枪炮马匹甚多。
僧军败讯接连传到京城，清廷斥责僧格林沁。“奔驰数日，率饥疲之卒，当方张之寇，后路既无援兵，左右亦少策应，以致为贼所乘，勇往虽有余，惜尚未能持重也”，并告诫他“总不宜轻进，再蹈覆辙”。同时，命袁甲三委派得力将领与田在田、伊兴额等“合力兜剿，牵制后路”，使捻军“有所顾忌，不敢径行北趋”。但是，捻军很快又深入山东腹地，迫使僧格林沁不得不再次率部迎战。同年3月，数万捻军突入曹、巨、郓境，挥戈北上，由东平之戴家庙、安山等处渡过运河。僧格林沁令副都统伊兴额及徐州镇总兵滕家胜率二千余人追击。捻军在汶上、东平之间的杨柳集利用村落布置伏兵，待机歼敌。3月17日，先在卧虎山与清军接仗，佯装败退，待清军迫至杨柳集时，捻军伏兵四起，将敌人层层围裹。伊兴额、滕家胜几次突围，均未得逞，终被捻军斩杀，僧军伤亡惨重，溃不成军。
捻军在不到三个月的时间里，三败僧格林沁军，狠狠打击了僧军的嚣张气焰。此后，捻军利用“甚雨泥淖，高禾蔽野”的有利条件，与敌人周旋，使其“疲于奔救，刍粮不继，士马疲羸”。僧格林沁无可奈何地对其部下说：“不能再与野战，惟当严固直北藩篱。”便命西凌阿回军济宁，力扼北路，自统全军扼东平之安山，凭河而守。于是，捻军在山东的活动区域日益扩大，一度进逼省城济南，山东巡抚谭廷襄龟缩城内不敢出战。捻军又转至胶州半岛，到达福山、烟台沿海地区。外国侵略者以军火接济清军，英、法海军还在烟台地区参与了屠杀捻军的勾当。
淮北捻军挺进河南，苏北、山东，推动了当地人民的武装起义，使上述地区先后爆发了捻党首领陈大喜领导的汝宁起义，郜永清领导的商丘金楼寨白莲教起义，苏皖边的幅军起义，菏泽地区的长枪会起义，曲阜、邹县、泗水等地的文贤教起义，鲁西的白莲敬起义（其中宋景诗的黑旗军发展最快）。这些起义武装和淮北捻军互相配合，给清军和地方统治机构以沉重打击，客观上支持和配合了淮南的捻军和太平军。但是，由于淮北捻军向外出击的主要目的是为了获取生活资料，虽然歼灭了相当数量的敌人，但主要是击退敌人的追击和堵截，没有有计划地寻歼更多的敌人。特别是由于一再外出作战，致使淮北的基地反而有所缩小。在这期间，一些重要捻军首领如宋喜元、任乾，陆连科、李大喜等的圩寨，相继被清军和苗沛霖团练攻占，任乾、陆连科、李大喜等先后牺牲，这就给尔后进行的保卫淮北基地的作战造成很大困难。
三、退出淮北，与西北太平军并肩战斗
1861年底，张乐行率领捻军自定远返回淮北后，进驻颍上，次年（同治元年）1月中旬开始，与太平军马融和部，原在颍州的捻军姜台凌部以及苗沛霖的团练共同围攻颍州城，将安徽布政使贾臻困于城中。不久，胜保（1861年春曾奉命驰赴直隶、山东，督办防剿事宜）奉命由豫入皖，以解颍州之围，苗沛霖又接受招抚，配合清军袭击捻军和太平军。捻军、太平军在腹背受敌的情况下，于4月中旬撤离颖州，退入太和境内。5月中旬，陈玉成撤守庐州，率太平军三千余人北走寿州时，被苗沛霖诱捕，解送颍州胜保军营。尚在淮北的张乐行、马融和率此凶讯，率部往救，因被清军击败，未能成功。后清廷得悉陈得才、赖文光等率领的西北太平军已兼程向南进发，前来搭救，遂于6月4日将陈玉成杀害于河南延津县。陈玉成牺牲后，马融和率部西走河南，投奔西北太平军；张乐行则率部返回雉河集，同其他捻军一起，与夹攻淮北的清军展开了一场血战。
（一）雉河集失守，余部退出淮北
庐州失守，陈玉成牺牲，太平军在皖南的根据地丧失殆尽，使淮北捻军的处境更加困难。不久，僧格林沁率马步数千南下，并于1862年6月26日攻占了河南商丘县马牧筑以南的金楼寨，镇压了白莲教起义军。原来对付皖南太平军的李续宜、袁甲三等部也转旗北上，协同僧军以及豫，苏、鲁清军共同对付淮北的捻军。
8月2日，清廷向科尔沁亲王僧格林沁、湖广总督官文、安徽巡抚李续宜、湖北巡抚严树森、河南巡抚郑元善、河南团练大臣毛昶熙、署漕运总督吴棠等文武将领发出了大举进攻淮北捻军的谕令。其具体部署是：僧格林沁部马步两万余人和李续宜部湘军万余人，南北对进，夹攻雉河集；袁甲三因病歼缺后，其所部二万人由李续宜派员统领，从怀远向北进攻，吴棠扼守江苏清河、淮安，并由僧格林沁拨兵若干，并力扫荡邳州，宿迁、海州（今连云港市西南）。沭阳一带；由僧格林沁派员接统总兵田在田所部，防守南北要冲徐州、宿州地区；郑元善出新蔡，毛昶熙出归德，配合备军向东进攻；官文、严树森派兵深入豫境，由正阳、息县援应；皖、豫等省的团练，分别协同各路清军进攻。
8月20日，清廷把各路攻捻清军统交僧格林沁调遣，不但令其统辖山东、河南军务，而且授权调遣直隶、山西和蒙、亳、徐、宿的防宾，节制直隶，山东、河南、山西各省督抚提镇以下各官，集军政大权于一身。鉴于僧军以往多次失利的教洲，清廷告诫僧格林沁“务宣逐渐进取，步步为营，不可孤军深入”。
张乐行等捻军首领在清军发动大规模的进攻面前，未能避实就虚，把捻军主力转移到山东或河南，结合当地农民起义军，袭击清军的后方，或攻敌必救之地，以调动和分敝敌人，而是“悉其五旗首，集众二十万，陈雉河”，依托圩察打防御战，使自己处于被动挨打的不利地位。
10月18日，僧格林沁由河南夏邑移大营于黄仲集（今商丘南），随即分兵向亳州以北的庐庙、邢大庄发起攻击。捻军首领李廷彦率部抗击，因寡不敌众，坚守了十余天，庐庙、邢大庄先后失守。李廷彦被诱捕杀害。接着，僧格林沁命翼长全顺、承先、苏克金、恒龄和总兵常山保等率部南下，分别占领了丁花园、王路口、颜集、五马沟、岳楼、高阁、八里庄等圩寨。清军占领亳北地区之后，僧格林沁又于11月初督师进攻亳东地区。黑旗首领苏添福在刘集率部坚守圩寨，抗击清军。清军发炮猛攻，寨内房屋多被炸塌，苏添福于11月6日率部退守蒋集。20日，马村桥捻军来援，遭国瑞部清军阻击，随后，张乐行也由庙集率部驰援，27日在下张桥遭到清军翼长舒通额、苏克金部骑兵袭击，败退涡河南岸。以后，张乐行等部捻军又多次往援蒋集，均为清军所败。12月20日，捻军首领陈万辐突围南走，其弟率部投降清军。1863年1月底，僧军攻占涡河南岸的韩楼，2月23日又攻占马村桥，苏添才率捻军余部退守雉河集。
一系列战斗的失利和圩寨的丢失，引起捻军队伍中某些动摇分子的叛变投敌。在僧军进攻亳北时，黑旗首领宋喜元等投敌叛变，并无耻地带领清军攻打捻军。2月26日，僧军包围张家瓦房，赵浩然又率部投降。随后，宿州、蒙城的一些捻军首领也纷纷投敌。接连数次率部进军大半个山东的捻军首领刘天祥，也向宿州知州英翰屈膝投降，充当清军鹰犬。但是，绝大多数捻军将领和战士，没有被僧军的猖狂进攻所吓倒，仍奋不顾身地与清军展开圩寨争夺战。
这时，苗沛霖根据僧格林沁“剿捻立功”的指令，从背后袭击捻军，占领了一些捻军圩寨，进而配合僧军向雉河集推进。
张乐行在清军重兵围攻的艰危情况下，为了分散敌人的兵力，命张宗禹率部突围，由太和、颍州入豫东南与陈大喜等部会合，自己则率部东走宿州，拟北上与早已进入山东、苏北一带的李成、任化邦（又名任柱）等部会合，因在符离集遭清军阻拦，便又折回雉河集。
3月16日，僧格林沁移大营于亳州涡河北岸的庙集，随即命舒通额、苏克金等部向捻军发起进攻，于19日占领尹家沟、雉河集。张乐行等率部南走。20日，张村堡（今利辛西北）一战，捻军死亡将士一千余人。21日，再次失利，又伤亡二千余人，韩四万、刘玉渊、苏添福、苏添才等被俘遇害。3月23日夜，张乐行仅率二十余人逃至蒙城、宿州交界的西洋集，为叛徒李家英等出卖，不幸被捕，押往僧格林沁军营。不久，张乐行及其子张喜、义子王琬儿等被清军杀害。姜台凌、孙葵文等向清军乞降，结果仍被处死。
捻军在这次防御作战中，由于实行消极防御，结果受到了严重的挫折，不仅丧失了蒙、亳基地，而且张乐行等许多捻军重要首领以及将士二万多人英勇牺牲。蒙亳一带的捻军圩寨几乎全被摧毁，当地人民惨遭祸殃。雉河集到处是断壁残垣，一片凄凉景象。但是，捻军并没有被完全消灭，突围出去的张宗禹，任化邦等部以流动作战方式，继续坚持斗争。
（二）转战豫、鲁，调动打击清军
张宗禹、李成、任化邦等部捻军从蒙亳地区突围之后，分别转战于河南、山东等地，结合当地农民起义军，积极打击清军。
张宗禹等部捻军与豫东南捻军陈大喜部会合，活动于新蔡、汝阳、息县、罗山、光山一带。新任河南巡抚张之万命总兵张曜、余际昌率军追剿。1863年4月初，张宗禹、陈大喜率部进入湖北，总兵余际昌率豫军五千余人越境追击。捻军经麻城、罗田、蕲水（今浠水）进至蕲州、广济（今蕲春东南）一带。后由于湖北清军竭力堵截，而余际昌部豫军已撤回河南，捻军途回军北上，于5月中旬复入河南，由光山、罗山、息县等地渡过淮河，5月26日在正阳县方案设伏，重创跟踪追击的豫军，毙余际昌及游击以下官弁三十九人，使该部清军死伤过半。这一胜利，大大鼓舞了捻军士气，增强了坚持斗争的信心。
李成、任化邦等部捻军在山东幅军、敎军等农民起义武装的配合和支援下，活动于兰山、费县、沂水、蒙阴、泗水等地，并进入曲阜、泰安，逼近省城济南。山东巡抚潭廷襄惶恐不安，忙向清廷告急：“东境外匪与内匪交讧，实属弗遑兼顾”，“贼边马已至汶、宁，湖路可达东平，山路可逼省会，事机危迫”。当时活动于鲁西堂邑、冠县、馆陶（冶今馆陶东北）、临清、高唐等地的宋景诗黑旗军，也威胁着清廷畿辅重地。这就迫使清廷不得不急调僧格林沁军由淮北返回山东。僧军转回山东后，在新任山东巡抚阎敬铭率领的防军配合下，疯狂地镇压各支农民超义军，使淄川的刘德培起义军，邹县、泗水，曲阜交界的文贤教军，以及末景诗黑旗军都遭到重大损失。宋景诗在刘贯庄战败后，便参加了捻军。