这时，在北方，第二次鸦片战争结束，清政府接受了侵略者强加给中国的屈辱和约，侵略者纷纷表示“愿为中国攻剿‘发逆’（指清廷对太平天国将士的污称）”，见《咸丰朝筹办夷务始末》，卷六七，第五五页。中外统治者开始勾结起来了，形势对太平天国更为不利。
1860年8月，曾国藩调兵遣将，集中水陆军队八万余人，向安庆发动猛烈攻势。为了解安庆之围，太平军决定由李秀成、陈玉成率南、北两路大军，沿长江西上，合取武汉，以“围魏救赵”之计，迫敌回援。
太平军这一军事计划大出曾国藩意料之外。11月李秀成率军从苏南出发，12月到达安徽黟县。距曾国藩祁门老营仅八十里。此时湘军主力已全部被调至皖北，祁门老营兵力十分单薄。祁门位于群山之中，地形如在釜底，太平军如果大力进攻，曾国藩势必无路可逃。据说曾国藩也自度必死，写好了遗书，帐悬佩刀，随时作好了自杀的准备，其幕府中不少人也开始自谋出路，准备逃命。然而，李秀成判断失误，居然没有决定拿下祁门，趁机端掉曾国藩的祁门老营，而率军绕过祁门，从徽州经浙江仍然回到江西去了。曾国藩又一次得以绝处逢生。
李秀成军队中途折回江西，陈玉成率军攻打武汉，又因外国侵略者的军舰阻挠而未奏效。太平军合取武汉以解安庆之围的军事计划流产了。不得已，陈玉成率部回援安庆，在安庆外围同湘军展开包围与反包围的殊死决战。这样，曾国藩死死咬住安庆不放，迫使太平军来援，以逸待劳，以静制动。他的战略图谋终于得逞了。经过双方激烈地争夺，曾国藩的九弟曾国荃所部湘军攻陷了安庆。天京屏障尽失。11月，曾国藩奉旨督办苏、浙、皖、赣四省军务。次年六月，太平军后期优秀将领英王陈玉成因叛徒出卖，死在湘军屠刀之下。
湘军攻陷安庆后，曾国藩即移营坐镇安庆指挥。他派兵分三路向太平天国发起进攻：由曾国荃主力进围天京；左宗棠率军进取浙江；李鸿章另组建淮军保守上海并进攻江苏南部地区。曾国藩考虑到天京城池深广险固，一时难以突破，且太平军在江浙一带尚有一定势力，为了避免陷于太平军的反包围，重蹈三河覆辙，他命令曾国荃军队对天京围而不攻，隔断天京城与江浙地区太平军的联系，坐待左宗棠、李鸿章两军扫清江浙，然后再由曾国荃率主力攻克天京，一举成功。曾国藩这一计划的确可以称得上是老谋深算。这时，洪秀全晚年暮气已深，迷信太甚，听不进李秀成提出的“让城别走，机动发展”的正确意见，一意死守天京，并幻想有天父相助。太平军战士的战斗力也已大不如昔了。同治元年（1862年）十月，李秀成、李世贤率部二十余万人猛攻驻扎在雨花台的曾国荃军队。此时曾国荃所部湘军仅三万余人，且正值疾疫流行，士卒多病。曾国荃根据曾国藩“缩营自保”的战术，深沟高垒，坚守顽抗达四十六天之久，太平军始终未能攻破湘军营垒，后因军粮不继而被迫撤军。至此，太平军突破湘军天京之围的军事行动以失败而告终，再也无力发动第二次攻势了。
同治元年（1862年）至三年（1864年），左宗棠在英法侵略军的协助下，攻下杭州，控制了整个浙江。同治二年（1863年）至同治三年（1864年），李鸿章在戈登“常胜军”的支援下，连克无锡、苏州、常州，控制了上海和苏南。天京已成为一座孤城，完全陷于了清军的重重包围之中。1864年6月3日，洪秀全病死。为了独吞战胜的果实，7月19日，曾国荃督部疯狂进攻，天京城破。湘军进入天京后，实行了野蛮屠杀和抢掠。“秦淮河尸首如麻”，见《曾文正公全集·秦稿》。“子女玉帛，扫数悉入于湘军”。见《谭嗣同全集》第三二六页。忠王李秀成被俘，在写完几万言的供词后，即被曾国藩杀害灭口，以掩盖湘军在天京大肆抢掠的痕迹。不久幼天王和洪仁驮诮西被捕杀。曾国藩挽救清朝统治，镇压太平天国运动的梦想终于实现了。
湘军与太平军作战共达十二年之久。湘军由初战失败到最后胜利，其间决不是一帆风顺的。曾国藩本人也几经危机，险些丢掉性命。
即使在政坛上，曾国藩也远非一帆风顺。尽管他本人对清政府一直忠心耿耿，但清廷和满洲贵族对他却始终疑忌重重。清朝自满族入主中原，军政大权一向操纵在满族贵族手里。统治者对汉人实力的兴起十分警惕。咸丰四年（1854年），曾国藩率湘军攻陷武汉时，咸丰帝大为高兴，对群臣说：“想不到曾国藩一个书生，还能建此巨功大勋。”汉军大臣机祁仍宓奔聪酌牡溃涸国藩一个在籍侍郎，只是一个独夫，一个独夫在乡里居然一呼而从者万人，恐不是国家的福份。咸丰被他提醒，脸色突变。从此不敢轻易假曾国藩以实权。因此曾国藩统率湘军，长期以来只有兵部侍郎的虚衔，并无地方行政实权。因而地方州县官吏并不把他放在眼里，各省督抚大员对他更是处处掣肘，时加窘谑。曾国藩编练湘军，在征兵、筹饷、用人等方面都曾备尝艰辛。这也是影响湘军初期战斗力的一个因素。咸丰七年（1857年），曾国藩的父亲去世。曾国藩趁机带弟弟国华、国荃奔丧回籍，大有急流勇退之意。次年，太平军攻破江南、江北大营，并占领浙江、苏南等清廷重要的富裕之区。当此危难之际，江南已不再有满清嫡系军队。不得已，清廷才肯授予曾国藩实权。“辛酉政变”后，慈禧太后上台，继续重用曾国藩，授曾国藩两江总督，节制四省军政。曾国藩的一些门生故吏如左宗棠、李鸿章等人也担任要职。曾国藩因此成为清朝最大的实力派。而清朝政府的权力，也由此开始逐步由满族贵族向汉族地主阶级转移。
曾国藩饱读经史，深知“自古平江南之策，必踞上游之势，建瓴而下乃能成功。”在战略上，他先取武汉三镇以扼长江上游，解除后顾之忧，而后步入江西，取九江，克安庆，围天京，以期决胜。在他同太平军十二年的作战经历中，尽管其军事屡受挫折，在政治上迭遭排挤，但他仍然坚持这一战略思想。简直可以称得上是败而能振，愈挫愈奋，锲而不舍。石达开攻江西，陈玉成攻安徽，李秀成取江浙，都曾给清军造成巨大压力，但却始终不能打乱其战略部署。甚至在发生了第二次鸦片战争时，英法联军进攻北京，他的主子咸丰帝谕令他抽调湘军北援京师，他也千方百计敷衍，拒绝率军北上。而战争的进程与最终结局，正好符合了曾国藩的战略构想。
当然，曾国藩镇压太平天国的成功，还与他对外妥协退让，竭力争取外国侵略者的支持与合作有关。他认为，当时中国内部太平天国、捻军、苗民等起义日益加剧，清政府应集中力量镇压内乱，尽量与洋人相安无事，不可别开祸端。不仅如此，他还赞成“借师助剿”。咸丰十一年（1861年），太平军深入浙东，进逼上海。曾国藩就主张借洋兵守沪城。继而由外国侵略者组织的所谓“常胜军”、“常捷军”、“常安军”便纷纷出现于苏浙战场，联合镇压太平天国运动。
值得一提的是，曾国藩除了勾结外国侵略者“借师助剿”之外，还积极主张学习西方科技文化，仿造洋枪洋炮，并亲自参与、倡导这一活动，成为中国洋务运动的开创者之一。早在咸丰六年（1856年），他从维护清朝封建统治的需要出发，就向咸丰帝奏请制造轮船。他自己则首先购买洋船洋炮武装湘军水师。咸丰十一年（1861年）之后，曾国藩大权在握，兴办洋务事业也更为积极主动。他身边的幕僚策士如冯桂芬等人也建议他积极学习西方富强之术。于是他上奏清廷主张大力购买西式船炮，始而演习，继而制造，并认为此举不但可以帮助镇压太平天国，还能增强国防，防止外敌入侵。接着，他令李鸿章资取洋人长技，筹办洋务军工，用洋枪洋炮武装淮军。他自己即着手在安庆创办了安庆内军械所，试制枪炮炸弹，全用汉人。该所曾制造出了一艘小轮船，起名“黄鹄”，但行驶迟钝。尽管如此，该所却是中国最早的制造枪炮的军工厂。曾国藩罗致了一批近代最早的科技人才，为引进西方科学技术，创办近代工业开了一个头。曾国藩大胆重用中国第一个留学美国获取学士学位的归国学者容闳，派其携款赴美购买机器，为上海江南制造局的创设奠定了基础。