1854年，曾国藩在决计会战湘潭时，太平天国的声势已颇盛，以南京为中心，武汉、镇江、扬州等重镇，都掌握在太平军的手里，清朝政府在这一地区内几乎没有任何力量组织反抗了，而东征太平军的曾国藩也接连失利。决战湘潭对于交战双方来说，都攸关大局。曾国藩认为：“湘潭与靖港之贼互为首尾，倘不及早扑灭，不独省城孤注难以图存，衡、永、郴、桂及两粤匪党，闻风响应，东南大局不堪设想。”确实，太平军若能取得湘潭之战的胜利，便能攻取长沙，控制湖南，从而在湖南和两广农民起义军的响应下，迅速南下，控制两广、闽浙等地，占有半壁江山。太平天国政权只有在真正实现了划江而治的条件下，才具备发动北伐的可靠基地，夺取全国政权才有可能。对湘军来说，湖南是湘军的老巢，占有湖南便意味着湘军的兵饷来源有保证；一旦失去湖南，犹如鱼离开水一样，就会因干枯而消亡。
曾国藩认识到了湘潭战场的重要性，急派悍将塔齐布率军开赴湘潭，又调水师总统褚汝航协助陆师摆开了与太平天国生死搏斗的架势。这样，在湘潭战场上，湘军的兵力占了优势，加上太平军主帅林绍璋本人忠厚有余，但“无大本领”，指挥不当，致使战线过长，兵力分散，使太平军完全陷于被动挨打的局面。
湘潭之战，太平军遭到前所未有的惨败，清廷特别强调这一胜利的影响：“自粤逆称乱以来，未受大创，湘潭一役，始经兵勇痛加剿洗，人人有杀贼志矣。”
湘潭之战的胜利，改变了对曾国藩黑云压境的形势。曾国藩募勇成军的作法，也得到了咸丰帝的支持。湘潭全胜、靖港大败，由骆秉章、鲍起豹（湖南提督）和曾国藩会奏经过，请奖励立功将士，而曾国藩则单上一折，痛陈自己的失误，奏折的最后，他沉痛万分、深切自疚地说：“臣整军东下，本思疾驱出境，乃该逆（太平军的林绍彰）大举南犯，臣师屡挫，鄂省危急，不能速援，江面贼氛，不能迅扫，大负圣主盼望殷切之意，请将臣交部从重治罪。”对于曾国藩的自罪自责的一片赤城，咸丰帝并未理解，甩手便是一巴掌，使曾国藩好不伤心。咸丰帝朱批道：“此奏太不明白！岂已昏耶？汝罪固大，总须听朕处分。岂有自定一责问之罪？殊觉可笑！想汝是时心操如悬旌，漫无定见也。”真是嬉笑怒骂，无所不至！曾国藩于是被革去了礼部侍郎之职，“责成其戴罪剿贼”。
随后，咸丰皇帝又以株守长沙不主动迎战之罪名，将湖南提督鲍起豹革职，任命云南腾越镇总兵常存为提督，在其未到任前，由塔齐布暂署。两个月后，骆秉承参奏常存在长沙守城时，畏葸逃避，改授塔齐布为湖南提督。至此，湘军在与湖南大吏的长期争斗中取得了重大胜利，从此，在湖南便站稳了脚根。
在这种艰难的境遇下，曾国藩回到长沙以后，咬牙立志徐图自强，他认真总结了岳州、靖港二次战争的惨痛经验教训，努力克服自己的弱点，为湘军日后出外作战积累了经验。在曾国藩看来，湘军各营在几次战斗中暴露出来的种种弱点，其政治原因是功罪不分，赏罚不明；其组织原因是良莠不分，勇懦不一。因此，他对湘军进行了整编。据查，湘军岳州大败，敢于同太平军进行抵抗的，只有彭玉麟一营；湘潭之战，浴血奋战的只有塔齐布两营、杨载福两营。曾国藩根据兵贵精而不贵多的原则，依据勇于战斗的条件，决定士兵的去留。他从明赏罚、严军纪做起，凡溃散之营便不再收集，营哨兵勇一律裁去不用。经过这番整顿和裁撤，留下的仅有水陆两部五千人。其弟曾国葆也在被裁之列，这对曾国葆的打击很大，多少年后还一直深居简出，拒见宾客。同时，决定将王鑫留在湖南。命罗泽南跟随其出征。令塔齐布、罗泽南、彭玉麟、杨载福增募新勇，使湘军人数又扩至一万余人。在衡州、湘潭修造船支，与此同时，除湘军本身的扩充以外，将胡林翼的黔勇增募至二千，征调了登州镇总兵陈辉龙所率的船队，和广西候补道员李****统率的船队，共汁一千余人。
经过长沙整军以后，湘军能战能守，这与曾国藩努力改正自己的弱点有着极为密切的联系。曾国藩在以后的家信中，提及此事时写到：“然困心横虑，正是磨炼英雄玉汝于成，李申大尝谓余怄气从不说出，一味忍耐，徐图自强，因引谚曰‘好汉打脱牙和血吞’。此二语是余生平咬牙立志之诀，……岳州之败，靖港之败……盖打脱牙之时多矣，无一次不和血吞之。……惟有一字不说，咬定牙根，徐图自强而矣。”
立世大智慧
曾国藩在军队，每天必写日记，读书数页，下围棋一局，终身如此。一般人认为，这难道不是区区小节，无关大体么？可是，他们不知道克制有节，行之有恒，实为人生品格第一大事。善于观察别人者，从这里就可看到一个人修道的功力。
成就大事，须宏阔、细微兼有
成大事者，目光远大与考虑细密二者缺一不可。
——曾国藩
曾国藩善于体察人情世故，他认为人常有两种积习：或者好高骛远，眼高手低，这种人大事做不成，小事不愿做。他形象地称这种人其实是瞽者，即看不到方向的人。还有一种人整日陷于琐事中，只见树木不见森林，缺乏远见卓识。在此基础上，他提出“成大事者，目光远大与考虑细密二者缺一不可”的处世韬略。没有远大的目标，就会迷失方向，但必须按目标一步一步走下去，方有成功的可能。
曾国藩在给他弟弟的信中曾说：“古代能办成大事的人有二条，目光远大和考虑细密二者缺一不可。弟在考虑细密方面，精力比我强。军队中的器械，稍微精良的，应该另立一册，亲自登记，交待给一个可靠的人。古人用铠甲武装的鲜明作用，具有威震敌人显示威风的重要性，常可取胜。刘峙衡对于火器经常维修保养，对刀矛就全不讲究。我曾经派褚景明去河南采购白蜡杆子，又置办腰刀，分别赏给各将领和头目，他们很是喜爱和重视。弟一定留心这件事，这也是综合治理的一项内容。至于规模宜大，弟也是讲求要达到的。但讲究阔大的人最容易混入散漫的一路，遇事颟顸，毫无条理，就是再大，那又有什么可宝贵的？等级不乱，可以长久，器量宏大，就没有流弊的了。”
就军事来说，军事计划最好是规模远大；整理军营内务最好是综理细密。不但要从“大处着眼”，还必须从“小处下手”。他曾经说治军应当“认真对待小事”，意义就在这里。他还说：“治军必须脚踏实地，注意小事，才可以每日有功。”
在给吴竹如的信中，曾国藩也说：“近年在军队里的经验多了，更知道天下的事应当从大处着眼，小处下手。陆氏强调说：‘首先立下大志向的人’，如果不辅之以朱子所说的‘铢积寸累’的功夫，那么，下梢就会完全没有把握。所以，曾国藩治军，摒去一切高深神奇的说教，专在粗浅纤悉处下功夫。虽然遵守这一条不会取得大的功效，但从自己钝拙考虑，那么，还像遵守约法那样去做。”
曾国藩在军事调度方面，常从大处着眼。他对于军事计划，虽然讲究规模远大，但仍然以稳妥可行为主，不致于流入散漫的那一路货色。如他在给左宗棠的回信中说：“我们凡是进行军事调度，都要考虑我们的力量够不够，同时，也要考虑我们的智慧够不够。”
在给李元度的回信中说：“对于大的调度，在危急的情况下，特别要注意保住全军的士气为主。孤军无援，粮食和物资都供应不上，奔波疲惫，都会造成散乱，这是必然导致失败的道理。”
正因为曾国藩“规模远大”，他率先设立水师，并坚守长江中游，与太平军打阵地战，寸土不让，寸土必争。也正因为如此，他敢于拒圣旨，不派鲍超入援京师，因为鲍军一撤，对太平军的多年持久战可能流于失败。这些都是大的方面。从综理密微而言，曾国藩做得更多，幕僚们赞叹他细微，任何小事都瞒不过他。
成就大事，须宏阔与细微兼有，也即要有远大规划，又要从具体事做起，这一点对******影响颇大。
在《讲堂录》中有这样的话：“夫善，积而成者也。是故万里之程，一步所积；千尺之帛，一丝所积。差一步，不能谓之万里；差一丝，不能谓之千尺。朱子学问，铢积寸累而得之，苟为不蓄，则终不得矣。”这段话，便出自曾国藩《杂著？笔记二十七则》中《克勤小物》条。原文是：“古之成大业者，多自克勤小物而来。百丈之楼，基于平地；千丈之帛，一尺一寸之所积也；万石之钟，一铢一两之所累也。……陶侃综理密微，虽竹头木屑皆储为有用之物。朱子谓为学须铢积寸累，为政者亦未有不由铢积寸累而克底于成者也。”
从《讲堂录》中，又可以看到曾国藩著述对青年******的强烈影响，这又集中体现在曾国藩的务实学风和思想修养方面，足以引起******的追慕和效法。例如，《讲堂录》有“涤生日记，言士要转移世风，当重两义：曰厚曰实，厚者勿忌人；实者不说大话，不好虚名，不行架空之事，不谈过高之理”。接着便又记有：“真精神实意做事，真心求学。”这后面的“真精神”很可能就是******对曾国藩“厚实”两义的概括，并且，是足可效法的务实精神。这种务实精神，也是随后******踏着人生实际说话，和五四时期接受胡适研究具体问题的主张而试图成立“问题研究会”的思想基础。
立世大智慧
成就大事，须宏阔与细微兼有，也即要有远大规划，又要从具体事做起，常从大处着眼。虽然讲究规模远大，但仍然以稳妥可行为主，不致于流入散漫的那一路货色。
刚柔明强，老墨并用
“倔强”二字，却不可少，功业文章，皆须此二字贯注其中，皆从“倔强”二字做出。
——曾国藩
曾国藩一再强调“强”字自“明”出。在智慧处求强，在自修处求强，这样才能使人坚挺地挺进。他始终主张持之以恒，绝不灰心泄气，绝不矫揉造作，一如既往。然而，在功名渐盛、地位渐高的时候，则其势不同，就需要持盈保泰，恬退谦谨了。他虽说“亦渐老于事，锋芒钝矣”，实则故乐谦德，“喜闻迂直之言”，而以贞固自守。
“悔”、“硬”二字诀，是曾国藩立身处世思想之化境。照一般的解释，总认为曾国藩悔悟其往日强矫之非，而毋认柔道行之了。其实是他“可屈可伸，可行可藏”和“取人为善，与人为善”的对立一致之合。悔是“悟”的意思，“明”的意思，觉悟出真道的微妙处，知“自己全无本领”，正见得自己“本领甚大”。“能立”、“能达”、“不怨不尤”，方刚柔体用之极致。曾国藩还说：他兄弟不明白悔字的奥妙，而趋于消极，乃用一硬字诀的“挺”字来救济。梁启超先生所谓：“贞之以恒，帅之以诚，勇猛精进，艰苦卓绝”；龙林荪先生所谓：“虽极人世艰苦之境，而曾不少易其心，虽遇千挫百折之阻，亦不足以夺其志”，都见出一个硬字来。故曾国藩晚年，仍谓：“‘倔强’二字，却不可少，功业文章，皆须此二字贯注其中，皆从‘倔强’二字做出。”又说，他兄弟皆禀母德居多，好处是天性“倔强”。他虽衰老，“亦常有勃不可遏之候”。这正是以挺(强硬)为体，以柔(谦悔)为用，合禹墨老庄为一途，以成中庸之道。一般人都不明白这种道理，所以，对于曾国藩的思想常有不甚正确的推论。如《水窗春呓》说：
文正一生凡三变：书宇初学柳诚悬，中年学黄山谷，晚年学李北海。愈饶妩媚。其学问初为翰林词赋，既与唐镜海太常游，究心先儒语录，后又为六书之学，博览乾嘉朝训诂诸书，而不以来人注经为然。在京宦时，以程宋为依归，至出而办理团练军务，又变而为申韩，尝自称欲著挺经，言其刚也。
咸丰七年在江西军中丁外艰，闻讣奏报后，而奔丧回籍，朝议颇不谓然，左恪靖在骆文忠幕中，肆以诋毁，一时哗然和之，文正亦内疚于心，得不寐之疾。曹镜初诊之，言吱黄可医身病，黄老可医心病，盖欲以黄老讽之也。……此次出山后，一以柔道行之，以至成此巨功，毫无沾沾自喜之色。尝戏谓予曰：“他日有为吾作墓志者，铭文吾已撰：‘不信书，信运气，公之言，告万世’诸语。故挽联中有‘将汗马勋名，问牛相业，都看作秕糠尘垢”云云，道出此老心事。盖文正曾说：“吾学以禹墨为体，庄老为用。”可知其所趋向矣。
后世人凭着这一说，却断定曾国藩的居世思想可能有不止三次的转变。平心而论，他的思想，始终没有转变，所谓“三变”者，乃其写字、治学、立身、处世因时世而措之宜，所谓“执西用中”而已。他的思想中心总不离乎孔子的“中庸”之道，“经世”之学，所以，能合道文而为一，尽博深之能事，刚柔明强，老墨并用，综为大成之礼学，兼具圣王之事业，这种伟大的成就，岂是偶然的！倘使不明他的思想体系，则枝节浮蔓之论，哪能够“道出此老心事”呢？
曾国藩在进攻太平军时，曾亲自率领在衡州组建的水师东征，想一举消灭太平军。不料，因刚训练出来的湘军水师作战不力，在岳州、平江、湘潭等地，接连打了几次败仗。后来，还带领在长沙的水师五个营晚上偷袭靖港，亦吃了败仗，几乎全军覆灭。
以往，曾国藩曾多次讥笑清廷绿营兵不能打仗，如今看到自己组建的湘军屡战屡败，感到”无脸见江东，一气之下，在船上滚入江中，想一死了之”。幸身边的人发觉，才把他打捞上来，护送回长沙大营。
在长沙，曾国藩灰心丧气，几天不吃不喝，弄得满城风雨。无论官场还是社会上，有冷言冷语、幸灾乐祸的，有向上告状、请求弹劾曾国藩的，还有认为湘军不能作战，主张解散另建的。曾国藩听到这种种舆论，坐立不安，既有几分不服气，又有几分羞愧。
正在心灰意冷之时，曾国藩接到了父亲曾麟书的手谕，训导他“公而忘私，国而忘家，国事维艰，只能进不能退”。在其父的勉励下，曾国藩提高了勇气，他命幕僚向朝廷写奏折，禀报在籍率湘军与太平军作战的情况。其幕僚对岳州、湘潭几战，如实地写成“屡战屡败”。曾国藩阅得此禀报，似乎说自己太无能了，便接过笔去，改为“屡败屡战”。一字之改，被动变主动，消极转为积极，“败不馁”之气魄跃然纸上。皇上看了，对曾国藩虽未获胜，但仍表示满意，督令再战。
据说，曾国藩与太平军决一死战，在向湖北进发时，还立下誓言，嘱弟在家代为准备棺材，不获全胜，誓不生还。后来，曾国藩在湖北武昌、汉阳连续打了几战，都获胜利。其幕僚便将他家备好棺材，决一死战的情况，写入了奏折，曾国藩看了，又将“备棺在家”改成了“带棺出征”，更表其决心。
咸丰皇帝看了这一奏折，对曾国藩忠君的决心倍加赞赏，原赏给二品顶戴，令其署理湖北巡抚，后又收回，改赏给兵部侍郎衔，并催令迅速东下，进剿太平军。
曾国藩以“明强”之法，用以修炼自己，因此，他遇到困难时多半都能挺性十足。而在湘军营中，他也以“明强”之法砥砺全体将士，使得将校相和，重信义，共患难，打胜了相互不争功，打败了则相互援救。曾国藩在致江忠源书中，曾经论及将校士兵离不和的弊病，因此他命将出师之时，教导将士们以此为诫。尤其需要指出的是，曾国藩虽然非将才，然而他能够审时度势，深谋远虑，从不求一时之功，从不轻举妄动。因此，曾国藩的“明强”之法值得人称道。
立世大智慧
曾国藩以“明强”之法，用以修炼自己，因此，他遇到困难时多半都能挺性十足。而在湘军营中，他也以“明强”之法砥砺全体将士，使得将校相和，重信义，共患难，打胜了相互不争功，打败了则相互援救。