由于曾国藩是在中国传统文化中熏染陶冶、经过严格科举考试而产生的一个典型的知识分子，所以，他对儒家那一套“修身、齐家、治国、平天下”的封建人生信条看得非常重要，视为平生待人接物、处世治事的基本准则。然而，在曾国藩的心目中，自宋明以来，一般正统士大夫往往把修身同治国、平天下相对立，割裂开来，强调各自的重要性，到头来不是治国、平天下缺乏精神支柱和远大目标，乃至完不成救世大业；就是满腹文章，而不能任天下大事。也就是把“传教”与“办事”对立起来。究其原因，他认为主要的问题就是人们把“修身”二字看得太简单、太孤立了，从而缺乏实际，难以使“修身”同“治国、平天下”有机地结合。因此，曾国藩主张，修身必须首先结合实际去进行。不管是读书做学问，还是待人接物；不管是带兵打仗，还是为官从政，都有修身的大学问体现其中。要做到这样，曾氏认为重要的问题就是立足于精神修养，即治心。
众所周知，精神是人生的本源。有什么样的精神状态，就会有什么样的人生观。曾国藩认为，精神的修养，全是内心所要做的功夫。所谓治心之道，如惩忿窒欲、静坐养心、平淡自守、改过迁善，等等，都属于精神方面的修养。因而，在他的遗著中，尤其是在他的日记和家书中，关于这方面的言论颇多。他主张，精神修养必须按照静坐、平淡、改过这三个步骤去进行。
所谓“静坐”，这是儒道佛三家所共有的初步门径。自东汉以来，儒家的积极入世人生哲学与老庄自然淡泊的消极出世人生哲学始终是互为补充的。至于佛家所说的“明心见”，更要求人们先有静的境界。因而，它们都强调一个“静”字，也都成为中国士大夫阶层最基本的修养功夫。曾国藩综合儒道佛三家之说，把静字功夫看得非常重要。他在日记中说：
“静”字功夫要紧，大程夫子成为三代后的圣人，亦是‘静’字功夫足。王阳明亦是‘静’有功夫，所以他能不动心。若不静，省身也不密，见理也不明，都是浮的。
在这段话语中，曾国藩反复强调的是，如果一个人的精神不能安然沉静下去，那么他的心思总是散漫的，总是浮动的，对事理不会看得清楚，做事不会踏实，乃至于自己的身体也不能保养得宜。
认为，在物欲羁绊下，一个人要“静”下来是很不容易的，他钦服颜回的淡泊，也特别指出，如果一个人不经历高山，就仍会对高山仰止，没有得到的，总是有乞求，人能大彻大悟，在登临高山，已获已得后，就是不容易了。他说：
颜子三月不违，亦可谓洗心退藏，极静中之真乐者矣。我辈求静，欲异乎禅氏入定，冥然罔觉之旨，其必验之此心，有所谓一阳初动万物资始者，庶可谓之静极，可谓之未发之中寂然不动之体也。不然，深闭固拒，心如死灰，自以为静，而生理或几乎息矣。况乎其并不能静也，有或扰之，不且憧憧往来乎？深观道体，盖阴先于阳，信矣。然非实由体验得来，终掠影之谈也。
所谓“平淡”，实际上主要是对老庄淡泊寡欲之说的继承和阐发。我们知道，一个健康的人，如果对世间之事不能看得平淡，一切都视为至关重要，都想去得到它，那么他的心境就会自觉或不自觉地被外物所扰乱，精神就会时时要受到牵累，常常会因一些不愉快的事情而耿耿于怀，就会影响到待人接物、处世治事的好坏成败。因此，曾国潘在强调静字的同时，还主张要有平淡的心境。他说：“思胸襟广大，宜从‘平、淡’二字用功。凡人我之际，须看得平，功名之际，须看得淡，庶几胸怀日阔。”并表示要“以庄子之道自怡，以荀子之道自克”，要把“世俗之功名须看得平淡些”。因为他认识到，一般人之所以胸襟狭窄，全是物欲之念太重，功名之念太深。更具体些说，则是私欲围扰于心，精神无安静之日，自然也就日觉有不愉快的心境。他这里所谓的宜在“平、淡”二字上用功，即是要使心中平淡，不致为私欲所扰乱，务使精神恬静，不受外物之累，使自己置身于物来顺受，然后可以处于光明无欲的心境。
所谓“改过”，用曾国藩自己的话来说，就是一个人，如果在心境上不能平淡，则究其所以未能平淡的原因，然后在这个问题上痛下针砭，去检讨、去改过。为此，他在一生中坚持写日记，把每天的所作所为，认真检讨，如实地记录下来。综观他写下的一百多万字的日记，其内容有相当一部分是自艾自责的语句。譬如，他在朋友家中见到别人奉承卖唱之女子，“心为之动”；梦中见人得利，“甚觉艳羡”，等等。于是，他痛责自己：“好利之心至形诸梦寐，何以卑鄙若此！方欲痛自湔洗，而本日闻言尚怦然欲动，真可谓下流矣！”仅在1842年冬天，他就连续一个多星期，写下了诸如说话太多，且议人短。“细思日日过恶，总是多言，其所以致多言者，都从毁誉心起”；“语太激厉，又议人短，每日总是口过多，何以不改？”等语。对于友人的忠告，曾国藩则强制自己虚心接受，力求改过。邵蕙西曾当面责他“交友不能久而敬”、“看诗文多执己见”、“对人能作几副面孔”，他视为“直哉，吾友”！并决心“重起炉冶，痛与血战一番”。此外，从他所作的铭联箴言以及格言警句单字等，大部分体现了他要借以提醒自己不忘改过、立志自新的精神。
经过多年仕宦生涯的曲曲折折，晚年的曾国藩总结出十二条治心经，认为终生守之而不改，这就是：
无贪无竞，省事清心，一介不苟，鬼伏神钦。战战兢兢，死而后矣，行有不得，反求诸己。手眼俱到，心力交瘁，困知勉行，夜以继日。此十二语者，吾当守之终身，遇大忧患、大拂逆之时，庶几免于尤悔耳。