从古至今，谦虚一直是用来评价一个人良好品质的重要标准。谦虚的人无论处于何时何地，都能觉察到自己的不足之处，永远怀着一颗上进之心。曾国藩曾经这样说：“人必中虚，不著一物，尔后能真实无妄，盖实者，不欺之谓也。”
身处清朝乱世之中，曾国藩在不到十年的时间里，由一个默默无闻的守节闲官逐渐成为权高位重的封疆大吏。究其根源，可以用他自己说过的一句话来概括：“谦以自持，严以驭下，则名位悠久矣。”谦虚也是一种以退为进的人生谋略，他曾说：“勤而不自言其劳，廉而不觉其介，谦而出之以真朴之气，乃不犯人之忌，亦即保身之道。”
曾国藩曾经说过一句话：“天下无穷进境，多从‘不自足’三字做起。”他曾打过一个比喻：一个人埋头看书，即使每天不吃不睡不玩，而且坚持看到一百岁，在一般人眼里，可能算是知识渊博了。但是中国的古籍浩如烟海，即使有人认为他已经博览群书，但是，他所看过的书与整个史籍比较，却是九牛之一毛，大海之一粟。因此，一个人不要自满，要知道天下之大，强中更有强中手。
曾国藩经常告诫他人要以谦虚为本，在手下大将鲍超因功晋职时，他这样告诫说：“阁下当威望极隆之际，沐朝廷稠叠之恩，务当小心谨慎，谦而又谦，方是载福之道。”
在读书方面，曾国藩认为，“吾人为学最要虚心”，他以切身体验告诫弟子：读书穷理，都应该极其虚心。
在治军方面，曾国藩受命组建湘军之后便常常自责，“诚恐有师心自用之处”，于是“唯有敬濯不敢师心，而务要虚心，以收集思广益之效”。这种想法一直伴随着他。在他的日记中这样写道：“古之得虚名而值时艰者，往往不克保其终；思此不胜大惧。将具奏折，辞谢大权，不敢节制四省，恐蹈覆辙之咎也。”
在仕途方面，曾国藩年少时比较轻狂，经常清议时政，因此，遭到了某些官僚的反对。经历过挫折之后，他改变了为人处世之道。在长沙城的绿营中，他不仅在内部培植力量，还主动谦虚地与当地官员交好，从而使自己的人际关系更加和谐。
曾国藩将“谦”字视为立身之本和保家安身之道。一生都保持着谦虚的美德，因为谦虚好学，使他成为国之栋梁；因为谦虚，使他能够在复杂的官场上游刃有余。