曾国藩认为，治理乱世必须要用严刑峻法，只有这样，才能肃清社会上的恶势力，改变世风，当然也就能为军队建设营造一个相对稳定的后方基地。
他说，世风日下之时，人们各怀不安分之心，平时造谣惑众，希望天下大乱而作恶，对他们稍宽大仁慈，他们就嚣张放肆，光天化日都敢抢劫，将官府官员不放在眼里。不严厉处置，坏人纷纷而起，酿成大祸就无法收拾了。采取残酷手段，可起到点滴作用挽救社会。读书人不喜开杀戒，形势所迫，不这样无法铲除强暴安抚软弱的人民。去掉害群之马，惩做百之法，可拯救社会。
一八五二年，曾国藩被任命为团练大臣时，其职责一是"练兵"，二是"搜匪"。在"搜匪"一事上他也非常用心，还在公馆中设立了审案局，并把所练"大团"的部分兵力作为他弹压群众反抗的武装。
为了得到湖南官绅的支持，他先后发出《与湖南各州县书》、《与湖南省城绅士书》、《与湖南各州县公正绅耆书》等，命令各州县官吏迅速从严"剿办土匪"，称"自粤匪滋事以来，各省莠民常怀不肖之心，狡焉思犯上而作乱，一次不惩，则胆大藐法，二次不惩，则聚众横行矣"；指出如果各县力量不够，尽可派人前来禀报，审案局立即发兵前往协助剿灭，"惟期迅速，去一匪，则一乡清净，剿一巢，则千家安眠"。
曾国藩主张采取治安联防的办法，要求长沙的地主士绅，"贼踪远去已在千里之外，而犹恐其分股回窜长沙重地"，所以必须严加预防，"查拿奸细"，"以本街之良民，查本街之土匪"，每一栅栏之中，择良民四五家专司其事，白天留心查访，晚上轮流看守，遇有形迹可疑者，则扭送至审案局查办。这样，"内奸既清，外寇自不得八"。
在要求湖南各州县普遍推行并村结寨、团练保甲经验的同时，曾国藩还以严刑峻法来打击"莠民"的反抗，对那些"素行不法者"、"造言惑众者"，由各团练处死也无不可；"其有匪徒、痞棍，聚众排饭，持械抄抢者，格杀勿论"：
如有"剧盗"成群，啸聚山林，打家劫舍，则发兵"剿杀"无余。曾国藩的做法得到了皇帝的支持。成丰帝给他批示："办理土匪，必须从严，务期根株净尽。"在长沙城里，曾公馆的审案局一时成了恐怖的代名词。凡遇到被指控为"盗"、"匪"的，重则立即枭首，轻则严刑拷打。有一次长沙城内捆绑了"匪类"准备解送善化县衙，也被曾国藩强行提到审案局，立即斩首。在这种氛围中，士绅们纷纷告密，捕人送官，动辄擅杀，受到曾国藩的大加鼓励。不少地区的秘密会党宗教，遭到了严重破坏，骨干力量或者被杀，或者外逃，剩余的则藏匿不敢活动。长沙、宁乡一带，当太平军再度入境时，响应的力量微乎其微。曾国藩的"霹雳手段"收到了成效。
动辄杀头的办法为曾国藩赢得了"曾剃头"的称号。当然，站在统治者的角度来看，曾国藩"治乱世，用威典"的措施，确实成功地扑灭了太平军过境湖南时所掀起的革命热潮，对湘军建设非常有利。
曾国藩认为，立法不难，难在依法办事。他重视法制，主张法治的重要表现是，既不能任意赦免，又不可随便赎罚。他说，医生治疗瘦弱的痈疮病人时，如果病情严重，必定剜除他身上的腐肉，以便长出新肉。现在军中品性恶劣、身体太弱的士兵，也应该予以淘汰，就好比剜除人身上的烂肉一样，再严加训练，以生成新的、强劲的战斗力；如果不按照上述两种办法整顿军队，则武备的废弛，不知要到何时才会停止。立法并非难事，难在依法办事。
每制定一项法令，都要实实在在地施行它，并持之以恒，长久坚持下去。
曾国藩这种不准赦免与赎罚的态度，一定程度上体现了法律面前的平等和一律依法办事的原则：但不免缺乏一定的灵活性，没有掌握好时宜。
曾国藩重视执法人才的品格、才识，要求执法者既公又明、为民便民，否则立法再好，也会"全失本意"。他强调"任法不如任人"，这既是历史经验的总结，又对后世产生了深刻的启示和影响。
曾国藩主张认真执法，重视执法人才；而执法人才主要是中央和地方的各级官吏。官吏有维护政权，保证实行国家所定法律的责任。但因他们有权，也可破坏法律的执行，借用法律谋私利，毁法坏法。军队是国家机器，有维护和保证法律实行的作用。但军官士兵手中有权有武器，他们可以用权用武器破坏法律的执行，甚至违法乱纪。因此，曾国藩强调以法整顿约束官吏和军队，以保证法律的真正实行。
曾国藩早就对清朝地方官吏腐败无能深怀不满，更不信任承办案件的胥隶、书役人员，决心于司法机关之外设置新的机构，自行审案杀人。他将过去衙门办案的"一切勘转之文，解犯之费，都行省去，宽以处分，假以便宜"。
同时，曾国藩对被捆送者的处治，既不依照法律条文，也不需任何证据，惟土豪劣绅们的言词和要求为据，稍加讯问，立即结案，重则砍头，轻则杖毙，最轻的也要鞭之千百，病死狱中。当然曾国藩不辱圣命，峻法的刚挺之气也曾令某些枉佞之徒胆战，大小贪官为之忐忑，这种作风一直到他任直隶总督时还如此。我们来看曾国藩这份陈折便可略知一二："直隶风气的败坏，竟是各省所未听说过的。我到任以后，不得不大力整顿，把清理积案，停止任意摊派作为头等大事。严明法纪，违者严惩。我自认自己不是铁腕人物，就在近期的江南之治也是很宽容的，但是如今在直隶却严厉起来。那些贪官污吏有的致信来保全自己，有的坦白所为希望得到宽恕，这些都在我意料之中。
我随时亲自查问，找出问题的要害以图直隶之吏治得到整肃的成效。假使一年半载风气能够稍稍好转，也就不难达到民安世平的目的。我初任直隶，认为这里如果不采取刚猛措施就不能惩除贪官，这也是应该预先说明的。"为了峻法，曾国藩敢于冒杀头死罪，犯颜上陈。一八六九年，曾国藩上了这样一道参劾直隶贪官污吏的奏折："一个多月来，我所见的官员有很多，从他们那里所听到的还是令人鼓舞的。希望从此风气能有所好转。现在我把所查罪大恶极的十一人列单呈上，恭请圣上一看。虽说不十分详尽，但臣确实是多方查问，不敢轻信旁人，不敢稍带个人成见。另外还有十几个未曾查明，等两三个月后，详细查清再据实上奏圣上。严重的仍罢官斥责，不能犯同一罪过而惩罚有所不同：案轻的令其改过自新，对他们应该重在劝诫而不在严惩，藩臬两司所开贤官与我受调查相符的，我也分作两次呈圣上一看。"峻法一度使曾国藩声名重创，受到朝野抨击，"曾剃头"、"曾屠户"之绰号的流传，就说明大家对他"滥杀无辜"的不满。但是曾国藩没有退却，他相信只有坚持严刑峻法，才能拯救垂危的清王朝。曾国藩坚持实施他的"峻法"，是从国家稳固的角度来考虑的。