1940年，汪伪政权成立后，李士群当上了汪伪清乡委员会秘书长、“剿共救国特工总部”负责人、伪江苏省省长，成为显赫一时的人物。这是李士群一生最为得意的时期，势力权力都达到了他一生的最高峰，也为他实现自己的野心提供了条件。
由于李士群曾在中统里干过，他手下的那帮喽啰也多出自军统或中统，他们对国民党特务的工作规律、9行动方式十分熟悉，在争斗中屡屡得手。
国民党在上海、南京的特务组织，经过李士群软硬兼施，遭到了毁灭性破坏，不少军统、中统特务都倒向了汪伪政权。这使得戴笠、陈立夫对李士群恨之入骨，欲除之而后快。戴笠曾命令手下不惜一切代价干掉李士群，但因种种原因都没能得手。
就在陈立夫为李士群大伤脑筋之时，一日忽然接到中统特务赵冰谷带到重庆来的一封信，这封丁默邨写来的信使事情出现了转机。
丁默邨原是中统上海区的特务，后投靠汪伪，当上了李士群主持下的“76号”特工总部主任。在这期间，李、丁两人发生了矛盾，并且积怨日深。后来，两人又为争夺伪警政部长一职结下了新仇。
丁发誓要干掉李士群，他指使其弟丁时俊于1940年暗杀李士群，因射击技术太差，未能命中。
李士群以牙还牙，在这年的5月，乘丁时俊去南京夫子庙喝酒时，派出便衣寻衅斗殴，用酒瓶将其击伤致死。从此之后，李、丁两人积怨更深。
1942年，日本帝国主义露出失败之相。丁默邨为了给自己留条后路，便向昔日的中统上司陈立夫写信，请求“悔过自新，效命中央”。
就在陈立夫接到丁默邨悔过信的同时，戴笠也收到周佛海请他转交蒋介石的自首书，表示要将功赎罪。这两封信使得陈立夫与戴笠大喜过望，他们分别密电周、丁两人，务必设法剪除李士群，掩护地下工作人员，以此考验他们的自首诚意。
周、丁两人接到重庆方面的密电后，便开始积极准备。经商议，谋杀工作由周佛海主持，丁默邨从旁协助。
为除去李士群，周佛海可谓绞尽脑汁。他先是指使李士群的对头罗君强下毒，李士群没有上钩。接着又让丁默邨向外散布谣言，逢人便讲李士群清乡毫无成绩可言、利用清乡地区的物资移动发了大财等，企图以此引起日本人的不满，干掉李士群。
恰恰在这时，李士群的后台老板日本人晴气庆胤奉调回国，而他的继任柴山对李士群的不听使唤、桀骜不驯早已不满。
李士群掩护日本宪兵悬赏缉拿的军统特务余祥琴逃脱之事这时又被查知，周佛海乘机找到了日本华中宪兵司令部特高课课长冈村，请他帮助干掉李士群，冈村满口答应。
冈村原打算派人行刺，因为李士群防范很严，几次都没有得手，最后决定用下毒的办法。
这天，李士群接到冈村的邀请，说是在上海百老汇大厦冈村家里为他设宴洗尘，也借机调解他与税警团副团长熊剑东的矛盾。
李士群知道自己结怨很多，所以一般在外边的应酬他很少参加。这次李本不想去，因是日本人请客，碍于面子，他还是硬着头皮去了。
在去之前，李士群做了一些准备。他与随从相约，到了冈村家什么都不吃，连香烟也不抽。还跟一起去的保镖打了招呼，如果过了两个小时还不出来，就冲进去。
到冈村家后，李士群以自己患痢疾未好为由，坐在席上任何东西也不吃。冈村也不勉强，一边与李说着话，劝他与熊剑东和好，一边与熊剑东劝酒吃菜。
席间的谈话似乎很投机，熊剑东坦诚相见，向李士群承认了自己的不对，希望今后能携起手，为了共同的利益一致对外。说着说着，冈村给李士群敬了一支烟，又给他打开了汽水。
熊剑东的一番话使李士群很受感动，他觉得老这样坚持，反而会引起对方的怀疑和不快，于是便放松了警惕，拿起酒杯高兴地与冈村对饮起来。
这时，有个日本女人从厨房捧出一碟牛肉饼。冈村介绍说这是他太太，擅长做这种牛肉饼，今天听说李士群来了特地下厨，请赏光尝一尝味道。
端上来的牛肉饼只有一碟，李顿时起了疑心，放下筷子不敢吃，他把碟子推给了熊剑东，说：“熊先生是我钦佩的朋友，应该熊先生先来。”
熊剑东又把碟子推过去，笑着说：“冈村太太是专门为你做的，我怎敢掠美。”
李士群又想把碟子推给冈村。
这时，冈村的老婆用盘子又托出三碟牛肉饼，在冈村、熊剑东和随李士群一起去的夏仲明面前各放了一碟。因为四个人面前都有了，李士群也就不好再推了。
冈村解释说：“我们日本人的习惯，以单数为敬。今天席上有四人，所以分两次拿出来，以示对客人的尊重之意。在日本，送礼也是以单数为敬，你送他一件，他非常高兴。要是多送一件，他反而不高兴了。”冈村的一番话，说得在座的都笑起来。
李知道日本人送礼讲单数的习俗，经冈村这么一解释，他也就不再怀疑了。
席上，其他三人面前的牛肉饼都吃得精光，李士群的吃了三分之一。这时的气氛十分融洽，谈着谈着，时间不知不觉过去了一个多小时，李士群要夏仲明下去告诉楼下的保镖，楼上相安无事，时间过了也不要上来。
李士群赴宴回来，已是晚上22时多，家里还有客人在等他。李士群向客人打了个招呼，连忙跑进卫生间抠喉咙，想把在冈村家里吃的东西吐出来，可能是时间太长的缘故，没有吐出来。
两天后，李士群突然感到不适，开始是腹痛，接着上吐下泻，送医院抢救。经检查，李中了阿米巴菌毒。
阿米巴菌是用患霍乱的老鼠屎液培育出来的一种病菌，人只要吃进这种细菌，它就能以每分钟11倍的速度在人体内繁殖。在繁殖期内，没有任何症状，到了36小时以后，繁殖达到饱和点，便会突然爆发，上吐下泻，症状如同霍乱。病人到了这时，就无法挽救了。
没过两天，李士群已奄奄一息，临死前他对人说：“我干了一生特务，没想到到头来却被日本人算计了。”
李士群是日本侵略军和汪精卫伪政权盘踞上海时期沪西“76号”特务魔窟的头子。在汪伪集团中，他历任伪中央执行委员会常委、特工总部主任、警政部长、苏浙皖鲁四省行营秘书长、清乡委员会秘书长、调查统计部部长、江苏省政府主席、省长等职。从1938年附逆发迹起至1943年中毒身死，前后五年，际会风云，炙手可热，对国家和民族犯下了滔天罪行。
1941年7月1日，江苏省的吴县、昆山、太仓、常熟四个县开始“清乡”，伪清乡委员会成立驻苏办事处，李士群以清乡委员会秘书长名义兼任处长。
1943年9月11日下午，李士群气绝毙命，时年39岁。
过了几天，日本宪兵队忽然要根究李士群中毒消息的来源，并向李公馆办事人员和叶吉卿气势汹汹地追根问底，威胁叶吉卿说：“不可再说李先生是中毒，该说是病死的。”
从此大家再也不敢提起“中毒”二字。据说先前日本驻苏部队和宪兵队并不知道其中的底细，而后接到上级指示，搞清楚内幕，才有彻查中毒消息之举。