庐山会议以后，进行“反右倾”，继续“大跃进”，“左”倾错误越发严重。工业生产指标过高，基本建设战线过长，造成各方面紧张；农村大刮“五风”（共产风、浮夸风、命令风、特殊风、瞎指挥风）破坏农业生产。加之自然灾害侵袭，还要偿还苏联的巨额债务，国民经济遭遇严重困难，人民生活极其贫困。河南、安徽等地发生饥荒、非正常死亡等突出问题，也暴露了出来。为解决面临的严重困难，中共中央于1960年11月，发出《关于农村人民公社当前政策问题的紧急指示信》（通称“十二条”）；于1960年12月24日至1961年1月13日在北京召开了中央工作会议，紧接着，于1月14日至18日召开了中共八届九中全会，着重讨论农村整风整社、纠正“五风”和调整1961年国民经济计划主要指标。胡乔木出席了这两次会议。
在中央工作会议前，胡乔木按毛泽东的指示，参照红军的《三大纪律、八项注意》，起草了党政干部《三大纪律、八项注意》。毛泽东在会议期间于1961年1月9日批示“印发各组讨论，提出修改意见。”经会议讨论、毛泽东修改，“三大纪律”写定为：（一）一切从实际出发；（二）正确执行党的政策；（三）实行民主集中制。“八项注意”列入“没有调查没有发言权”。
八届九中全会公报，胡乔木也参与起草。毛泽东于1月20日下午作了一点修改后，批送胡乔木、吴冷西：“已阅，很好。即刻发稿，明日（廿一日）在全国见报。同时，立刻翻成几种外文，今夜广播。”胡乔木、吴冷西立即照办，公报于1月21日《人民日报》上登出。党政干部《三大纪律、八项注意》，则没有公开发表，是1月27日以中央文件正式下发的。
中共八届九中全会正式通过了“调整、巩固、充实、提高”的方针，要求按照农、轻、重次序安排经济工作，适当调整国民经济各部门发展速度，尽可能提高农业和轻工业发展速度，适当控制重工业特别是钢铁工业发展速度，同时适当缩小基本建设规模。全会还通过了《关于农村整风整社和若干政策问题的讨论纪要》，要求进一步贯彻“十二条”，整顿干部作风，调整干群关系，纯洁党的组织，彻底检查和纠正“五风”。毛泽东在会上讲话，指出：我们的工作要有三条：一要情况明，二要决心大，三要方法对。情况明，这是一切的基础，情况不明，一切无从谈起。我们党有实事求是的优良传统，就是马列主义的普遍真理同中国实际相结合。但是近几年来我们调查研究少了，不大摸底了。他号召，全党大兴调查研究之风，一切从实际出发，1961年要成为调查研究年。
中共八届九中全会刚一结束，1961年1月20日，毛泽东就对调查研究亲自作了部署。除同胡乔木谈话以外，当天下午，给田家英写了一封信，进行具体布置：
（一）《调查工作》这篇文章，请你分送陈伯达、胡乔木各一份，注上我请他们修改的话（文字上、内容上）。
（二）已告陈、胡，和你一样，各带一个调查组，共三个组，每组组员六人，连组长共七人，组长为陈、胡、田。在今、明、后三天组成，每个人都要是高级水平的，低级的不要。每人发《调查工作》（1930年春季的）一份，讨论一下。
（三）你去浙江，胡去湖南，陈去广东。去搞农村。六个组员分成两个小组，一人为组长，两人为组员。陈、胡、田为大组长。一个小组（三人）调查一个最坏的生产队，另一个小组调查一个最好的生产队，中间队不要搞。时间十天至十五天。然后去广东，三组同去，与我会合，向我作报告。然后，转入广州市作调查，调查工业又要一个月，连前共两个月。都到广东过春节。
此信给三组21人看并加讨论，至要至要！
1961年1月21日，胡乔木即带领调查组成员于光远、王力、胡绩伟、张超、戴邦和秘书商恺一行七人，离开北京前往湖南。选定毛泽东家乡湘潭韶山冲和邻县湘乡白田、大坪两个公社为调查的点。湖南省委派省档案局副局长毛华初、湘潭地委派李炎巨随同调查。
1月30日上午，胡乔木在湘潭县委招待所会见湘潭县委秘书赵荣球。他是县委指派陪同进行调查的。这时，湖南调查组共有十几个人。当天下午，调查组一行径直住进石潭人民公社古云大队队部。一进屋，胡乔木就自己挂蚊帐，点煤油灯。晚饭一起吃钵子饭、大锅菜。31日即开始调查，胡乔木和调查组同志一起深入生产队、作业组、公共食堂、农户家庭、副业队、代销社、学校、卫生所等进行调查。每到一处，胡乔木口问手记，十分恭谨、认真。
毛泽东在三个调查组出发后，也于1月下旬离开北京到达杭州，在那里指导这次他亲自组织的调研工作。
1961年2月15日是农历春节。过了大年初五，胡乔木即按毛泽东的通知，带一位助手前往广州。22日，同浙江调查组田家英、广东调查组陈伯达，在广州会合。25日，毛泽东召集广东省委负责人陶铸、赵紫阳，三个调查组组长陈伯达、胡乔木、田家英，中央农村工作部部长廖鲁言，在白云山北麓的鸡颈坑省委招待所开会，讨论起草农村人民公社工作条例问题。毛泽东重申缩小社队规模、调整人民公社的主张，提出在社队划小以后，还要解决小队与小队之间、个人与个人之间这两种平均主义的问题。毛泽东指定人民公社条例的起草工作由陶铸挂帅，陈伯达为副，廖鲁言、田家英执笔。要求3月10日拿出初稿。然后让几个省找几个同志参加讨论修改。广泛征求意见后提交中央工作会议讨论。
3月5日，毛泽东在广东省委三号楼主持召开中央政治局常委扩大会议。胡乔木出席了这次会议。毛泽东在会上讲话，回顾郑州会议以来这一段历史，总结“反右倾”的经验教训。他说：“庐山会议一反右，有人讲真实话，讲困难，讲存在的问题，讲客观实际情况等等，都被认为是右的东西。结果造成一种空气，不敢讲真实情况了。”“郑州会议的召开，是为了反‘左’。凡是贯彻郑州会议精神比较彻底的省，工作就比较实一些。从三月到六月只反了四个月的‘左’，如果继续反下去，那就好了。”他认为，“右是应该反的，反右是正确的。但是带来一个高估产、高征购、高分配。这个教训值得我们吸取，这件事也教育了我们，反‘左’中间插了一个反右，在群众中间一反，结果反出一个浮夸风。庐山会议反右这股风把我们原来的反‘左’割断了。”
针对会上有人对划小社队规模存在的顾虑，毛泽东举自己家乡湘潭做例子，进行具体分析，坚持公社要划小的主张。指出这样才能适合群众的要求，才能解决队与队之间的拉平问题。并提出队里面人与人之间的拉平问题还没有解决。他说：“如果这些问题解决了，就可以调动起群众的积极性。”他强调，公社规模划小“这个原则是肯定了的”，“横直是要划小就是了。”
根据毛泽东的意见，人民公社工作条例的起草工作加紧进行。初稿由廖鲁言、田家英、赵紫阳、王录分头执笔，胡乔木修改。3月6日写出近14000字初稿，“序言”之外，共8个部分67条。初稿印发政治局常委审阅，发给出席11日在广州召开的“三南会议”（又称南三区会议，出席者为华东、华中、华南三个协作区各省委书记）各同志。出席会议的许多人都赞成搞这样一个条例。
3月13日，毛泽东在“三南会议”上说，初稿内容太杂，篇幅太长，要压缩到8000字左右。胡乔木概括“三南会议”讨论的意见，执笔对这个条例作了较大的修改。15日上午修改出第二稿，标题定为《农村人民公社工作条例》。“序言”改为第一部分。整个条例共9个部分50条，9000多字。
在14日，毛泽东已经通知在北京参加“三北会议”（又称北三区会议，西北、东北、华北三个协作区）的中央负责同志和省委书记到广州来开会。15日下午，原来“三南”、“三北”分开开的两个会议，就合到一起，变成中共中央工作会议（通称“广州会议”）。
根据毛泽东的指示，经胡乔木修改的工作条例二稿即《农村人民公社工作条例（草案）》印发当天开幕的中共中央广州工作会议（3月15日至23日）讨论。广州会议对一些实质性的重要问题进行了讨论，如社队规模问题，食堂问题，供给制问题，生产管理问题，责任制问题，评工计分问题，等等。
1961年3月19日中午，毛泽东同胡乔木和陈伯达、廖鲁言、田家英谈条例的修改问题。他说：农村问题，在1959年即已发生，庐山会议反右，使问题加重，1960年更严重。饿死人，到1960年夏天才反映到中央。毛泽东十分后悔，说农业问题抓晚了，这次非下决心彻底解决不可。
根据毛泽东的意见，这次修改每个大区吸收一至三个同志。21日，第三稿改出，立即印发讨论。根据大家意见，胡乔木等又作了多处修改。22日，《农村人民公社工作条例（草案）》获中央工作会议全体大会通过。3月29日，由中央正式发出。条例共10章60条（简称“人民公社六十条”或“农业六十条”），各章标题为：一、农村人民公社现阶段的性质、组织和规模。二、人民公社社员代表大会和社员大会。三、公社管理委员会。四、生产大队管理委员会。五、生产队管理委员会。六、社员家庭副业。七、社员。八、干部。九、人民公社各级监察委员会。十、人民公社中的党组织。
在广州会议期间，胡乔木向毛泽东反映了1959年中国科学院经济研究所昌黎调查组同志因提出办公共食堂利少弊多而受到处分的问题。毛泽东听后说：看来他们的意见是对的。胡乔木说：他们受了处分。毛泽东当即说：赶快撤销！胡乔木即通知中国科学院常务副院长张劲夫。张劲夫即在中国科学院宣布撤销处分，予以平反。这桩错案终于得到纠正。
在广州会议期间，胡乔木还向毛泽东说了刘少奇在庐山会议时曾经想提出写个反“左”文件的建议的事，毛泽东听后没有表示什么，只是说：“啊，有这回事！”
在广州会议上，毛泽东、刘少奇都特别强调要继续深入进行调查研究。
刘少奇说，经过调查，决定了政策，解决了问题，然后还要检查。我们决定的政策是否正确，是否需要补充，还得到群众中去考验。
毛泽东讲，现在有了初步的调查成果了。从群众中来，根据群众的意见搞了这么个东西（按：指“人民公社六十条”）。现在还需要到群众中去。把这个东西带回去，每个省、地区都到生产队去征求农民的意见。向群众宣读，一条一条地讲，逐条征求群众意见，是同意还是不同意，是基本同意还是部分同意，还有什么新的意见。
胡乔木根据党中央意见，起草了中共中央《关于认真进行调查工作问题给各中央局，各省、市、自治区党委的一封信》。这封指示信在1961年3月23日中央工作会议闭幕会议上通过，当天发出。
指示信把前不久找到的毛泽东在1930年写的《关于调查工作》（即《反对本本主义》）一文作为附件，下发到县、团级党委。指示信要求“联系最近几年工作中的经验教训，进行深入讨论”。并指出：“中央要求从现在起，县级以上党委的领导人员，首先是第一书记，认真学习毛泽东同志的思想方法和工作方法，深入基层（包括农村和城市），蹲下来，亲身进行有系统的典型调查，每年一定要有几次，当作领导工作的首要任务，并且定出制度，造成风气。”“在调查的时候，不要怕听言之有物的不同意见，更不要怕实际检验推翻了已经作出的判断和决定。中央相信，只要全党坚持这种调查研究、实事求是的作风，我们目前所遇到的问题就一定能够比较顺利地得到解决，我们的各方面的工作就一定能够得到迅速的进步。”