1941年皖南事变后，毛泽东调胡乔木到身边当秘书，是出于加紧进行整风准备工作的需要。当时党内亟待解决的重要问题是怎样看待党的历史特别是十年内战后期和抗战初期党的历史。所以，研究党的历史，编辑党的文献，就成为胡乔木的主要任务。
胡乔木到毛泽东身边以后，参加了《六大以来》《六大以前》和《两条路线》等书的编辑工作，为解决历史问题提供了依据，为《历史决议》的起草做了准备。毛泽东对胡乔木的工作很满意。30年后，1971年8月28日晚，毛泽东在长沙同广州军区负责同志谈及此事时说：“这个人（指胡乔木）有点知识，他搜集了那样多的文件，编了两大本，印出来让大家讨论，才把问题弄得比较清楚了。”
1941年9月10日至10月22日，毛泽东主持召开中央政治局扩大会议（通称九月会议），检讨党的历史上特别是十年内战后期政治路线问题。胡乔木列席了这次会议。九月会议以后，毛泽东花很大精力研究党的历史，检讨过去中央路线的是非，抓党的高级干部的学习。在秋天，毛泽东写了一篇长达五万多字的批判王明“左”倾机会主义的九个文件的文章。对王明、博古时期的九个重要文件的具体内容逐篇批驳。在此基础上，毛泽东综合九月会议的揭发批判，起草了《关于四中全会以来中央领导路线问题结论草案》（通称《结论草案》或《历史草案》），对那个时期的中央领导路线问题作出了初步历史结论，成为党的历史决议最初的稿本，为科学地评价六届四中全会后的中央领导路线提供了一个很好的文件基础。
后来，随着《六大以来》《六大以前》和《两条路线》等文献集的先后编出和党内高级干部的学习，加上经过两年多的整风运动和1943年九月会议（政治局扩大会议）对党的历史的深入检讨，党的高级干部对党的历史和路线是非的认识越来越清楚了。回过头来看1941年秋起草的《历史草案》，它在某些方面的内容和对某些问题的认识，显然需要充实和修正，需要重新起草一个关于党的历史问题的决议。
1943年9月30日，中共中央书记处会议决定，从10月份起，五个月内组织在延安的高级干部及七大代表二三百人，讨论党史文件和《联共党史》，参加人员由刘少奇、任弼时、康生商定。并决定，讨论可用全体会议、小组会议或个别漫谈等方式。
1943年10月22日起，胡乔木列席检讨党的历史问题中共中央学习小组会。这个小组会由毛泽东主持，刘少奇、王明、康生、朱德、张闻天、陈云、邓发、博古、王稼祥、林伯渠等出席。列席会议的还有李富春、彭真、杨尚昆、陈伯达。会议主要讨论抗战时期党的路线问题。
1943年10月24日，刘少奇首先在党的高级干部会议上作关于党的历史问题的报告。讲述了自抗战以来党内的两条路线即以毛主席为代表的正确路线与以王明为代表的投降主义路线在对于抗战形势的估计问题（中日关系问题）、统一战线问题（国共关系问题）和战略问题上的争论，批评了王明路线的严重错误及其给党的工作带来的危害。25日，刘少奇又在中央学习小组会上发言，回顾抗战爆发后党内对游击战争、国共关系等问题上的意见分歧，指出：抗战爆发后存在两条路线，一条是王明为代表的孟什维克路线，投降大地主大资产阶级，另一条是毛主席领导的布尔什维克路线。D1943年11月13日，中央整风会议复会，毛泽东首先讲话，严厉批评了王明宗派，并阐述了搞好整风的一些原则意见。毛泽东讲完后，博古即作了第二遍检查。接着，罗迈在14日，洛甫在21日，相继作了整风检查。此后，他们还和博古一起在高干大会上讲了四天。11月27日，周恩来在中央政治局整风会议上作了整风检查，他的发言分“自我反省”和“历史检查”两部分，光提纲就写了两万多字，是整个会议中讲得最细、检查时间最长的发言。
中央学习组的讨论、检查为全党带了一个好头。代表各个不同方面的党中央领导人在学习党的历史文献、研究党的历史问题的基础上，带头反思党二十多年来的路线、方针和政策，在更高的层次上研究和总结党的历史，为全党共同总结党的历史作了示范，打下了坚实的基础。对于胡乔木来说，是一次深入的对党的历史特别是两条路线斗争的历史的学习，为参与历史问题决议的起草打下了坚实的基础。
从1943年11月起，胡乔木又参加了高级干部党的路线问题的学习。12月14日，中央书记处会议讨论了高级干部学习党的路线问题，决定从1943年11月起至1944年4月底学习半年。要学习《共产党宣言》《社会主义从空想到科学的发展》《共产主义运动中的“左”派幼稚病》《社会民主党在民主革命中的两种策略》《联共（布）党史简明教程》和《两条路线》（上下册）等六种着作。学习中要展开争论，提出中心问题，开展自我批评，要联系实际材料，要有历史观点。28日，中央书记处发出关于研究王明、博古宗派机会主义路线错误的指示。
1944年2月24日召开的中央书记处会议，讨论了七大的准备工作和党的历史问题。会议指出，学习路线时，对于历史上的思想问题要弄清楚，对结论必须力求宽大，目前是应该强调团结，以便团结一切同志共同工作。对四中全会到遵义会议时期，也不采取一切否定的态度。凡做得对的，也应承认它。
1944年4月12日，毛泽东在中共中央召开的延安高级干部会议上，5月20日在中央党校第一部，就路线学习、时局和作风问题作了讲演，传达了中央政治局的结论，对自1941年九月会议开始的中央领导关于党的历史的讨论和1943年开始进行的全党高级干部两条路线问题的学习、讨论，作了一个总结。胡乔木聆听了毛泽东的两次讲演。后来，又参与把这两次讲演整理成《学习与时局》一文。在4月15日的中央书记处会议上，根据毛泽东的提议，胡乔木担任宣传委员会秘书，在凯丰病好前，代理中央宣传部部务。这是胡乔木一生中第一次在中央宣传口担任领导工作。
1944年5月10日，中央书记处会议讨论中共七大准备工作，决定组织几个准备报告的委员会，其中之一是党内历史问题决议准备委员会，由任弼时负责召集。成员有：刘少奇、康生、周恩来、张闻天、彭真、高岗。5月19日，又增补了博古。会议还决定在七大前先召开中共六届七中全会。
从这时起，关于历史问题决议的起草工作正式启动。这项工作在毛泽东的领导下进行，日常工作由任弼时主持。胡乔木作为主席秘书，作为助手，自始至终参与了历史决议的起草和修改工作。随着起草工作的进展，他介入的程度也不断加深。
1944年5月21日，扩大的中共六届七中全会开始。出席会议的有中央委员17人，各方面的负责同志12人。胡乔木和王首道担任会议记录。会议通过由毛泽东、刘少奇、任弼时、朱德、周恩来组成七中全会主席团，毛泽东为中央委员会主席及七中全会主席团主席。会议决定，在全会期间由主席团处理日常工作，中央书记处及政治局停止行使职权。会议的主要任务是在整风运动的基础上全面总结党的历史经验，为召开七大做准备。重新起草历史决议是全面总结党的历史经验的最基本的、也是最重要的工作。会期原定两个月，实际开了11个月，一直开到1945年4月20日才结束。在党的历史上，这是持续时间最长的一次会议。其间多次召开全体会议，讨论党的历史问题和历史决议草案。会议同意毛泽东代表中央政治局向全会提出的关于党内历史问题的六项意见，并形成决议。
1944年5月中央书记处会议决定组织党内历史问题决议准备委员会后，任弼时就投入历史问题决议的起草工作。当月就写出了一个稿子，题为《检讨关于四中全会到遵义会议期间中央领导路线问题的决议（草案初稿）（一九四四·五月）》（简称“任稿”）。这个稿子是以1941年秋毛泽东写的《历史草案》为蓝本改写而成的。在结构、内容和文字上，与《历史草案》基本相同。“任稿”分为六个问题：（一）关于四中全会的结论；（二）“左”倾领导路线的错误；（三）“左”倾领导路线的恶果和其思想根源；（四）在错误领导路线下还能获得一些成绩的原因；（五）遵义会议结束了这一错误路线，恢复正确的领导路线；（六）检讨历史的意义和学习党史的重要。
任弼时对稿子做了多次修改，一方面对两万多字的《历史草案》进行概括提炼，把精华吸收进来；另方面又反映1943年九月会议以来对党史路线问题的新认识。现存“任稿”有三个改稿。第一稿近一万二千字，第三稿压缩到一万字左右。
胡乔木在“任稿”基础上重新起草了一个《决议》草案稿（简称“胡稿”）。现存“胡稿”有三件：一是胡的手稿，共16页；一是胡手稿的复写件，一式三份，其中两份经任弼时修改，一份胡乔木自己修改过；一是录入任弼时、胡乔木所作修改的复写稿。
“胡稿”将近七千字，没有题目，正文分四个问题：
第一个问题，从两条路线斗争的高度，概述从1927年大革命失败到抗日战争爆发十年间，中国共产党曲折发展的历史。着重评述毛泽东以开展长期的农村游击战争、建立革命根据地为核心的思想，和怎样运用这一思想正确地解决胡乔木参与起草《关于若干历史问题的决议》中国革命的军事建设、政权建设和党的建设的各种问题，走出一条农村包围城市、取得革命胜利的道路。
第二个问题，基本上依据《历史草案》和“任稿”，概述第三次“左”倾路线是怎样占据党的统治地位及其在思想上、政治上、军事上和组织上的严重错误内容。
第三个问题，分析“左”倾路线在党内取得长达四年之久的统治地位的历史原因，基本上依据《历史草案》关于社会根源、政治根源和代表人物的主观根源三方面的论述加以发挥。此稿指出，个人品质问题归根结底是历史的产物。
第四个问题，讲以毛泽东同志为代表的正确路线的胜利，指出遵义会议确立了以毛泽东同志为领袖的新的中央，在实际上开始了党的马列主义的新时期。毛泽东同志的思想是中国的马列主义，而党现在是完全统一团结于毛泽东同志为领袖的中央的领导之下了。
“胡稿”由任弼时的秘书兼中央速记室主任张树德抄正并复写。任弼时在“胡稿”抄清稿上又进行了三次修改，每次修改都由张树德抄正。第一次，主要是文字上的修改；第二次，加上了题目《关于四中全会到遵义会议期间中央领导路线问题的决定（草案）》，对“胡稿”第三个问题讲教条主义与经验主义结合的部分做了修改，加了近五百字的一段话，文字也有一些修改；第三次，除了文字上的修改外，主要是对“胡稿”中关于第三次“左”倾路线错误部分，加写了七条提纲式的意见，从政治形态上对第三次“左”倾路线的错误内容作了进一步的概括。任弼时所作的概括，集中了中央政治局和党内历史问题决议准备委员会集体讨论决议草案时提出的意见。
对任弼时多次修改过的历史决议稿，党内历史问题决议准备委员会和参加六届七中全会的同志们仍不满意。