3月16日，国民党中央执行委员会常务委员会召开第十二次会议，毛泽东列席，并以中央宣传部代理部长身份提出多项提案，并作说明，其中一项是对付京沪等地孙文主义学会问题，主张严加取缔。孙文主义学会是1925年12月黄埔军校内的右派分子贺衷寒、缪斌等在蒋介石、戴季陶支持下成立的。他们出版《国民革命》、《孙文主义丛刊》等，打着信仰、研究、宣传孙文主义的旗帜，进行反共活动。他们不仅在广州，而且在上海、北京、天津等地发展孙文主义学会，与西山会议派结合，开展反共活动。毛泽东的提议，获得部分通过，即在北京、上海等地不准发展孙文主义学会。4月23日，第二十二次常务会议，毛泽东、杨匏安等又提出“训令全体党员不得认反动分子为党员，不准加入各地未经本会批准擅自设立孙文主义学会案”。会议决定，除广东外，未经本会批准，不得认为本会附属团体。
4月2日，毛泽东出席了国民党中央执行委员会常务委员、各部部长及中央监察委员联席会议。在会上，毛泽东代表宣传部、提出了“畸岭书社假冒先总理名义，发行《社会主义论》小册应否禁止案”。并说明：“这种冒名孙总理遗着”的事件，“显系贪利市侩所为，若不严加取缔”，那些“行见射利之徒、反革命之辈”，将“淆惑社会听闻，有妨本党前途甚大”。会议接受了这一提案，并作了相应的决议。会议还听取和通过了中国共产党广东区执行委员会声明中国共产党对于国民革命所取之态度，中国国民党中央政治委员会函送湖南省党部关于该省最近政治状况等几个报告。
5月15日至22日，国民党在广州召开二届二中全会。毛泽东出席了会议，并在20日的会议上作了《宣传部工作报告》，“将本年2月1日起，截至5月15日止”的宣传工作情形作了简要概括。他说：本部自从第二次全国代表大会闭会以后，即于2月初间，派定职员，分配工作，一切规划设施，均依照第二次代表大会之宣传决议案，依次进行。1、开办党报。计有汉口《楚光日报》、长沙《湖南民投》、北京《国民新报》、广州《政治周报》。另外，上海《民国日报》变成西山会议派的喉舌后，乃于1926年4月由上海特别市党部负责人出面，顶受《中华新报》的财产，改称《国民日报》出版，“经费之决定及人员之委任，均属中央常务会议、宣传部担任执行”。2、发布宣传大纲。计有“二大”宣传大纲；孙中山逝世周年纪念宣传大纲；“五四”纪念宣传大纲等。3、设立检阅会议，检阅党内外出版物。4、设立上海交通局，沟通中央与全国各地的关系。自2月至5月发送北方及长江流域之宣传品41种，共计221284份。5、设立宣传委员会，讨论全国宣传事项，以汪精卫、顾孟余、陈公博、甘乃光、胡汉民、林祖涵、彭泽民、陈其瑗、邵力子、毛泽东等10人为委员。6、加强中央宣传部与各省宣传部之间的联系。7、设立了宣传材料储藏机关——宣传部图书室。8、接办国民通讯社。国民通讯社仅次于国闻通讯社之第二家大通讯社等等。
《宣传部工作报告》还对今后宣传工作作了具体的规划。第一，津贴各地报纸，扩大宣传。全国各省除边疆政处外，均有了国民党组织。在有国民党的地方就应有公开宣传机关。然到处办报实为人力财力所不许，若采用津贴报纸方法则所费不多，收效颇大。如全国重要地点以20处计，平均每处津贴报纸一家，每家津贴200元计，每月共费津贴洋4000元，仅抵一家党报之经费，然收效已遍全国。此等津贴之报纸，“其条件至少消极方面不攻击本党及国民政府，能办到适当地拥护本党及国民政府，自为我们之目的”。第二，计划编印国民运动丛书。在上海设立征稿处，任命沈雁冰为驻沪编纂干事，“其责任为征集丛书稿件，寄到中央宣传部，经审定后寄返上海印刷发行”。预计每月出书10种，半年内可出60种。宣传计划还具体列出编纂书目64种。
3、与蒋介石斗争
国民党“二大”召开之时，共产党员和国民党左派占优势，但是由于陈独秀、张国焘的妥协退让，对势力不断膨胀的国民党新右派没有触动。“中国共产党中央主席和共产国际的代表了解到国民党和共产党之间的关系中存在危险。为了排除这种危险，他们准备向新右派(戴季陶)做出让步”。在选举问题上，他们一开始就预备退让，决定“只应有两名共产党员进入国民党中央”。结果造成中央执行委员会及监察委员会内右派占优势，左派则陷入孤立的困境。在二届中央执委和候补中央执委60名委员中，共产党员仅有13名，中央监察委员12人中共产党员仅占1人。蒋介石在此次会上首次当选为中央执行委员，之后又被选为常务委员。在国民革命军中，他原本只是一个军的军长，这时又获得国民革命军总监的职务，为其日后篡夺领导权埋下了隐患。后来，毛泽东谈论国民党二大时感慨道：“第一个失败的关键是二次代表大会，我主张反击。因我们有三分之一，左派三分之一，其他三分之一，左派很赞成，结果我们自动退却。”
中国共产党的善意退让并未缓和联合战线内部的矛盾，恰恰相反，国民党新右派更加肆无忌惮。“二大”后，蒋介石表面上继续充当“中派”，暗地里屡次制造事端，以试探中国共产党的态度和国民党左派的势力。1926年3月18日，蒋介石借黄埔军校驻广州办事处名义，命令海军代理局长、共产党员李之龙调派中山舰到黄埔候用。19日，李之龙向军校驻广州办事处索补调兵舰的公函到海军局编号存案，经蒋介石允许“电舰返省”。20日，蒋介石谎称共产党人指挥中山舰炮轰黄埔，共产党人企图暴动，立即宣布广州实行戒严，逮捕李之龙等大批共产党员，包围了省港罢工委员会和苏联顾问办事处。
事发当晚，毛泽东就赶往苏联军事顾问代表团团长季山嘉处商量对策。中共广东区委书记陈延年也在那里，两人均主张反击。毛泽东提出动员所有在广州的国民党中央执监委员到叶挺独立团驻地肇庆开会，通电讨蒋，削其军权，开除党籍。随后，他又到国民革命军第二军副党代表李富春家里了解情况，正好碰上第一军副党代表兼政治部主任周恩来。周恩来回忆说：“我在富春家遇毛，毛问各军力量，主张反击。……我听了毛的话找季山嘉，他说不能破裂。”
当时，毛泽东、周恩来、陈延年、李富春等讨论的结果是利用蒋介石与其他各军的矛盾，声讨蒋介石。适时黄埔军校有500多名共产党员，在广东的国民革命军有6个军，除第一军外，其他各军军政首脑都反对蒋介石，而且在第一军内，政治骨干大部分都是共产党员。加之掌握了叶挺独立团，从力量对比上看完全可以反击。只要共产党员态度强硬，相信国民党左派也会从中给予支持。
但是这些建议遭到以季山嘉为首的苏联军事代表团的反对，后来请示陈独秀亦遭陈的冷遇。就连率领苏联共产党代表团在广州的依文诺夫斯基也不同意。由于他是苏联中央委员，苏联红军政治部主任，因此在处理中山舰事件中处于实际决策地位。毛泽东、周恩来又主张把从第一军中被迫退出的共产党员派到其他军队中去，建立叶挺独立团式的军队，陈独秀再次拒绝这一正确主张。3月29日在上海的中共中央甚至发出指令说，“蒋介石的行动是极其错误的，但是，事情不能用简单的惩罚蒋的办法来解决，不能让蒋介石和汪精卫之间的关系破裂，更不能让第二军、第三军和蒋介石军队之间发生冲突”。对蒋介石，“我们现在应该全力拯救他，将他从陷入的深渊中找出来”。
事实上蒋介石很快就从因中山舰事件而陷入的政治危机中“拔出来”了。不到两个月，他就在国民党二届二中全会上借口避免“党内纠纷”，提出了旨在限制共产党、篡夺国民党党权的《整理党务案》，规定共产党在国民党省、市以上高级党部任执委员的人数不得超过三分之一，共产党员不能担任国民党中央各部部长。中共中央派张国焘、彭述之来指导出席这次全会的中共党团。在党团会上讨论是否接受《整理党务案》时，大家意见不一致，争执7天毫无结果。最后，张国焘按照他同苏联顾问鲍罗廷以及陈独秀商定的让步方针，要求与会的共产党员签字接受。毛泽东拒绝签字，主张“坚决顶住”，在表决所谓《整理党务案》时也没有举手。“当时没有举手的还有国民党内的二个人，一个何香凝，一个柳亚子”。国民党左派激烈地反对《整理党务案》，以至声泪俱下，然而陈独秀、张国焘的妥协退让方针，致使《整理党务案》通过了。
依据《整理党务案》，凡担任国民党中央党部的共产党员必须辞职。1926年5月25日，毛泽东离开了代理国民党中央宣传部长的位置。此后，他将主要精力投入到轰轰烈烈的农民运动中去。