1923年，中共三大在广州召开，两人都是代表，又见了面。在三大上，对国共合作的具体组织形式，发生了争论。张国焘认为，工人阶级只能在自己 政党的旗帜下进行革命，不同意全体共产党员特别是产业工人加入国民党，否则会取消共产党的独立性，也不同意在劳动群众中发展国民党组织。张国焘的观点成为 会议争论的焦点，多数人不同意他的观点。毛泽东在发言中根据湖南工人运动的经验，说明搞联合阵线的必要性，认为大批工农加入国民党，正可以改造它的阶级成 分，和资产阶级建立联合阵线，共同完成民族民主革命的任务。经过讨论，会议通过了党内合作的主张，决定全体共产党员以个人名义加入国民党，但仍保持共产党 组织的独立性。
会上，毛泽东被选为中央局成员。陈独秀为中央执行委员会委员长，毛泽东为中央局秘书。毛泽东第一次进入中共领导核心，刚好30岁。而张国焘则落选了。毛泽东协助陈独秀处理中央的日常工作。
张国焘也注意到毛泽东不是个简单人物。他回忆说，毛泽东在会上提出一个新问题---农民运动，是"这个农家子弟对于中共极大的贡献"。
回到北京的张国焘，心灰意冷，与杨子烈结婚。在北京，他与杨子烈一同被捕，并背叛了共产党，但不为人知，五个月后出狱。1925年1月，在中共四大上，张国焘又被选为中央局委员，重回中央工作；而毛泽东则落选了。
落选的毛泽东有机会深入社会调查，并写出了《中国社会各阶级的分析》《湖南农民运动考察报告》等文。1951年，毛泽东把《中国社会各阶级的分 析》收入《毛泽东选集》时，写了这样一个题注："此文是反对当时党内存在着的两种倾向而写的。当时党内的第一种倾向，以陈独秀为代表，只注意同国民党合 作，忘记了农民，这是右倾机会主义。第二种倾向，以张国焘为代表，只注意工人运动，同样忘记了农民，这是'左'倾机会主义。这两种机会主义都感觉自己力量 不足，而不知道到何处去寻找力量，到何处去取得广大的同盟军。"
1927年5月，中共五大在武汉召开，张国焘被选为中央政治局委员，再次进入中共领导核心。毛泽东也参加了大会，被选为中央候补委员。
蒋介石、汪精卫相继叛变革命后，1927年7月刚刚经过改组的由张国焘、李维汉、周恩来、李立三、张太雷五人组成的临时政治局常委会，在这个紧 急关头决定了三件事：将中共所掌握或影响的部队向南昌集中，准备起义；在秋收季节，组织湘鄂粤赣四省农民起义；召集中央会议，讨论决定新时期的新政策。这 样，周恩来、张国焘先后去了南昌，准备起义；而毛泽东则去了湖南领导秋收起义。
