蒋先云是毛泽东1921年在衡阳建党时最早发展入党的党员之一，不满20岁就参与领导水口山矿区工人运动，为工人俱乐部主任。而安源大罢工时，蒋先云曾是毛泽东、李立三的得力助手。
蒋进黄埔后，如恒星吸引行星般迅速聚集起一个集团。中共黄埔支部成立，蒋先云被一致推举为支部书记，左翼的"青年军人联合会"，蒋先云又是发起者兼领导者。日后从黄埔军校走出的共产党人，很大一部分都是因蒋先云的宣传动员之功。
尽管大蒋早知小蒋是中共骨干领袖，但爱才之心甚切，对其寄予厚望，蒋介石曾声言：将来革命成功后他要解甲归田，而黄埔军校这些龙虎之士只有蒋先云才能指挥。
