蒋介石一面秘密准备清党，一面麻痹中共。要清除共产党，蒋仅靠自己手里的武装是不够的，如果用军队出面，政治上也很不策略，于是他借助上海青帮的势力。
当时的上海社会，成分非常复杂。代表黑社会势力的各种帮会渗入上海社会各界，组织庞杂，人数众多。青帮是上海势力最大、影响最广的帮会，青帮首领黄金荣、杜月笙、张啸林形成了一个独立于政府的地下社会秩序网。他们操纵着上海工人、商贩、无业游民等社会底层的生计，控制着上海大多数的工厂。工厂里的工头和监工大多数都是青帮中人，他们掌握着对工人的招聘和解雇、监督和管理等权力，不加入青帮几乎不可能在工厂找到工作，还会在工厂受到排挤和欺负。因此，工人不得不投靠帮会，把帮会作为求职谋生的靠山。
在国民革命的背景下，青帮也在政治上逐渐靠近国民党。特别是蒋本人年轻时也有青帮背景，所以黄、杜、张等转为支持蒋介石。黄金荣刚开始怕国民党斗不过共产党，一时拿不定主意，想观望一下再说。但杜月笙认识到共产党当家，不会有他们的好处，因此力劝黄、张与蒋合作。在这个关键时刻，杜月笙的立场对蒋在上海发动清党起到了重要的作用。
在进攻总工会之前，杜月笙要先将总工会的负责人打掉。上海总工会委员长汪寿华与杜月笙保持着良好的私交，黄、杜在上海工人武装起义期间，曾经为掩护共产党人、通融租界关系方面提供过协助，共产党也注意与青帮搞好关系。杜月笙下请贴，请汪在4月11日晚到杜公馆赴宴。汪没有疑心，乘小轿车按时到达。刚一进门，杜的打手一拥而上，将汪绑架。杜月笙连声关照："不要做在家里。"打手们将汪寿华塞进另一辆车，开到沪西僻静处杀害。随即，杜月笙等指派青帮弟子以"中华共进会"名义，带上"工"字袖章，分几路扑向上海工人纠察队驻地……一天之内，上海工人纠察队武装被26军全部缴械。
周恩来获悉事变情况，立即赶到商务印书馆，与26军交涉，随即也被带到2 师师部，与顾顺章一起被扣押。罗亦农得到消息后非常焦急，派周的联络员黄逸峰(黄澄镜)找关系营救。在2师党代表的帮助下，2师师长斯烈同意将周和顾放出。这样，在国民党大屠杀之前，周恩来和顾顺章奇迹般地逃过一劫。
4月13日下午1时，工人游行队伍由青云路、东横滨路转至宝山路，队伍浩浩荡荡延续2里长。当游行者高呼口号，到达宝山路三德里附近，军队突然向游行队伍射击。前面群众顿时纷纷倒地，非死即伤，现场秩序大乱。半小时后，枪声始停息，军队捕去许多工人。这就是宝山路血案的经过。
杀戒一开，蒋介石便公开宣布清党。4月17日，他与一批右派国民党中央委员在南京召开政治会议，发布清党通电，并发出秘字一号命令，通缉共产党的首要分子197人：首要为鲍罗廷、陈独秀，其次为林祖涵(即林伯渠)、瞿秋白、毛泽东、恽代英、周恩来、刘少奇、张国焘、彭湃、邓颖超、蔡和森、方志敏等人。一些非共产党的左派人士，如沈雁冰、柳亚子、邓演达、章伯钧等，也在通缉之列。国共合作的大革命时代结束了，血雨腥风向共产党人扑来。
