１９２７年３月２０日晚，北伐军东路军进入龙华，上海处于北伐军的包围中，发动起义的时机已经成熟。３月２１日清晨，中共上海区委根据中央的决定发动第三次武装起义。３月２１日中午１２时，停泊在黄浦江上的轮船和全市的工厂同时汽笛长鸣，巨大的声响在黄浦江上空不停地回荡。顿时，电车停驶，工厂停工，轮船抛锚，商店关门，学校罢课，人们从四面八方拥向街头、车站、码头和广场，在预定的地点会合，上海８０万市民总同盟罢工开始了！

　　下午１时半左右，南市区打响了起义的第一枪。工人纠察队以小南门救火会钟声为号，兵分三路进攻，包围淞沪警察厅，攻打第二区警察署和沉香阁路警察二区一分署，围困第一警察署，攻占南区街分署和铁路南站等。下午３时，各路工人纠察队、自卫团、海军起义人员在江南造船厂及高昌庙兵工厂前会师，包围驻厂的直鲁军海防卫队士兵，迫使敌军全部缴械投降，第三次武装起义首战告捷。

　　接着，虹口各厂工人纠察队，攻占虹口中心警察署，打退了敌人的猖狂反扑。沪西工人分两路进攻曹家渡第六警察署，占领潭子口警察局，在攻占第四警察署时，遇到直鲁联军的顽抗，纠察队员用麻袋装上泥土后，堆叠在推车上作掩护向敌人发起进攻，迫使敌人缴械投降。沪东、浦东和吴淞的工人纠察队也各自完成了预定的起义任务。

　　闸北工人纠察队同时向五区警察总署、广东街警察署、商中华新路警察分署等据点发起攻击，通过三个多小时的激烈战斗攻克后，又在天通庵火车站伏击从吴淞溃败下来的５００多名直鲁联军，击毙和俘虏３００多名，缴获了大量武器。龟缩在最后一个据点北火车站的敌军，妄图伺机反扑，敌军司令毕庶澄坐镇指挥。由于北火车站守敌集中、工事坚固，工人纠察队同敌军相持不下。上海总工会派人前往龙华的北伐军东路军指挥部，请白崇禧出兵助战，但白崇禧按兵不动。周恩来马上调整力量，将闸北工人纠察队和前来支援的沪东、沪西工人纠察队会合在一起，集中轻重型武器，以北火车站的东南面为主攻方向，各支工人纠察队同时向敌人的据点发起总攻。毕庶澄在死守无望的情况下逃走，北火车站的敌军失去了指挥、乱成一团。３月２２日傍晚６时多，敌军全部投降，北火车站结束战斗，上海工人第三次武装起义获得了全胜。

　　这次武装起义，经过３０个小时的英勇战斗，一共歼敌５０００余人，缴获５０００多支枪、若干门大炮和大量弹药、装备。在激烈的战斗中，有３００余名工人和群众英勇牺牲、１０００余人负伤。３月２２日，上海工商学各界举行市民代表会议，选举１９人组成上海市民政府，罗亦农等１０名共产党员和共青团员参加了市民政府。上海工人第三次武装起义，是大革命时期中国工人运动的一次伟大壮举。