二次北伐成功后，汪精卫继蒋介石之后叛变革命，国共两党分裂。及至1927年夏，蒋介石——这位林彪先前的校长和汪精卫相继举起屠刀向共产党人和革命人民杀来，在“宁可枉杀三千，不使一人漏网”的血腥口号下，尸曝山野，血涨江流，南中国陷入血雨腥风的肆虐之中。

　　中国共产党人被迫拿起武器进行武装斗争。7月下旬，党中央授权周恩来组织前敌委员会，全权指挥南昌暴动。当时，贺龙的二十军、第四军第二十五师和蔡廷锴的第十师已经分头往南昌城集结，留在九江一带的还有十二师和二十四师。二十五师驻扎在马回岭，是预定参加南昌起义的主力之一。周恩来指示聂荣臻设法把二十五师拉到南昌，并负责接应随后赶到九江的部队和零星人员。他们约定，南昌一发难，立刻开出一列火车到马回岭，火车一到，立即把辎重物资和部队运往南昌。

　　在马回岭，聂荣臻在党员军官中逐层传达了党中央关于起义的通知和决定，并具体拟定了各项行动计划。林彪所在的二十五师由七十三、七十四、七十五三个团组成。七十三团又是我党较早掌握的基本部队，因此，林彪作为一连之长，也较早地得悉了这些计划，并向他所在的七连或个别或集体作了传达和动员。

　　1927年8月1日凌晨，周恩来、贺龙、叶挺、朱德、刘伯承等率领起义军二万余人发动南昌起义，打响了武装反抗国民党的第一枪。

　　1日下午，周恩来发出一列火车开往马回岭。聂荣臻知道南昌暴动已经得手，立即与七十三团团长周士弟商量，决定部队不带背包、行李、伙食担子，只带武器弹药，以打野外为名把队伍拉出马回岭。

　　由于事先进行了动员准备，一旦开始行动，忙而不乱，井然有序。不仅七十三团登上了火车，七十五团也有一部分连营队伍一同行动。这消息传到国民革命军第二方面军总指挥张发奎和二十五师师长李汉魂那里，两人大吃一惊，急忙乘车前来拦堵部队开往南昌。张发奎隔着铁路桥大声喝斥已登上火车的七十三团官兵：

　　“你们干什么?我是总指挥张发奎，我命令你们停止行动!”

　　此时此刻，纵令是总指挥也对七十三团无可奈何。在聂荣臻的率领下，二十五师的大部分官兵开进了起义胜利后的南昌。进抵南昌后，七十三团和七十四团一部经过补充，整编为二十五师，周士弟担任师长，陈毅担任了七十三团政治指导员，林彪仍任七连连长。

　　林彪为未能参加8月1日的南昌起义而感到终生遗憾。面对起义领导人周恩来、朱德、贺龙、刘伯承的崇高威望，林彪即使后来身居高位，心里也始终是酸溜溜的。他曾几次心怀妒意地对罗瑞卿说过：“我们的威信不够吧?因为我们不是南昌暴动的领导人呀!”