1965年5月24日，毛泽东重上井冈山时对身边的陪同人员回忆到：“支部建在连上和发展新党员都是水口的事情。水口是个好地方，我们在那里发展了秋收起义的第一批党员。”时至今日，水口连队建党已经过去90年了，重温这段历史，探寻军队党的建设的历史渊源，对党忠诚，听党指挥，对于加强基层党的建设具有重要的指导与借鉴意义。

1927年9月，毛泽东领导中国工农革命军第一军第一师，在湘赣边界发动秋收起义。由于敌我力量悬殊，攻打长沙的计划受挫，毛泽东果断放弃长沙，率部队从浏阳的文家市向罗霄山脉中段退却，29日队伍到达江西省永新县三湾村。当时部队内部很乱，作战失利，加上连续行军非常艰苦，一些意志不坚定的人开始动摇了。秋收起义的部队有一个团原来是收编的军阀武装，结果这个团的长官一叛变，就把全团人都给拉走了。至于剩下的人中，开小差、掉队的也很多。走到三湾时，队伍只剩下不到1000人了。过去在旧军队里，如果遇到这种困境肯定早就散伙儿了。罗荣桓回忆当时的情景曾感慨地说：“那时候，部队即使不溃散，也可能沦为流寇。”
　　为了解决面临的问题，红军部队在做好思想工作的基础上，采取自愿原则：愿意继续参加革命的就留下来，想走的则给开具证明、发给路费，在这样的情况下，不少消极悲观、逃避斗争的人都离开了部队。这些都让毛泽东更加深思，革命处于低谷或挫折时总会有人动摇，也使他认识到了党组织在部队基层掌握士兵的重要性。经过反复思考后，他认为：要想使军队拖不垮，只能靠政治建军，要求在士兵中发展党员，把战斗在一线的优秀士兵吸收到党内，增强党在基层的凝聚力。
　　利用在三湾村短暂休整的时间，以毛泽东为书记的前敌委员会作出了三项重大决定：第一，把部队从一个师缩编为一个团。第二，实行支部建在连上，班排建立党小组，连以上设党代表。把党组织延伸到基层连队、班排，这是三湾改编最重要的一条举措。第三，建立民主制度，实行官兵平等，规定官长不准打骂士兵，官兵政治上平等。还废除了军官吃小灶、穿皮靴等特殊待遇。建立士兵委员会，对部队的经济开支和伙食管理进行监督。三湾改编之后，毛泽东提出大量吸收工农士兵入党的主张，这些都为壮大基层党员队伍，实行连队建党提供了日渐成熟的条件，是中国共产党建设新型人民军队最早的一次成功探索。

三湾改编半个月后，起义部队来到了湖南省炎陵县的水口镇，在这里进行了长达一个多星期的休整。面对改编后700多人的队伍，如何才能建设能担当革命大任的军队，如何才能把斗争之火引向全国，成为当时我们党面临的亟须解决的问题。早在北伐战争时期，我们党就利用国共合作的有利条件，在革命军中探索并建立了党组织。1924年周恩来在黄埔军校秘密建立的“中共特别支部”，就是我党在军队中建立的第一个党支部。但是因为当时以团为单位，团里的主要骨干都是共产党员，而连队一级却没有党组织。正如毛泽东所说：“两年前，我们在国民党军中的组织，完全没有抓住士兵，即在叶挺部也还是每团只有一个支部，故经不起严重的考验。”
　　毛泽东带着一个警卫排住在水口镇的桥头江家，团部设在镇上的朱家祠堂。其间，毛泽东和党内几位同志经常深入连队的士兵中间，找他们谈心交流，了解其思想动向、家庭状况、入伍后的表现和对党的认识等，同时积极宣传党的纲领和路线，着手发展新党员。1927年10月15日，毛泽东在水口叶家祠堂主持了我军历史上的首次连队建党活动，陈士榘、赖毅、李恒、欧阳健、鄢辉和刘炎6名士兵宣誓入党，成了首批战士中的共产党员。赖毅曾回忆到：“部队到达水口的第二天下午，党代表就秘密地通知我晚上跟他一路去团部开会。”开会的房间里摆着几条长板凳，一张小方桌，桌上挂着两张长方形红纸，一张写着中国共产党的英文缩写“CCP”，另一张写着“牺牲个人，努力革命，阶级斗争，服从组织，严守秘密，永不叛党”，这可以说是我们党最早使用的入党誓词。宣誓仪式开始后，各连的党代表分别介绍本连入党士兵的情况。毛泽东逐个询问他们的入党动机，走到一个士兵面前问他：“你为什么要加入共产党？”这名士兵回答道：“要翻身，要打倒土豪劣绅，要更坚决地革命！”毛泽东连连点头，又依次问过其他人。紧接着，大家在毛泽东的带领下，郑重地举起右拳，庄严宣誓。
　　毛泽东在宣誓结束讲了话：“从现在起，你们都是光荣的共产党员，今后要团结群众，多做宣传，多做群众工作；要严格组织生活，每星期开 一次小组会；要严守党的秘密。”毛泽东对各连党代表叮嘱道：“回去之后各连成立支部，抓紧发展工作，以后要像今天这样，分批举行新党员入党仪式。”他还说：“一个人活着要有心脏，党支部就是连队的心脏，把连队党支部建好，让连队的心脏坚强地跳动起来，才能使党的血液流贯我们这支部队的全身。”水口连队建党成为真正把“支部建在连上”付诸实践的开端。

1928年2月，毛泽东又派毛泽覃去宁冈县乔林乡抓党建试点。3月，他亲自到永新县秋溪乡开展建党工作。11月，毛泽东在给中央的报告中提出，要在战斗的士兵中发展党员数量，达到党员和非党员各半的目标。自此，“支部建在连上”逐渐在中国工农红军付诸实践，党对军队的绝对领导原则得以贯彻落实。
　　罗荣桓曾回忆说，井冈山斗争时期发生的一件事让他铭记一生：1928年7月，他率领三营下井冈山，夜间行军的时候突然遇到敌人的袭击。眼看着队伍被打散了，他万分焦急。结果等到天亮后清点人数，发现只丢了一名担架兵。等到9月26日部队返回井冈山时，没想到当初失散的那名担架兵早就回山了。他感慨道：这次远征，行程数百公里，打了几十场仗，却没有一个开小差的。
　　过去在旧军队里，官兵之间是雇佣关系：当兵的一个月领几块大洋，一旦发不出军饷就会开小差。毛泽东带着队伍到井冈山下的时候说：“以后不能发饷了”。黄克诚后来回忆说：当时他很惊讶，因为自古以来就是“将靠薪，兵靠饷”，如果当兵的不发饷了，那还能维持吗？没有想到不仅能维持，还能发展壮大，这就在于毛泽东开创了一条全新的建军道路。
　　毛泽东在《井冈山的斗争》中总结道：“红军所以艰难奋战而不溃散，‘支部建在连上’是一个重要原因。”一方面，它初步解决了“党指挥枪”在军队基层落地生根、达于士兵的组织机制问题，为党从思想政治上建军提供了坚强的组织保证。另一方面，增强了党的阶级基础，扩大了党的群众基础，成为夺取革命战争胜利的重要条件。从此，这支部队以崭新的姿态向井冈山进军，很快建立了全国第一个农村革命根据地，使得这支以农民为主体的红军，逐步发展为有觉悟、守纪律、能打仗、会做群众工作的新型军队，成了一支铁心闹革命、永远跟党走的队伍，确保了枪杆子牢牢掌握在党的手里。上井冈山时的师长余洒度、团长陈浩都成了叛徒，可是他们连一个排、一个班都带不走；后来张国焘叛逃，连一个警卫员也带不走。因为这已经是党的军队了，是听党的指挥。