兩年前，我們在國民黨軍中的組織，完全沒有抓住士共，即在葉捉部也還是每團隻有一個支部，故經不起嚴重白勺考驗。
毛澤東在總結井岡山鬥爭的經驗時指出：“紅軍所以艱難奮戰不潰散，‘支部建在連上’是一個重要原因。”其內在的原理是，黨的組織在部隊形成了係統，黨支部掌握了基層，黨對軍隊領導的製度得以貫徹執行。由於加強了黨的領導，改變了舊式軍隊的習氣和農民的自由散漫作風，部隊麵貌煥然一新，凝聚力、戰鬥力空前提高。伴隨著企業的成長與發展，同樣是在一係列科學合理的組織架構之下運行的。
1927年9月，毛澤東率領秋收起義後不足千人的隊伍從湖南瀏陽文家市向井岡山轉移。由於起義的失敗，部隊人心浮動，思想混亂。在三灣村，毛澤東主持召開了前敵委員會擴大會議。會議在總結秋收起義失敗的經驗教訓、分析部隊的政治思想狀況的基礎上，決定對部隊進行改編，著力解決兩個根本問題：一是在部隊中建立共產黨的各級組織，確立黨對軍隊的絕對領導原則；二是破除舊軍隊的製度和帶兵方法，確立官兵平等原則，建立新型的官兵關係。
三灣改編創建“支部建在連上”的製度，後來在紅軍中普遍實行。這從根本上保證了黨對軍隊的絕對領導，改變了紅軍政治工作的薄弱狀況。改編從製度上規定黨支部建在連上，實行軍隊內的民主製度，成立士兵委員會，實行經濟公開，取消雇傭製度。1929年12月底，古田會議決議總結了紅軍創建兩年多的鬥爭經驗，明確規定每連建立一個支部，這是在部隊中黨的組織的重要原則之一。
1930年，中共中央第一次頒布了《中國工農紅軍中黨的支部及團委工作暫行條例草案》，規定軍隊、連隊、黨支部的性質和任務。1935年5月2日，中國工農紅軍總政治部在支部工作的訓令中，對連隊黨支部建設的具體措施和領導作用作了說明。1954年以後頒布的《中國人民解放軍政治工作條例》，對連隊黨支部的性質、任務、組織原則、領導方法等，都作了具體的規定，用立法形式把“支部建在連上”作為製度固定了下來。
支部建在連上製度的有效執行，對於人民解放軍的發展壯大起了重要的作用。土地革命時期，紅軍物質生活匱乏，作戰和群眾工作任務繁重，就是依靠黨支部團結官兵，較好地完成了打仗、籌款、做群眾工作等艱巨任務。抗日戰爭時期，各個黨支部帶領連隊進行軍事、政治訓練，開展整風和大生產運動，完成了中央軍委提出的“一麵戰鬥，一麵生產，一麵學習”的要求。解放戰爭中，各黨支部領導連隊開展殺敵立功運動，團結互助運動，發揚三大民主，進行新式整軍，有力地推動了“打倒蔣介石，解放全中國”這一曆史性勝利的實現。
黨在軍隊中的各級組織，成為我軍統一領導和團結戰鬥的核心。羅榮桓元帥回憶說“三灣改編，實際上是我軍的新生，正是從這時開始，確立了黨對軍隊的領導”。如果不是這樣，紅軍“即使不被強大的敵人消滅，也隻能變成流寇”。無論是在革命戰爭年代，還是在和平建設時期，中國人民解放軍能夠始終聽黨話跟黨走，各級黨組織能夠堅決貫徹黨的各項決策，共產黨員能夠積極發揮先鋒模範和骨幹作用，形成了其他軍隊所無法比擬的強大戰鬥力和凝聚力，保證軍隊在任何強大的敵人麵前都無所畏懼、勇往直前，在任何艱苦的條件下都能夠艱難奮戰而不潰散的根本原因就是“支部建在連上”的強大的組織結構作用。