北洋軍閥統治時期是中國農村遭到最為嚴重的破壞的一個階段，不僅經濟上破產，農民陷入普遍的貧困化的境地，而且農村原有的生活秩序以及組織網路都弄得七零八落，農村變成了一個看不到任何希望的人間地獄。軍閥統治下的賦稅與兵差的徵發毫無規律而且連年增加，已經使農民難以應付，而且在長期的戰亂中，軍閥的軍隊變成了空前龐大的擄掠燒殺的機器，無論兵敗還是兵勝，所過之處一概田廬為墟。1922年軍閥陳樹藩與吳新田戰於陝南，結果是「自子午谷至漢中，沿路幾無一倖免的女子」，「往日繁盛的場所，一概變成荒丘」。像這樣的報道，當時的中國幾乎無日不有。在河南，還發生過幾次因村民處罰強姦民女的士兵而招致軍閥部隊有組織地「屠村」事件。土匪對鄉村社會襲擾也日重一日，使農民窮於招架，但是，畢竟中國農村的社會組織已經經過了幾千年的演變，具有很強的自組織和自我保護能力。雖然這種能力在現代化過程中遭到了破壞，有價值的社會精英大量流失，但在幾千年中形成的東西是不大容易在幾十年內全然瓦解的。在華北，當一個個單獨的村社應付危機的策略有些失靈的時候，他們開始形成了聯庄甚至數縣一體的農民自衛機制，以反抗軍閥和土匪無節制地對農村的掠奪和燒殺。
紅槍會名稱的來由，顯然是由於他們多數人使用帶有紅纓的長矛。其實紅槍會在各地有五花八門的名稱，「在山東有紅槍會、紅沙會、黃沙會、五煞會、黑槍會，在河南有黃槍會、綠槍會、白槍會、紅槍會，在陝西有硬肚、白槍會、紅槍會等名目」。紅槍會只是一個概稱。關於紅槍會的源頭，各家說法不一，有的說它來源於民間教門，有的說來源於民間武會，還有的說來源於鄉團，但多數人都指出紅槍會與義和團有直接的淵源，甚至說是義和團在新形式下的復活。誠然，紅槍會與義和團確有許多相似之處，比如都是藉助類巫術的神靈附體宣揚「刀槍不入」的神話，信仰的神靈也多為來自民間戲劇小說的天神地祗和英雄好漢，當年活躍在義和團拳壇上的豬八戒、孫悟空以及關張趙馬之類戲劇影像，同樣是紅槍會的成員頂禮膜拜的對象，甚至連打仗時衝鋒也與義和團類似，喝符念咒之後，袒露上身揮舞刀槍集團猛撲。
然而，紅槍會並不是義和團的再現。雖然義和團與紅槍會一樣，同是鄉土社會應付危機的非常之舉，但他們所要應付的危機是不一樣的，雖然參加紅槍會的農民同樣會感受到外國侵略的壓力，但他們對於西方的基督教卻遠沒有他們的前輩那樣反感和敵視，他們所要對付的敵人，主要是讓他們無法生存的軍閥和土匪，從某種意義上也可以說是來自官方的軍隊和政府的壓迫。紅槍會從來沒有像義和團那樣受到過官方的鼓勵和慫恿，但他們的組織力和武力都比義和團要強。也許，紅槍會和義和團最大的區別在於，義和團雖然也不排斥西方的先進武器，但由於存在著對現代化兵器根深蒂固的陌生感，因而他們根本不會使用，所以實戰只能靠「刀槍不入」的神話加上一點武功來應急。而對於紅槍會來說，軍閥的連年混戰已經消除了農民對西式快槍的陌生感，而且將現代化兵器撒滿鄉野，如果說，當年參加義和團的人中當過新式軍隊的士兵的還相當少的話，那麼紅槍會裡做過軍閥兵或者其他武裝人員的人則比比皆是。紅槍會不僅有快槍，甚至有的集團還有機槍和少量的大炮，在作戰時，他們對現代兵器的依賴也相當大。因此，紅槍會雖然打著神術的幌子，但骨子裡卻跟同時期的其他武裝集團沒有多少區別。當然，紅槍會之所以叫紅槍會，說明它的隊伍里冷兵器的比重還不小，紅槍會也的確比較注意訓練成員的抗打擊能力（即所謂的金鐘罩、鐵布衫功夫）和拳腳以及冷兵器技巧，這是因為農民的經濟力量有限，獲取現代兵器的能力較弱，因此不得不採取的一種補償措施。事實上，有些比較「窮」的軍閥部隊，比如直系的吳佩孚和馮玉祥，他們的隊伍里同樣重視中國功夫，同樣要借一部分冷兵器來濟現代兵器之窮。
第一支紅槍會誕生於何時現在已經不容易考證了，儘管學術界對此有過幾種說法，但均無法證實其「第一」的位置。但大家都承認紅槍會的興盛是在20世紀20～30年代，也就是說在華北兵匪肆虐的時期。也可以說，恰是由於兵匪橫行的暴虐，才使得紅槍會泛濫。特別是軍閥混戰的戰場所在，擾害特別嚴重，不僅亂派兵差，強征夫役，而且沿途燒殺奸掠，遂將分散的各種民間武裝激成了燎原之勢的紅槍會反抗。雖然相對來說紅槍會的對手比起義和團來要弱一些，但紅槍會的戰鬥力顯然要強得多，他們不僅可以對付一般的土匪和散兵游勇，而且可以擊潰或者消滅成連成排甚至成營成團的隊伍，甚至多次圍困城市。歷史上幾個有名的軍閥像張宗昌、吳佩孚、劉鎮華，以及國民二軍都曾為紅槍會所困擾。
紅槍會的戰鬥力來源於三個方面：其一，紅槍會組織是一種農民自衛的團體，具有比較強的社會正當性。儘管紅槍會有魚龍混雜的現象，有個別紅槍會的行為近乎於土匪，但絕大多數會伙基本上以跟軍閥和土匪相反的行為模式和道德規範呈現自己的面貌。他們的目的很明確，就是為了保衛自己的身家性命和生存的家園。他們的行動帶有農民的樸實性，富有鄉里道義，行動時自帶乾糧，即使攻進了城市，一般也不擄掠燒殺，河南滑縣紅槍會數千之眾，攻下商業重鎮道口之後，雖然「大街小巷全是紅槍會」，但一般的商民並沒有受到滋擾，撤離的時候只將縣政府給搶了，「拿走縣政府公款一萬五千元，奪去縣警察隊槍支百餘支」。「山東汶上、寧陽的紅槍會據城七月，所駐的地方都是廟宇、學校、公共機關，所吃的東西都是自己攜帶的大餅饅頭，絲毫不擾及人民。洛陽的紅槍會，當馮毓東為警備司令時，在城內清街查匪，在城外保護行旅，均是紅槍會負責，並且紅槍會所駐的地方格外安靜」。從表面上看，紅槍會的行為方式與義和團很相近，他們講求道德約束自己的行為更多的是出於對「法術」禁忌的擔憂，但是，由於實際上紅槍會的戰鬥力主要靠的不是冷兵器的搏殺和對迷信的依賴，所以他們約束自己，往往是因為要表現出與兵匪不一樣的舉止，只有這樣與兵匪反其道而行之，紅槍會才會得到人們的擁護，會眾也才因道義上的正當性而有凝聚力和戰鬥力。當然，由於紅槍會自身的特性，其道德也具有復舊的特徵，比如山東金鄉、嘉祥、魚台一帶的紅槍會在1929年就曾經向政府軍提出「重建廟宇神像、允許女子纏足和恢複紅頂花翎」等要求。應該說，這些要求都真實地反映了當時農民的呼聲，信仰上的迷信往往也連帶著政治上的復舊。
其二，紅槍會具有比較靈活的組織形式。紅槍會組織有點類似於義和團，各個村寨或者幾個村寨聯合組成團，各團之間沒有統屬關係，首領有的叫「學長」（紅槍會自己內部又稱「紅學」），有的叫老師，當然也有自封為「團長」的，大的團下面有的還設「營」的單位（這裡，我們可以看出軍閥的影響），幾乎所有紅槍會的戰鬥人員都平時務農，需要時再參戰，作戰時既可以單團行動，也可以聯合幾個乃至幾十個團一起行動，動輒人馬多至幾萬甚至十幾萬呼嘯而至。紅槍會是在「傳法」即所謂「紅學」的名目下，在華北傳播起來的，由於「學」的天然聯繫，使得跨縣的大規模行動得以很容易實現。紅槍會這種組織形式，使得他們行動起來基本上不需要專門的後勤供給，更便於動員組織，在失敗之後也容易恢複元氣。
其三，紅槍會的作戰方式比較靈活機動，而且比較實用。他們基本上在本鄉本土活動，天時地利人和全占，他們沒有正規軍隊的教條，可以採取任何非常規的形式來打擊對手，讓對手防不勝防，有時往往在紅槍會的聲勢和心理攻勢下，成建制的軍閥部隊居然會一槍不放就被繳械。由於有這些特點，紅槍會在與裝備和軍事素質明顯比自己強的軍閥部隊的角逐中經常會佔到上風。
紅槍會的出現，對於當時的鄉村權力系統產生了相當大的影響。紅槍會是一種半軍事組織，雖然它並沒有完全取代農村原有的行政機構和各種社會組織，但在其全盛時期的確獲取了鄉村社會最大的權力，一下子就躍上了權力的中心，在某種程度上，原有的土圍子中的土皇帝，或者變成紅槍會的會首，或者讓位於紅槍會的新秀（雖然可能是暫時的）。原有的村中權力機構或者成為紅槍會的附庸，或者名存實亡。雖然紅槍會在形式上屬於傳統鄉村文化體系中的旁門左道，或者說是傳統文化的邊緣性的東西，不過由於這種形式已經在義和團運動中得到了士大夫的一定程度的認可，作為應付危機的非常措施和手段，所以當它再一次被推出作為一種不得已的自衛手段時，至少對於飽受兵燹與匪禍之苦的華北農民來說，是得到了普遍的回應的，即使是鄉村的精英們也有的對此抱有好感，某些正在失勢的傳統鄉紳甚至將此作為挽回權力的非常途徑，原來這類旁門左道在農民群眾中的邊緣感基本上不存在了。
紅槍會的組織十分雜蕪，有像前面提到過的，模仿軍隊體