北洋政府和民國政府無能，戰事連綿，政局不穩，吏治腐敗，經濟蕭條，自然災害頻繁嚴重等諸多因素，加上官方剿匪組織在治理匪患的過程中逐漸匪化，不僅無法遏止或根治匪患，反而導致匪患更加嚴重，在這一背景下，民眾自衛武裝——民團和槍會開始再度興起。
民眾自衛武裝一方面在防範、抵禦土匪進攻、協助官府進剿土匪方面起了一定的積極作用；另一方面，隨著社會環境的惡化，這些民眾自衛武裝受到土匪和官府軍閥的雙重夾擊，為了自身的生存，也在相當程度上自覺不自覺地走向匪化。
由於民眾自衛武裝表面上的合法性和匪、民角色的互換性，使得他們很容易化身土匪。
這使得山東的土匪更加容易隱蔽和生存。
更嚴重的是，日本人對土匪的資助。
在七七事變之前，日本人就渴望像拿下東三省那樣，以極其微小的代價，拿下山東。
幾乎所有狂熱的日本商社，都資助過山東的土匪。
每逢日軍有重大的軍事行動，山東土匪都會作亂。
青島每年緝私攔截的大量軍火，幾乎都是日本人從東北弄來的兵工廠庫存，流向山東土匪的。
韓復榘主政山東初期，最大的政績就是剿匪。
五個師出動剿響馬，抓到的一個不留。
可是山東土匪跟日本人勾勾搭搭，利用外交照會頻繁抗議，情況就不是他可以應對的，搞的韓復榘剿匪的事情虎頭蛇尾。
韓復榘恨透了張宗昌，張宗昌主政期間，日本人伊達順之助在山東拜了張宗昌老娘做乾兒子，取了一個中文名字叫張宗援。
這傢伙表面是日本浪人，其實是日本貴族，在日本商業界有一些影響力。
不僅庇護張宗昌戰敗後逃亡日本人。
還接受了張宗昌殘部，一部分留在山東做土匪，一部分去東北充當偽滿軍。
七七事變後，關東軍主使偽滿軍入關，其中編成熱河支隊（由靖安軍第五教導隊合編而成）及石蘭部隊（第三教導隊）進入華北協作日軍作戰，另由第三混成旅長李壽山同張宗援，率領一部分偽滿軍，編成滿洲國派遣軍李支隊，潛入山東東部，配合日軍主力控制地方。
徐州會戰時候，張宗援脫離了偽滿編製，打出偽SD省自治軍的旗號，以增加欺騙性，並借用張宗昌的影響，招結匪人，擴大勢力，劉桂棠、張步雲等部偽軍，都曾依附在這個旗號下面。
而跟日本人張宗援勾勾搭搭的趙保原，劉黑七，張步雲幾部也最具有代表性，這幫土匪無惡不做，人人得而誅之。
目前山東一共有近二十萬的土匪。
聽周小山介紹，山東土匪有近二十萬。
會議室頓時就炸了！
「二十萬，兒豁哦，相當於出川的二十二集團軍和二十三集團軍總人數了，團長，有沒搞錯，山東可是出聖人的地方，人傑地靈，歷史上出過辛棄疾，出過李清照，如今二十萬王八蛋，都是漢奸，土匪？」
「國家都這樣了，人家水泊梁山的好漢都知道替天行道，這幫王八蛋有奶就是娘，瞎眼了，認賊作父也不能認到日本人頭上啊！」
「鴨兒哦，等老子獨立團把兵練出來，提起機關槍，通通把這些響馬突突了！」
周小山做事天馬行空，不拘一格，對部署沒有架子。
獨立團暢所欲言，氣氛很好。
聽見陳虎，羅家祥幾個傢伙的抱怨，知道山東土匪厲害的譚東來也忍不住笑起來。
「我提醒下各位，不要把獨立團目前的戰力當成了66軍的戰力看待，獨立團都是新兵，戰鬥意志薄弱，土匪劉黑七在沂蒙山家喻戶曉，他的狠辣足以讓小兒夜啼。我們需要練兵，需要用這二十萬土匪練兵，別怕他們不夠打，二十萬隻是分布在山東各地土生土長的，沒有算李壽山等從東北，熱河開過來的偽滿軍！」
獨立團會怕劉黑七。
在場幾個將領常設師團都打過來了，怎麼會服氣。
「張步雲，趙保原還在膠東，魯中的土匪，暫時我們先不提，獨立團面對的第一個對手，就是劉桂堂（劉黑七）！」
劉黑七在沂蒙山區大名鼎鼎，絕不是狠辣一個詞可以概述的。
匪中歌謠說：「要使錢，上劉團」，「跟著師長到處竄，給個縣長也不換」。
這些歌謠，反映的是他十幾年土匪生涯創下的赫赫凶名。
在沂蒙山，劉黑七的名氣，可比他們這個剛城裡的120師獨立團大多了。
1915年，劉黑七23歲，與當地痞子共8人結拜為匪。按年齡，他排第七，皮膚又黑，故稱劉黑七；他弟弟則稱劉黑八。他們在費縣各村打家劫舍、「請財神」（綁票），發展到60多人。
1916年，魯督張懷芝派兵剿匪，劉黑八被打死，劉黑七等逃往抱犢崮。抱犢崮在費縣、滕縣、嶧縣、LY四縣交界處，70餘峰，山深林密，夙為匪藪，時有數十股匪徒隱匿其間。
1922年，劉黑七股被兗州鎮守使何鋒鈺打垮，遂投靠最大匪首孫美瑤，並參加了1923年明的「臨城劫車案」。事後孫美瑤受招安被殺。
劉黑七與另一匪目張黑臉收容被遣散的匪眾千人，在蘇魯邊界為禍。不久，張黑臉南入江蘇，劉黑七留在魯南，到1925年已有千餘人馬，號「劉團」，自稱團長。
1925年——1928年間，劉黑七股匪在滕縣、LY、費縣、蒙陰等地搶擄姦殺，罪行擢髮難數。
劉匪還向各村派糧派款，如有抗拒或交不足數，即攻破村寨，燒殺搶劫，南孝義村1927年春節前後尚有300多人在外討飯，2月10日劉黑七以未納錢糧為由攻入該村，燒殺姦淫駭人聽聞。
有的男子被砍去四肢、大卸八塊，兒童也不能免。
一個10歲兒童被匪徒用七寸尖刀從左耳刺進，右耳貫出，釘在牆上。一個兩歲孩子被抓住雙腿扯成兩半，一歲的嬰兒被放在碾麥的石輥下碾成肉泥。一名婦女被20多個匪徒輪|奸而死。
一名少女因反抗匪徒凌|辱，匪徒施暴後又甩兇殘的手段殺害了她，還把她剖腹填入石頭。許多婦女不堪受辱跳入井中，匪徒競用輾輥子擲入。
此次匪禍中，該村被殺346人，41戶被殺絕。因全村燒光，倖存和歸來的人無以為生，凍餓而死73人，賣兒鬻女38人，婦女改嫁51人。全村原有735人，僅餘212人。
1928年3月29日，劉匪攻入大泗彥村，該村92戶人家被殺絕48戶，總人口637人被殺559人，外村來此避匪禍的被殺388人，共死亡947人。劫後餘生者僅78人（包括外出歸來15人），後由於饑饉、瘟疫，又死去近一半，到秋天，全村僅餘42人。