怎麼辦呢？只好趕緊平叛。隋文帝第一時間便派出大將楊素。
為什麼派楊素？原因有二。
第一、楊素參加過平陳戰爭，對江南比較熟悉，比較有經驗。
第二、楊素治軍嚴格，作風冷酷，戰無不勝。
為何說治軍嚴格、作風冷酷？根據史書記載：楊素每次作戰前都故意找碴，手下士兵犯點小過錯，他就軍法處置。每次殺人，少則十幾人，多則上百人，流血滿地，而楊素卻言笑自若。這就是立威，告訴士兵，誰要是不聽命令就是自討苦吃。
這還不算，每次兩軍對陣，楊素都先派一、兩百人前去迎敵。若取勝就罷了，如果打了敗仗回來，無論回來多少，全部斬首。然後派兩、三百人再去，不勝則照殺不誤。這樣一來，部下知道，不能取勝，回來也是死，所以拚命廝殺，這豈不戰無不勝？
可能有人會說，楊素這麼殘酷，手下難道不造反嗎？絕對不造反。因為楊素賞罰分明。在他手下當兵，只要有戰功，他一定讓你得到朝廷的封賞。絕對不會埋沒任何人的成績。當他手下，進步快，所以將士都願意跟著他。
既然楊素如此英猛，隋文帝當然第一個就想到他，希望他能像平陳戰爭那樣，打出威風，儘快結束戰鬥。
我們分析一下，是開皇九年的平陳戰爭難，還是這次平叛戰爭難？雖然平陳戰爭規模大，但是，若論戰爭的複雜程度，是這次平叛難。因為平陳戰爭是政府軍和政府軍之間較量，只要打敗敵人主力、攻破敵方首都便大功告成。但是這次平叛不一樣，撲滅這支隊伍，還有那支隊伍，佔領這座城池，還有那個山洞。這是陷入人民戰爭的汪洋大海之中，能不難嗎？
果然，楊素到了江南後，馬上意識到困難。而且，愈往江南的腹地打，就愈困難。為什麼？每座山、每個洞都可能有武裝分子。純粹打游擊，各個擊破。太艱苦了。
舉個例子。我們經常聽說或在電影里看到瓶中信的故事。現在的瓶中信一般記載男女主角的愛情宣言。隋朝有人用過漂流瓶，他就是著名的一級戰鬥英雄——敦煌戍卒史萬歲。
當時，史萬歲跟著楊素一起平叛。楊素主攻一個名為高智慧的大叛亂分子，讓史萬歲帶兩千士兵剿滅小股部隊。史萬歲就從浙江東陽沿小道往婺州，即自現今浙江金華出發，然後再從婺州向東打，一路翻山越嶺，轉戰一千多里，中間大大小小戰鬥打了七百多次。
古代通信落後，他們又一直在山裡轉，有一百多天音信全無，所有人都以為他們全軍覆沒。結果有一天，有人在下游打水，忽然看到從上游漂來一個竹筒，撿起來一看，裡面有封信，信里寫著史萬歲這一百多天艱苦轉戰的經歷。打水人把這封信交給楊素，楊素一看，真是催人淚下，馬上上報隋文帝。文帝一看，也覺得大不易，趕緊給史萬歲家賞錢十萬。這樣打仗，可謂艱苦卓絕！
打了一陣子後，隋文帝開始反思，這樣單純的軍事路線可行嗎？反思的結果是隋文帝改變戰略，他覺得，江南的問題並非單純的軍事問題，還包括複雜的社會問題。