面對亂局，隋文帝只好趕緊組織平叛，他第一時間派出了楊素。
為什麼派楊素？兩個原因。
第一，楊素參加過平陳戰爭，對江南熟悉，比較有經驗。
第二，楊素治軍嚴格，作風冷酷，戰無不勝。
根據史書記載：楊素每次作戰前都故意找碴兒，只要手下士兵犯點小過錯，他就軍法處置。每次殺人，少則十幾人，多則上百人，流血滿地，而楊素卻言笑自若。這就叫立威。告訴士兵，誰要是不聽命令，就是自討苦吃。
這還不算，每次兩軍對陣時，楊素都先讓一二百人前去迎敵，若取勝自然重賞，如果打了敗仗回來，無論回來多少，全部斬首。然後讓二三百人再去，不勝照殺不誤。這樣一來，部下就知道了，只要不能取勝，回來也是死，所以只能拚命廝殺，這樣就可以戰無不勝了。
可能有人要說，楊素這樣殘酷，手下難道不造反嗎？並不造反。因為楊素有一個優點，賞罰分明。在他手下當兵，只要有戰功，他一定有辦法給你討得朝廷的封賞，絕對不會埋沒任何人的成績。在他手下干，進步快，所以將士都願意追隨他，他的軍隊也素稱驍勇。
既然楊素如此英雄，隋文帝當然第一個就想到了他，希望他還能像平陳戰爭那樣，打出威風來，儘快結束戰鬥。
那麼，是開皇九年（589）的平陳戰爭更難，還是這次的平叛戰爭更難？
雖然平陳戰爭規模大，但是，論起戰爭的複雜程度，還是這次平叛難。因為平陳戰爭是政府軍和政府軍之間的較量，只要打敗敵人主力，攻破敵方首都就大功告成。但是這次平叛可不一樣，撲滅這支隊伍，還有那支隊伍，佔領這座城池，還有那個山洞。這是陷入人民戰爭的汪洋大海之中了，能不難嗎？
果然，楊素到江南之後，馬上就意識到困難了。而且，越往江南的腹地打，就越困難。因為每座山、每個洞都可能有武裝分子。純粹是打游擊，必須各個擊破。個中甘苦，真是不足為外人道。
舉個例子。很多人在電影里看到過漂流瓶的故事。現在的漂流瓶一般都記載男女主人公的愛情故事，自帶浪漫情調。但是，很少有人知道，隋朝也有人用過漂流瓶。誰呢？著名的一級戰鬥英雄，敦煌戍卒史萬歲。
當時，史萬歲跟著楊素一起來平叛。楊素自己主攻一個名叫高智慧的叛亂分子，讓史萬歲帶兩千士兵去剿滅那些小股部隊。史萬歲就從浙江的東陽沿小道向婺州（今浙江金華）進發，然後再從婺州向東打，一路翻山越嶺，轉戰一千多里，中間大大小小的戰鬥打了七百多次。
古代通信落後，他們又是一直在山裡轉，有一百多天音信全無，所有人都以為他們全軍覆沒了。結果有一天，有人在下游打水，忽然看到從上游漂下來一個竹筒，不像是自然形成的。這人撿起來一看，裡面還有一封信，信里就寫著史萬歲這一百多天艱苦轉戰的經歷，什麼狼蟲虎豹、斷糧斷水、敵軍圍困之類的倒霉事幾乎全經歷過了。
打水的人把這封信交給楊素，楊素一看，真是催人淚下，馬上派人去接應史萬歲，同時上報隋文帝。
隋文帝也覺得太不容易了，趕緊給史萬歲家賞錢十萬。這樣的漂流瓶故事，可一點兒浪漫氣息都沒有，相反，它充滿了艱辛和絕望，也引起了最高統帥的深深思考：單純的軍事路線真的能解決問題嗎？
反思的結果是隋文帝改變戰略了，他覺得，江南的問題不是單純的軍事問題，還包括複雜的社會問題。
既然如此，隋文帝就要兩手抓了。他增派了晉王楊廣。不過，楊廣此行的主要目的可不是打仗，而是為了懷柔。