不過，雖然隋朝並沒有急著打陳朝，但這幾年來，隋文帝也沒閑著，一直做著戰爭的準備。主要有三方面的準備內容。
首先是麻痹敵人。隋文帝一上台，就趕緊派出使臣，主動去陳朝示好。而且，每次派出使臣，還要特意囑咐他們，要有涵養，「勿以言辭相折」。也就是說，不要佔嘴頭上的便宜。
隋文帝自己做出表率了。使者通好，要帶上皇帝的信，隋文帝給陳叔寶寫信，署名是「楊堅頓首」。頓首就是磕頭的意思，是古代一種非常客氣的說法。
要知道，從領土來說，隋朝比陳朝大，從軍事力量來說，隋朝也比陳朝強。一個這麼強大的對手，居然對自己如此客氣，如果是個精明的皇帝，早就提高警惕了。另外，按照一般做人的道理，人敬我一尺，我敬人一丈，如果是個厚道的皇帝，也會禮尚往來。可是，陳後主既不精明，也不厚道，他馬上就被麻痹住了，還以為隋文帝真怕他，既沒有提高警惕，也沒有做到基本的禮貌，反倒妄自尊大起來，回信相當無禮。
他說：「想彼統內如宜，此宇宙清泰。」我統轄的宇宙非常清靜太平，你那塊地盤也還不錯吧？這樣自不量力，難道不會激怒對方嗎？隋文帝拿著這封信遍示群臣，讓大臣們都記住這個恥辱，但是照樣客客氣氣地回信、派使節。這就叫卑辭厚禮。光卑辭厚禮還不算，隋文帝還發布通令，再也不招降納叛了。
本來，南北朝對立，彼此互挖牆腳的事司空見慣。但是，隋文帝說了，現在隋陳睦鄰友好，所以，陳朝的文臣也好，武將也好，再要投誠隋朝，一律不接受。有了卑辭厚禮和拒絕投誠這兩種表態，隋文帝的和平誠意似乎相當明顯。陳後主本來就無心國事，現在更加放心了，再也不做什麼戰爭準備，開始安心花天酒地。這樣一來，隋文帝的目的也就達到了。
其次是消耗對手。在這個問題上，宰相高熲出了一個好主意。他說：「江北地寒，田收差晚，江南土熱，水田早熟。量彼收積之際，微徵士馬，聲言掩襲。彼必屯兵御守，足得廢其農時。彼既聚兵，我便解甲，再三若此，賊以為常。後更集兵，彼必不信，猶豫之頃，我乃濟師，登陸而戰，兵氣益倍。又江南土薄，舍多竹茅，所有儲積，皆非地窖。密遣行人，因風縱火，待彼修立，復更燒之。不出數年，自可財力俱盡。」
什麼意思？這條計策其實包含兩方面的內容。
第一，消耗對方的財力。具體來說，就是到江南的莊稼即將收割的時候，就徵調士兵，做出一副要打仗的樣子。陳朝那邊肯定要堅壁清野，準備迎戰，這樣一來，莊稼就沒法收割，只能糟蹋在田裡。
另外，當時江北地區主要是土坯房，而江南則主要是竹樓、木樓。竹木結構的房子容易著火，所以要多派一些間諜到江南去，趁人不備就放火，一燒就是一片。而且要經常去，修好了再去燒。
這樣慢慢消耗陳朝的財力。他們沒錢了，這仗也就不好打了。
第二，消磨對方的精力。怎麼消磨？和消耗財力放在一起進行。前面講過，每到江南快要收割莊稼的時候，隋朝就假裝集結兵力，等到江南那邊也把軍隊都調動起來，隋朝這邊就解散，讓對方白忙活一場。
這樣反覆幾次之後，南方的陳朝就會覺得，北方就是在虛張聲勢，玩狼來了的遊戲，當然也就放鬆警惕了，等以後真的狼來了，他們肯定措手不及。
隋文帝一聽，妙計啊，趕緊依計而行，果然，陳朝的軍隊和百姓都被搞得疲敝不堪。
再次，調兵遣將。高熲不是有謀略嗎？開皇初年，隋文帝剛一上台，就問高熲，誰可以經略江淮地區。高熲馬上給隋文帝推薦了兩個人。一個叫賀若弼，另一個叫韓擒虎。
賀若弼出身武將世家，而且博覽群書，是個文武雙全的人物。他的父親賀若敦是北周著名戰將，臨死前對賀若弼說：「吾必欲平江南，然此心不果，汝當成吾志。」我立志要平定江南，但是此生做不到了，你一定要繼承我的志向啊。賀若弼把老爸的話牢記心頭，念念不忘要平定江南。
開皇元年（581），隋文帝任命賀若弼為吳州總管，鎮守廣陵（今揚州西北）。得遂夙願，賀若弼相當激動，他給壽州總管，同時也是自己的好朋友源雄賦詩一首，題為《遺源雄詩》：「交河驃騎幕，合浦伏波營。勿使麒麟上，無我二人名」。表示要向漢朝的名將霍去病和馬援學習，建功立業。
再看韓擒虎。此人原名韓擒豹，一聽就是個威猛之人。事實上，在民間傳說里，擒虎、擒豹都還算不了什麼，韓擒虎乾脆就是主管人間生死的閻羅王。不過，此人雖然威猛，但跟賀若弼一樣，也喜歡讀書。同樣是在開皇元年（581），隋文帝派他當廬州（今安徽合肥）總管，經略江南。
隋文帝為什麼任用這樣兩個人？很明顯，這兩個人不僅有勇，而且有謀，不是一味蠻幹的將領。隋文帝已經決定先打突厥，再打陳朝，為此還卑辭厚禮，迷惑陳叔寶，在這種情況下，派兩個有智謀的將領坐鎮前方，既能紮實推進工作，又能領會皇帝的意圖，不會孟浪作戰，打亂國家的整體安排。這就是隋文帝和高熲的獨到眼光。
就這樣，在對抗突厥的同時，隋朝已經悄悄地進行平陳戰爭的準備了。開皇四年（584），隋朝基本解除了突厥的威脅，馬上，平陳就被提上了議事日程。