經過一番制度和人事的變革，隋朝的中央集權顯著加強，整個國家也欣欣向榮。可是，隋文帝覺得還不夠，他還要建一個有形的東西，讓人一看，就能感覺到君主至高無上的權威，也感受到這個新王朝的宏大氣魄！這個有形的，天下人都能看到的東西是什麼？是一座嶄新的都城。
既然說到要建新都，那麼，原來的都城在哪裡？隋朝篡了北周的天下，同時也就繼承了北周的都城。這個都城就是西漢時期建立的長安城。地處渭水南岸的龍首原上，西漢之後王莽的新朝、東漢末年、西晉後期、前趙、前秦、後秦、西魏、北周都把這裡作為都城，累積算下來，已經有將近八百年的歷史了。這麼一座歷史悠久的古城，隋文帝為什麼不滿意？史書記載了三方面的原因。
第一，長安城鬼怪縱橫。
說到鬼怪，今天的無神論者可能覺得這是無稽之談，但是，隋文帝接受的可不是無神論教育，他是在尼姑庵長大的，是個有神論者，他怕鬼。他最怕什麼鬼？政治鬥爭的屈死鬼。
隋文帝在建國之初對北周宗室大開殺戒，當初是希望能減少威脅，睡個踏實覺。但是，現在這個城市裡神出鬼沒，他又害怕了，是不是這些亡靈變成厲鬼來報復自己了？所謂疑心生暗鬼，隋文帝越想越睡不踏實了。既然這座城市裡故事太多，那還不如建一個沒什麼故事的新城。
第二，長安城水體污染嚴重，水災頻繁。
水污染不僅是現代社會存在的問題，在古代同樣存在。長安城建都將近八百年，無數人在這裡生息繁衍，淺層地下水早已受污染，按照當時的說法就是「水皆鹹鹵，不甚宜人」。
另一個問題是離河太近，容易鬧水災。
長安城的北面就是渭水。隋朝的時候，渭水的位置遠比現在靠南，就在長安城邊流過，渭河一發水，長安城就告急。根據《隋唐嘉話》的記載，有一天，隋文帝做了一個夢，夢見渭水把長安城給淹了，這才真是日有所思，夜有所夢。這樣的都城，不能給人安全感，這是隋文帝想要遷都的第二個原因。
第三，長安城格局不規整，不足以體現皇家威嚴。
漢朝的長安城不是規劃好了再建的城市，而是從漢高祖到漢武帝，陸陸續續修成的，是自然成長起來的城市。這樣的城市必然不規整。一般的不規整也罷了，最不理想的是，受漢代以前居室布局觀念的影響，皇宮未央宮偏在了城市的西南角，這哪能體現出天子堂堂正正、君臨天下的器局！
另外，因為城市是自然形成的，所以，宮殿和官衙、民居都交錯在一起，不僅不夠嚴整、氣派，就是治安也非常不好管理。
出於這些原因，隋文帝當上皇帝後，就很想遷都。
可是，遷都是一件大事，不能說遷就遷，要考慮各種因素。最重要的因素是，當時國家剛剛建立，財政也不富裕，而且北有突厥，南有江南的陳朝，還得準備軍事戰爭，再搞這樣大的工程建設，大臣也好，老百姓也好，能不能接受？
隋文帝不是一個任性的昏君，他是個對自己要求很嚴的皇帝，不希望落人褒貶。所以，儘管很想遷都，但還是非常猶豫。不過，猶豫到開皇二年（582）六月，終於有了實質性進展。開皇二年（582）六月，文帝把兩個最得力的大臣高熲和蘇威找來商量對策了。商量到半夜，還是沒有得出什麼結論，只好散會。
可是，第二天早晨上朝的時候，著名術士庾季才上了一個奏章。他說：「臣仰觀玄象，俯察圖記，龜兆允襲，必有遷都。」臣仰觀天文，俯察地理，發現天地都在暗示一件事：我們該遷都了。
看了他這個奏章，文帝什麼反應？按照《資治通鑒》的記載：「帝愕然，謂熲、威曰：『是何神也！』」這也太神奇了吧，怎麼我一想遷都，上天就來湊巧呢？
那麼，是不是真有這麼個神奇的天象？這倒不一定。當年，楊堅剛剛當上輔政大臣的時候，向庾季才打聽天意，庾季才說了一句最老實的話，他說，天象精微，我也說不好，但是，就算上天不支持，您難道還能退回去不成？那個時候，他承認天象不容易看懂，怎麼到了這次，他又一下子看懂了？所以，這所謂的天象，恐怕只是一個說辭。
問題是，既然天象不一定存在，庾季才怎麼就在這個時候恰如其分地拿出這麼一個奏章？很明顯，高熲和蘇威這兩個宰相給他暗示了。這兩個人知道皇帝想要遷都，但是又猶豫不決，所以跟庾季才打了招呼，讓他利用自己的專業知識，給皇帝打打氣。
然而，光有天象還不行，還要有人的支持。這時候，老臣李穆出面了。李穆是關隴貴族集團的代表人物。三方叛亂的時候，李穆支持楊堅，對於楊堅贏得戰爭起到了至關重要的作用。所以，楊堅當上皇帝之後，也投桃報李，給李穆安排了太師的榮譽頭銜，雖然沒有什麼實際權力，但是，這畢竟是國家最高官職，正一品，比宰相還高。
隋文帝不光讓李穆當一品大員，還把李穆全家都照顧到了。他們家擔任五品以上官職的有一百多人。
按照當時的規定，五品以上官員上朝的時候就可以拿著象牙做的笏板了，李家的笏板如果放在一起的話，能堆滿一屋子，這在中國古代可是難得的榮耀。皇帝這樣給面子，李穆也得處處發揮模範帶頭作用。現在，皇帝需要有人帶頭表態，李穆當仁不讓。
所以，庾季才上書之後沒兩天，李穆也上書了。他說：「帝王所居，隨時興廢，天道人事，理有存焉。始自三皇，暨夫兩漢，有一世而屢徙，無革命而不遷。曹、馬同洛水之陽，魏、周共長安之內，此之四代，蓋聞之矣。曹則三家鼎立，馬則四海尋分，有魏及周，甫得平定，事乃不暇，非曰師古。……伏惟陛下膺期誕聖，秉籙受圖，……變大亂之民，成太平之俗，百靈符命，兆庶謳歌。……至若帝室天居，未議經創，非所謂發明大造，光贊惟新。自漢已來，為喪亂之地，爰從近代，累葉所都。未嘗謀龜問筮，瞻星定鼎，何以副聖主之規，表大隋之德？」什麼意思呢？此番上奏，有三層意思。
第一，一個王朝對應一個都城，從三皇五帝直到兩漢，沒有改朝換代而不遷都的。那怎麼解釋曹魏和西晉都定都洛陽，西魏和北周都定都長安？李穆說，那是因為這些朝代都是亂世，還沒來得及遷都就滅亡了，不足為法。
第二，陛下是應天順人的一代明君，一登基就移風易俗，開創了嶄新的大好局面，所以，在都城方面也應該有所改變。
第三，現在的都城自漢代以來屢經戰火，已經殘破不堪，而且一開始建立的時候就未經規劃，怎麼能擔當起我們大隋首都的重任！
這三條道理講得頭頭是道，足以打動人心。楊堅一看，大喜過望，說：「天道聰明，已有徵應，太師民望，復抗此請，則可矣。」現在，天意、人心都已經表達清楚了，楊堅也就下定決心了，營建新都！