隋文帝剛上台，就進行三項重大的制度建設。與此同時，他起用新人擔任輔政大臣，幫助他治理國家。經過一番制度和人事的變革，隋朝的中央集權顯著加強，整個國家也欣欣向榮。
可是，隋文帝覺得還不夠，他還要建一個有形的東西，讓人一看上去，就能感覺到君主至高無上的權威，也感受到新王朝的宏大氣魄！這個有形的、天下人都能看到的東西是什麼呢？
武則天為了凸顯女皇的權威，修建一座明堂，而隋文帝氣魄更大，他要建一座都城！
既然要建新都，那麼，原來的都城在哪裡？隋朝篡了北周天下，同時也繼承北周的都城，這個都城就是西漢時期建立的長安城。地處渭水南岸的龍首原上，西漢後，王莽的新朝、東漢末年、西晉後期、前趙、前秦、後秦、西魏、北周都把這裡做為都城，累積算下來，已經有將近八百年的歷史。這麼一座歷史悠久的古城，隋文帝為什麼不滿意呢？有三個原因。
第一、長安城有鬼怪。是什麼鬼怪史書沒有明確記載，反正就是神出鬼沒。說到鬼怪，現今的無神論者可能覺得這是無稽之談，但是，隋文帝接受的並非無神論教育，他是在尼姑寺長大的，是個有神論者，他怕鬼。
他最怕什麼鬼呢？政治鬥爭的屈死鬼。隋文帝在建國之初對北周宗室大開殺戒，當初是希望能減少威脅，睡覺踏實，但是，現在這座城市鬼氣森森，他又害怕了，是不是這些人變成厲鬼來報復？反倒愈來愈睡不踏實了。既然這座城市裡故事太多，那還不如建座沒什麼故事的新城。
第二、長安城的水有問題。什麼問題？最重要的問題是地下水污染嚴重。水污染不僅是現在存在的問題，古代同樣存在。長安城建都將近八百年，無數人在此生息繁衍，淺層地下水早已污染，按照當時的說法就是「水皆鹼鹵，不甚宜人」。
另外一個問題是離河太近，容易鬧水災。長安城北面即渭水。隋朝時，渭水的位置遠比現在靠南，就在長安城邊上流過，渭河一發水，長安城就告急。根據《隋唐嘉話》記載，有一天，隋文帝做了個夢，夢見渭水把長安城淹了，一下子把他嚇醒。這是日有所思，夜有所夢。這樣的都城讓人沒有安全感，這是隋文帝想要遷都的第二個原因。
第三、也是最重要的原因，長安城的格局不規整，不足以體現皇家威嚴。漢朝的長安城不是規劃好再建的城市，而是從漢高祖到漢武帝，陸陸續續修成的，是自然成長起來的城市，這樣的城市必然不規整。一般的不規整也罷了，最要命的是，皇宮未央宮居然偏在城市西南角，豈能體現出天子堂堂正正、君臨天下的器局？
另外，因為城市是自然形成的，所以，宮殿和官衙、民居都交錯在一起，不僅不夠嚴整、氣派，即便治安也非常不好把握。
因為以上原因，隋文帝當上皇帝後，亟思遷都。