楊堅在十四歲時離開太學，進入仕途。沒過多久，他就迎來了一件人生大喜事。他父親的老上司獨孤信決定把女兒獨孤伽羅嫁給他。
獨孤信是西魏八柱國之一，地位比楊忠還高，楊堅有了這樣的岳父，背景更硬了。這時候，西魏已被北周取代，但是政權的基礎並沒有改變。楊堅自身素質良好，出身高貴，再加上強勢的老丈人，在新王朝的仕途本應一帆風順。遺憾的是，楊堅剛剛踏入仕途，就遇上一個棘手的問題，北周當時有兩個當家人，一個是周朝的皇帝，另一個則是權臣宇文護，他不知道追隨誰好。
會出現這種情況，得從宇文泰說起。宇文泰是西魏權臣，從五三五年起執掌西魏朝政，為西魏的生存和發展建立莫大功業。但是，五五六年，宇文泰去世。西魏的江山是宇文泰開創的，當然希望兒子能接掌大權，問題是，他的兒子年紀都還小，宇文泰怕那些老將軍、自己那些老哥們不買帳。怎麼辦呢？左思右想，宇文泰只好把兒子託付給侄子。
他的侄子名叫宇文護，當時四十四歲，正值年富力強，頗孚眾望。宇文泰希望他能輔佐自己的兒子接任西魏權臣。面對叔叔的重託，宇文護慨然允諾。但是，怎麼把叔叔交代的事情辦好呢？
宇文護是講究謀略的人。他覺得，宇文泰要是皇帝便罷，老皇帝死了，小皇帝接班順理成章，可是權臣不一樣。權力再大畢竟只是大臣，如果也讓兒子接班當權臣，有點名不正言不順，別的大臣可能不服，就會引發政治上的混亂。
想來想去，他索性一不做、二不休，直接廢了西魏皇帝，輔佐宇文泰的嫡子宇文覺當皇帝，西魏因此變成北周。有皇帝的名分，誰再敢不服氣，就是造反，人人得而誅之。這樣看起來比較魯莽，但實際上倒是快刀斬亂麻，從根本解決了問題。
由此看，宇文護算是北周最大的開國功臣。既然是功臣，當然希望掌握權力；而皇帝也不會輕易放棄權力。這樣一來，宇文護和皇帝的爭權鬥爭於焉展開。
在這種背景下，楊堅接受他人生中第一個正式任命的官職——右小宮伯。右小宮伯掌管皇宮宿衛，在皇帝身邊工作，算是皇帝的近臣，因此升遷很快。
但是，這個官職的地位也非常尷尬，雖然職責是保衛皇帝，但是，在行政隸屬關係上，是天官大冢宰的下屬，而當時的天官大冢宰正是權臣宇文護。換句話說，這個職位正好夾在皇帝與權臣之間。
這個任命一下來，楊堅倒抽了一口冷氣。明知道皇帝和宇文護不和，這不是讓他左右為難嗎？那麼，這個任命是誰的意思？宇文護。宇文護為什麼這麼做？這是賣給楊家一個人情。楊忠身為十二大將軍之一，在老一輩中頗有實力，而楊堅又是少年新銳，宇文護想拉攏楊忠父子。怎麼拉攏？楊堅剛進入仕途，右小宮伯這個職位靠近權力中樞，升遷很快，是個美差，把這個職位給楊堅，楊家就會對自己感恩戴德，說不定以後還能培養成自己的眼線。
宇文護想拉攏楊堅，楊堅卻覺得很為難。宇文護大權在握，連皇帝都鬥不過他，跟著他似乎很有前途；但是，要投靠宇文護，楊堅也有顧慮。宇文護畢竟是大臣，以臣凌君，無論如何也算是悖逆。另外，不久前，宇文護為了專權，逼死老臣獨孤信，而獨孤信正是楊堅的岳父，國讎家恨交加，讓楊堅對宇文護也沒太多好感。
到底何去何從？在政治舞台上往往是屁股決定腦袋，楊堅拿不定主意。怎麼辦？父親楊忠在政壇歷練一輩子，問他吧！
面對兒子的疑惑，楊忠說了一句最貼近人情、也最明智的話，「兩姑之間難為婦，汝其勿往！」兩個婆婆之間最難做媳婦了，你還是哪邊也別靠吧！這句話說得楊堅頓開茅塞，那就裝傻吧！雖然接受任命，但是，對宇文護不冷不熱、不即不離。這樣的表現宇文護當然不滿意，從此就給楊堅小鞋穿了。
從五五七年到五六五年，楊堅在右小宮伯的職位上一待八年。當年，他剛當上右小宮伯時，才十七歲，誰都覺得前程遠大，現在，他已經二十五歲了，當年的同事都平步青雲，只有他還在原地踏步，心裡真是無限失意。楊堅是個胸懷大志的人，而且，童年時代尼姑智仙所說的「兒當大貴」的預言一直縈繞在他耳邊，什麼時候才能真的大貴起來呢？