周宣帝暴崩，楊堅憑藉國丈的身分，在劉昉、鄭譯的推戴下矯詔輔政，準備改朝換代。這麼一來，北周的元老大臣可不從了。
本來，魏晉南北朝時期改朝換代多不勝數，他們未必特別忠於北周；問題是，就算北周氣數已盡，要改朝換代，也輪不到楊堅。楊堅手裡既沒有武裝，又沒有地盤，就憑國丈的身分，就憑皇帝死時他恰好在京師，就憑几個小臣矯詔推戴，就想改朝換代？這也太便宜他了。所以在楊堅升任大丞相後，馬上，三個既有實力、又有資歷的老臣發難了。
這三個老臣是何許人？他們是北周的三位總管，大軍區司令。第一個，相州總管尉遲迥，治所在現今河北臨漳；第二個，鄖州總管司馬消難，治所在現今湖北安陸；第三個，益州總管王謙，治所在現今四川的成都。
這三個總管為什麼格外和楊堅過不去呢？因為他們的身分都比較特殊。
先看尉遲迥，當時七十多歲，是楊堅父執輩的人物。他有兩重身分非常重要，第一個身分，他是北周實際開創者宇文泰的外甥，而且，他從小喪父，由舅舅撫養長大；第二個身分，他還是周宣帝的爺爺丈人。爺爺丈人是怎麼回事呢？周宣帝宇文贇立了五名皇后，其中的尉遲皇后，曾是周宣帝侄媳婦，後來被周宣帝看中，強行霸佔，當了皇后，她就是尉遲迥的孫女，這樣一來，尉遲迥成了周宣帝的爺爺丈人。又是外甥，又是爺爺丈人，綜合看來，尉遲迥與北周的關係比楊堅親，怎麼能眼看著楊堅成了北周的當家人。
第二個，鄖州總管司馬消難，此人也大有來頭。他是北周當朝皇帝周靜帝的老丈人。周靜帝七歲時，娶了司馬消難的女兒司馬皇后。要是楊堅篡奪北周天下，司馬消難的女兒如何是好？再說，按照司馬消難的意思，就算篡權，也得我這個當朝國丈篡，哪輪得上你這個前朝國丈？
第三個，益州總管王謙，王謙倒不是哪位皇帝的老丈人。問題是，他對北周的感情深厚。父親是西魏十二大將軍之一，也是北周著名烈士，他就是因為烈士子弟身分才當上益州總管。因此，王謙對北周格外忠誠，總覺得自己世受國恩，無論如何都要盡忠報國，怎麼能夠容忍楊堅謀權篡位！
這三位總管有實權，又都不滿意楊堅謀權篡位，於是起兵清君側，捨得一身剮，誓把楊堅拉下馬。其中，最先起兵的是相州總管尉遲迥。