成年後的楊堅，跟隨父親加入到征戰的行列中。此時高歡和宇文泰早已不在人世，他們的兒子高洋和宇文覺也已經先後廢掉了東魏和西魏的皇帝，建立了北齊、北周兩個國家，但相互之間的戰爭依然在繼續。特殊的成長經歷，使楊堅很快在戰爭中嶄露頭角，他先後被北周皇帝授予車騎大將軍、驃騎大將軍，展現出超強的軍事才能和非凡的王者之氣。楊堅出眾的才華，得到了勢力更大的獨孤家族的賞識，這促成了一次重要的政治聯姻。父親楊忠為他迎娶了獨孤家族的第七個女兒。
楊堅的岳父獨孤信，出身鮮卑望族，是西魏的開國元勳，位居府兵制頂端八大柱國之一。
獨孤信
獨孤信家族是鮮卑貴族，他的祖先就是鮮卑的部落大人，家族地位從一開始就比較高。他當然也是出生在武川鎮的，後來跟著宇文泰到了關西。他的長女嫁給了宇文毓，後來成為北周的明敬皇后；他的第四個女兒嫁給了李虎的兒子李昞，這個李昞就是後來建立了唐王朝的唐高祖李淵的父親，換句話說，獨孤信的第四個女兒就是李淵的母親；他的第七個女兒就嫁給了楊堅，後來成了隋朝的文獻皇后，就這樣，獨孤家族一門就出了三個皇后。
無論是在北周，還是在之前的西魏，鮮卑貴族與漢族貴族的聯姻都非常普遍，這得益於宇文泰的治國之策。割據關隴一隅的宇文泰，兵力財力不及東魏的高歡，文化上不如江南蕭氏，因此必須推行一個全新的政策，那就是在精神文化層面將不同民族融合在一起。這是宇文泰在府兵制之外的又一次改革。宇文泰用儒家經典《周禮》來改造中央官制，使漢族豪強與士人歸心；同時，給一些漢族軍將賜予鮮卑姓氏，以達成雜糅胡漢的目的。楊堅家族就被賜姓為“普六茹氏”。這樣，一個胡漢勢力相結合的政治同盟——關隴集團登上了歷史舞臺。
所謂關隴集團，關是關中，隴是隴右，它是指當時一個地區性的豪強集團。這個集團在宇文泰率軍來到關中並且把關中地區的軍事形勢暫時穩定下來以後，就成為宇文泰首先需要利用和依靠的一個重要的政治集團，集團成員都是府兵集團當中的高級將領、中級將領。所以整個關隴集團也就是宇文泰的統治核心集團。關隴集團的意志就直接表現為北周王朝的統治意志。
關隴集團的出現是北朝民族融合的最後一環，在魏晉南北朝近四百年的歷程中，民族政策的好壞與民族融合程度的高低，始終考驗著政治家的智慧，是王朝興衰的重要槓桿。與宇文泰實行的民族融合政策不同，東魏高歡有著非常強烈的鮮卑化傾向。強大的鮮卑軍隊是高歡集團賴以生存的根基，無論是東魏，還是之後的北齊，都在通過許多措施來確保他們的利益。高歡經常使用鮮卑語號令三軍，鮮卑官員也普遍輕視中原士族，在朝堂議事時甚至以“狗漢”呼之，在民間，鮮卑人欺凌漢人同樣成為普遍的社會現象。這不僅激化了民族矛盾，也使北齊朝政迅速走向腐化。
隋朝建立——新興王朝的勇氣與智慧。577年年初，北周和北齊展開了最後的決戰，此時決定戰爭勝負的天平已經完全倒向了北周。一方面，經過府兵制改革，北周軍隊戰鬥力有所增強；但另一方面，更重要的原因還在北齊自身：腐敗混亂的朝政，激烈的民族衝突，使北齊的實力不可逆轉地消解著，北周軍隊的攻擊，不過是壓垮駱駝的最後一根稻草。
北周很快滅掉了北齊，統一了中國北方，實現了從天下三分到南北的隔江對峙，在統一天下的道路上邁出了關鍵性一步。這一年，楊堅三十六歲，因為戰功卓著被晉升為上柱國。更為重要的是，楊堅再一次得益於政治聯姻。此前他十三歲的大女兒楊麗華被周武帝選為太子妃，北周統一北方後的第二年，武帝病逝，宣帝即位，楊麗華成為皇后。楊堅也隨之被晉升為大司馬，距離最高權力寶座越來越近。從唐代大畫家閻立本所作的《歷代帝王圖》中，不難感受到楊堅深沉嚴毅的王者氣質。然而，也正是過高的榮耀和霸氣外露的儀表，將楊堅推向了最危險的境地。
隨著楊堅政治地位和政治威望的提高，周宣帝對他越來越猜忌，所以他的處境其實是相當危險的。周宣帝曾經對楊麗華，也就是楊堅的女兒說，早晚有一天我會族滅你們楊家。有一次，周宣帝召楊堅入宮，他事先告訴身邊的左右侍從，一旦發現楊堅神情有變，就立即殺了他。楊堅入宮之後，表現得泰然自若，面對周宣帝的百般責辱，他裝聾作啞，最終躲過一劫。
為了化解周宣帝對他的猜疑與忌憚，楊堅請求外調為揚州（治今安徽壽縣）總管，暫時遠離政治中心。此前楊堅就曾先後擔任過隋州刺史、定州總管和亳州總管，深知北周存在流民問題、官制腐敗問題以及州、郡、縣多重管理的混亂問題，這些問題同樣會毀掉這個國家。這讓楊堅對最高權力充滿了渴望，他想改變這一切，但目前他需要在隱忍中等待。大象二年（580年）五月，已在上一年退位的周宣帝暴病身亡，撇下了年僅八歲的靜帝，北周的王氣黯然而收。作為靜帝的外祖父，已晉爵為隋王的楊堅距最高權力寶座只有一步之遙了。
此時的楊堅，完全不必再收斂他的王者霸氣，為了防止北周宗室勢力發動兵變，他先後將五位親王召回長安處死，這使那些手握重兵的地方實力派深感不安。
當年六月，宇文泰的外甥——坐鎮山東的大將尉遲迥在相州誓師，聲討楊堅。鄖州總管司馬消難、益州總管王謙很快起兵響應。一時之間，三方並亂，“半天之下，洶洶鼎沸”。
楊堅無法容忍統一的北方重新分裂，他派遣名將韋孝寬首先全力進攻最具威脅的尉遲迥，很快攻破鄴城，尉遲迥自殺身亡。八月底，楊堅大軍壓境，鄖州總管司馬消難逃到陳朝。到了十月底，益州總管王謙被殺，傳首京師。這樣，僅僅用了四個月，三總管之亂就被徹底平定。
在平定尉遲迥等三個總管的叛亂之後兩個月，楊堅下令，把宇文泰改為鮮卑姓氏的漢族將領的姓氏還原為漢姓。比如說，楊堅原來叫普六茹氏，現在就還原為楊姓，這表明了楊堅要向大家宣告，他是漢族正統的代表，同時也表明了他要跟原來的鮮卑傳統劃清界限。
開皇元年（581年）二月，楊堅廢掉了北周最後一個鮮卑皇帝靜帝，從外孫手中取得皇位，建立了由漢人執政的大隋王朝。楊堅之所以極力標明自己漢文化的正統性，是因為只做一個擁有半壁江山的北方皇帝，顯然不是楊堅的志向。
楊堅
新的朝代，自然要改弦更張，採用新的政治制度。新王朝建立後，楊堅首先將北周仿照《周禮》設立的官爵制度廢除，恢復漢魏舊制，設立了以“三省六部制”為主體的中央官僚體系。事實上，在建國的第一天，楊堅就任命自己的心腹高熲、虞慶則、李德林分別掌管尚書、門下、內史三省，成為新王朝的宰相，而六部尚書中，漢人與胡人出身者各佔一半。顯然，這是一個以漢人為主體、胡漢融合的新政治格局，最直觀地體現了新的時代特色。
自隋朝建立伊始，楊堅已經劍指南朝。然而，隋朝雖然取代了北周，但全國的政治格局與多年前北魏時期並無兩樣。此時中國南方由陳朝割據，北方則受到突厥的牽制。要統一天下，楊堅必須首先解除來自北方遊牧民族的威脅。如何破解這個三百多年來都未破解的困局呢？這考驗著楊堅和新興王朝的勇氣和智慧。
突厥，是北朝末年崛起於塞北草原的遊牧民族，有數十萬精銳騎兵，北方草原的眾多部族都歸附其下。北齊、北周對峙時，雙方都爭相拉攏突厥，每年送給突厥大量絲綢等物資，試圖以此換取其幫助，突厥自然樂得坐山觀虎鬥。
突厥的佗缽可汗曾得意地說：我南邊的這兩個兒子這麼孝順，我還愁物資缺乏嗎？他說的這兩個兒子指的就是北周和北齊，可見他的驕橫之態。不過，隨著北周平定北齊統一北方之後，突厥就不可能再通過操縱中原內戰來獲取巨大的經濟利益了，特別是楊堅建立隋朝以後，對突厥採取了更強硬的政策，史書記載就是“待之甚薄”，這樣一來，突厥就對隋朝十分怨恨，不斷地派兵南下侵擾。
不過，強大的突厥也有著無法克服的弱點，那就是內部矛盾重重，與沙缽略可汗同時並立的，還有達頭、突利、阿波等幾位可汗，形成割據態勢。對此，開皇元年（581年）十二月，曾經出使突厥、熟知其內幕的長孫晟給楊堅上書，建議採取遠交近攻、離強和弱的策略，分化瓦解突厥各部。事實證明，這個策略收到了奇效。開皇三年（583年）夏，隋文帝任命衛王楊爽為行軍元帥，分兵八道出擊突厥，大敗沙缽略可汗。突厥戰敗，內部矛盾進一步加劇，最終分裂為東、西兩部。由於東、西突厥相互對峙，分別向隋朝示好，北朝末期的戰略態勢至此完全顛倒過來。開皇四年（584年），東突厥的沙缽略可汗終於臣服於隋朝。據說，當曾經不可一世的沙缽略可汗在長孫晟的威逼利誘下，跪受楊堅詔書之後，感到羞愧難當，與大臣們抱頭痛哭了許久，不僅是因為顏面盡失，更讓他們傷感的或許是突厥強盛時代的逝去。三百年無法解開的困局，在隋文帝楊堅手中，僅用了三年的時間就破解掉了。
伐陳之戰——走向統一。解決了北方的後顧之憂，楊堅終於可以將他的目光投向隔江而治的陳朝。
伐陳之戰
據《隋書》記載，自隋朝建立之後，楊堅多次與文武群臣討論平陳之策，對此他表現得尤為審慎。二百年前，前秦苻堅揮師百萬，大軍南征，結果一戰即潰，致使中原地區再次陷入各族政權的戰亂之中。楊堅不想重蹈覆轍，他採納了當朝宰相高熲較為穩妥的建議。
高熲建議，在江南收穫季節，在江北開始集結一部分隋軍，擺出一副進攻的態勢，虛張聲勢，誘使陳朝屯兵防禦，這樣可以耽誤江南的農時。等陳軍開始集結之後，隋軍立即解甲收兵。這個建議主要有兩個目的：一是破壞江南的經濟；二是麻痺陳朝，為以後的進攻增加突然性。
但這個建議有一個致命的弱點，它無法有效分解陳朝的主力軍隊。開皇六年（586年），虢州刺史崔仲方提出了一個更為具體的戰略計劃：在武昌以西的長江上游大造戰船，“多張形勢”，吸引陳朝的注意力；將武昌以東的長江下游作為隋軍的主攻方向，密謀渡江之計。如果陳軍以精兵增援上游，則武昌以東的隋軍即可乘虛橫渡長江，直取建康；如果下游的陳軍按兵不動，則上游的隋軍可順流直下，配合下游隋軍攻取建康。楊堅對這個計劃大為讚賞，完全予以採納。開皇七年（587年），楊堅對長江北岸的隋軍進行了細緻的部署，並命令大將楊素在白帝（今重慶奉節）建造戰船，又令人將伐樹造船的餘材投入長江，順江而下，給陳朝施加心理壓力，誘使陳朝調兵西上，從而轉移對下游隋軍備戰的注意。
