魏晉南北朝近四百年的政治亂局，反映在地方行政上，就是秦漢以來逐步建立起來的州郡縣三級管理體系，最終混亂不堪難以維繫。
南北朝末期,南北兩邊地方政區規模合計大約是220州,999郡。和兩百年前的西晉相比,州膨脹了11倍,郡膨脹了10倍。州郡數目的激增，當然不是社會正常發展的結果，而是由戰事、政權林立以及軍閥割據等原因所導致。有些地方一個州只管轄一個郡，有些郡下面竟然並不轄縣，甚至還會出現兩個州同管一個郡的極端情況。傳統的三級制已經失去了行政管理的實際意義。
南北朝晚期形勢圖
隋代再次一統天下,數百年混亂不堪的地方行政制度已然不能適應新的統一政權。隋文帝在經過深思熟慮以後,對地方行政進行了大手筆的調整重組。開皇十三年(593年)下令“罷天下諸郡”,就是整體性取消州-郡-縣三級制中的郡一級,直接以州來統轄縣,實質上就是又回到了秦漢早期的郡(州)縣二級制。
大業三年(607年),隋煬帝繼續大舉並省州縣,同時又把“州”改回古稱“郡”,合併之後全國僅存190郡,1255縣,平均每郡統轄六七個縣。經過隋代的大規模調整，政區模式正式迴歸了秦代的郡縣二級制。
唐代貞觀元年(627年)，唐太宗繼續了隋代的政區調整工作,到貞觀十三年地方政區數目為358州（煬帝時期的郡在唐初名稱改回州）,1551縣。隋唐和秦漢相比,疆域比秦漢大,統治比秦漢深入,州郡的數量，無論如何壓縮也不可能再回到秦漢三十幾或者百餘郡的規模了。
隋代疆域圖
在具體的管理實踐中，二級制的弊端開始再次浮現。地方政區“州”的長官“州刺史”,一人管理六七個縣都顯得工作量比較大,更何況要中央政府特別是天子,直接管理天下三百多個州。
據記載唐太宗把三百多個州刺史的名字,都寫在屏風上，每天早晨都要把他們的名字看一遍,以便經常檢查他們的政績,以決定獎懲升降,當時就有大臣說,漢代得一個好的二千石(郡太守)已經不容易了,何況如今得去找三百多個州刺史,工作量實在太大。
這種情況下，地方管理機構設置不得不又重新回到漢代州郡縣三級制的軌道上來。或許儘管可能會導致各種弊端，但三級制還是疆域廣袤的大一統帝國最合適的政區模式。
貞觀年間，先是在三百餘郡之上設置了十個“道”。“道”起初並不是嚴格意義上的行政區劃,因為它沒有設官分職,中央只是不定時地派遣一些“巡視組”分道去監察各地的地方行政情況,這些“巡視組”在完成工作了以後就返回中央彙報,並不留居當地,也沒有固定的工作場所,其臨時性質十分明顯。這也顯示出中央對是否在州之上再設一級政區仍在猶豫。
唐玄宗開元年間，將“貞觀十道”再調整為“十五道”，每道設置正式的採訪處置使一職,有固定的治所,形成了正式的監察區，之後道開始轉變為正式的地方高層行政區。唐代的“道”這種行政區名稱，至今在東亞一些國家仍有保存，比如朝鮮的咸鏡北道、黃海南道,韓國的江原道、京畿道,日本的北海道等。
開元十五道
開元十五道的劃分也影響了此後宋代各路的劃分，往往被統稱作“唐宋道、路制”，如今一些省級政區的名稱也直接來自唐代各道的名稱。
開元十五道分佈：
京畿道，治所在京師長安城內，管轄長安周邊地區；
關內道，治所同在長安城內，管轄潼關以西、秦嶺以北,包括河套地區；
都畿道，治所在東都洛陽城內，管轄東都洛陽附近地區；
河南道，治所在汴州（今開封市），管轄黃河以南、淮河以北地區；
河東道，治所在蒲州（今陝西永濟縣），管轄黃河以東、太行山以西；
河北道，治所在魏州（今河北大名縣），管轄黃河以北、太行山以東；
隴右道，治所在鄯州（今青海樂都縣），管轄隴山以西、遠及今新疆地區；
山南東道，治所在梁州（今陝西漢中市），管轄秦嶺以南、長江以北地區；
山南西道，治所在襄州（今湖北襄陽市），管轄漢水流域的江漢地區；
劍南道，治所在益州（今四川成都市），管轄劍閣以南成都平原地區；
淮南道，治所在揚州（今江蘇揚州市），管轄江淮地區；
江南東道，治所在蘇州（今江蘇蘇州市），管轄今江蘇南部和閩浙兩省；
江南西道，治所在洪州（今江西南昌市），管轄今江西、湖南省大部及湖北省部分地區；
黔中道，治所在黔州（今四川彭水縣），管轄今貴州大部、川、湘、鄂、桂各一小部；
嶺南道，治所在廣州（今廣東廣州市），管轄南嶺以南地區及海南島。
唐初疆域圖
