根据龙沟发现的“武都森林古猿（Dryopithecus wuduensis）”化石研究报告证明，早在1000万年前，白龙江和北峪河流域已是古猿生活的重要地区。而且这里河谷纵横，雨量充沛，森林繁茂，因而还生息繁衍着三趾马、褐牛、大唇犀、始祖鹿、剑齿象、剑齿虎等动物。
根据文物普查和考证发现，白龙江及支流北峪河、沟坝河、福津河沿岸的黄土坪上，埋藏着极为丰富的古文化遗迹和遗物。有距今7000年的仰韶文化、距今5000年的马家窑文化、距今4000多年的齐家文化及商周时代武都白马氐族的寺洼文化等。
武都最迟在新石器时期中晚期就有华夏民族的足迹，他们先在北峪河流域，再繁衍到白龙江及其支流沟坝河、福津河沿岸，从而开创了武都灿烂的古文化。
夏、商时期，武都为《禹贡》雍州之地，属氐人居住地。
西周、春秋战国时，武都为梁州地，是羌、氐民族居住地。
先秦时武都已有道（县）级建置。
武都区钟楼公园秦朝时，武都属白马氐族人。秦始皇设武都道，隶属陇西郡。
汉武帝元鼎六年（前111年）汉灭南粤后，又发兵击西南夷。据《汉书·西南夷传》记载：“南粤破后，及汉诛且兰、邛君，并杀莋侯，冉駹皆震恐，请臣置吏，以邛都为粤巂郡，作都为沈黎郡，冉駹为文山郡，广汉西白马为武都郡。” 汉武帝年间初置郡时，武都郡下隶武都（西和县洛峪）、上禒（成县西部）、故道（宝鸡南部）、河池（徽县城西北）、平乐道（康县平洛）、沮（勉县西北）、嘉陵道（略阳县北部）、循成道（成县东南部）、下辨道（成县城西北）等九县，5.1376万户，23.5560万人。今武都区大部属武都郡和平乐道所辖。平帝元始二年（2年），全国又设十三刺史部，武都郡属益州刺史部。 王莽篡位后，新朝年间改武都郡为平乐郡（郡治移今康县平洛，一说移河池），武都县改为循虏县（县治仍在今西和洛峪）。汉光武帝建武元年（25年）复武都郡，郡治移下辨（今成县西部），下隶下辨、武都道、上稼，故道，河池、沮、羌道七县。建武七年（31年）武都郡治由下辨又移至嘉陵江支流青泥河谷地（今成县境内），今武都区境内大部属武都道和羌道。 东汉至三国，郡名未改，武都隶凉州刺史部武都郡辖。汉献帝建安二十四年（219年），刘备攻取了曹操军的汉中郡，阻断了武都与雍州的联系，于是曹操弃武都郡，迁治至扶风小槐里。
三国时，武都为蜀汉、曹魏割据区。魏文帝黄初元年（220年）武都郡属秦州统之。蜀汉建兴七年（229年）诸葛亮遣护军陈式取武都、阴平二郡。武都郡下隶下辨、武都、故道、河池、沮、羌道六县，郡治复置下辨。263年10月，魏将邓艾率兵南下。经武都，出阴平，用奇兵陷成都，导致了蜀汉政权的覆灭。原属蜀国辖地分梁，益二州，武都郡入梁州。
美丽乡村——裕河晋沿袭汉制，武都郡属秦州，下属下辨，河池、沮、武都、故道五县。郡治下辨。晋元帝建武元年（317年），仇池氏族首领杨难敌称雄割据，自号左贤王。玫族推为武都王，郡县俱废，称武都国。元帝永昌元年（322年）打败杨氏，遂派益州刺史镇守。明帝太宁三年（325年）杨难敌还据。简文帝咸安元年（371年），前秦苻坚攻克仇池国，为南秦州，置刺史，隶下辨、沮、武都、沮水四县。孝武帝太元二年（377年），杨难敌之五世孙仇池公杨定称据。安帝义熙四年（408年），杨氏称藩，仍为南秦州武都郡，领县如故。
南北朝时期，北魏太武帝太平真君四年（443年）杨文德在前仇池国镇东司马洪达、征西从事中郎任胜等拥立下，于葭芦（今武都外纳镇）建立武都国，至477年杨文度时为北魏所灭，传2代4主，历34年。 太武帝太平真君九年（448年），武都郡始从下辨移至石门（今石门乡境内）。魏孝文帝太和二十一年（487年），改武都郡为武都镇，镇所由石门东移仙陵山（今旧城山），拜依山筑土城，由城南钟楼滩城门登上仙陵山筑七十二级台阶，初建武都城（后阶州之名即由此而来）。镇下分设石门（今石门境内）、白水（今龙坝乡秦家河）、东坪（今角弓镇境内）、孔堤（今鱼龙镇内）四县。同时下隶武阶郡（今桔柑乡大岸庙）。领北部（今文县尖山附近）、南五部（今四川姚渡镇和枫相乡张泉院之间）、赤万（今黄坪乡草川）三县。 西魏文帝大统元年（535年），改武都镇为武州。大统十二年（546年），武州改属南秦州，领安育（石门县改）、东坪二县。同时下设白水、孔堤、万郡三郡。白水郡领洪化（今安化镇曾家街）、绥化（今龙坝秦家河）二县，孔堤郡领孔堤县，万郡领赤万、接难、五部三县。 北周将白水、万郡、孔堤三郡拜入武州，下隶武都郡，绥化改建威，洪化、孔堤并建威，安育改将利，赤万并复津，北部、南五部拜盘堤。
隋文帝开皇元年（581年），废郡制。炀帝大业三年（607年）复为武都郡，郡治将利（今旧城山），辖将利、建威（今龙坝乡秦家河）、复津（今桔柑乡大岸庙）、盘堤（今外纳镇立亭村与文县临江镇之间）、长松、曲水（今文县）、正西诸县。
唐高祖武德元年（618年），武都郡改为武州，治所将利（今汉王镇附近），属陇右道，辖将利、建威、盘堤、复津四县。唐太宗贞观元年（627年）建威并将利、武州下领将利、盘堤、复津三县。玄宗天宝元年（742年），武州复名武都郡。唐肃宗乾元元年（758年），武都郡又改为武州。唐代宗广德二年（764年），被吐蕃占据。唐懿宗咸通八年（867年）收复。唐昭宗景福元年（892年），武都改名阶州，州治旧城山，并改复津县为福津县。后州治虽有所移动，曾置于兰皋镇（今康县大南峪）和福津（今汉王镇）等地，但阶州之名，却一直治用到民国二年（1913年）。唐末（约908年）为岐王李茂贞地。
武都区东江新区五代十国时，约943年阶州由后晋统治。约959年，属后周，仍称阶州。约924年和954年，阶州分别为前蜀和后蜀管辖，长兴元年（930年），移州治于福津（今桔柑乡大岸庙）。
宋承唐制，阶州治福津，属陕西秦凤路，下隶福津、将利（今康县境内）二县，辖今武都、康县、舟曲等地。后郡治复移仙陵山。宋真宗大中祥符三年（1010年），北峪河日发洪水三次，淹没阶州城南南门钟楼滩一片。为保城池，州守李铸命民工在城东凿开抵龙岗数百步，改北峪河水西南流为东南流（约从今北城墙一带流过，从教场坝入白龙江）。 南宋时阶州属利州西路，下隶福津、将利二县。宋理宗端平三年（1236年），阶州被蒙古人占领，郡治曾毁于战火。
元朝废福津、将利二县。约1260年，阶州属陕西行省巩昌总帅府。元世租至元七年（1270年），州治西移柳树城（今角弓镇柳树城）。元末州治复移坻龙岗。
明太祖洪武元年（1368年）复阶州，州治复移旧城山，属陕西布政司巩昌府。洪武四年（1371年），阶州改为阶县，县令陆去在万寿山东建砖城一座，即今武都老城区的雏形。洪武十年六月（1377年）复为阶州。明穆宗隆庆元年（1567年），阶州知府谢锐将北峪河水东南流复改西南流（即水归古道），拜在砖城之外扩建土城（即今武都老城区）。
清朝时，阶州隶属甘肃。雍正七年（1729年），阶州升为直隶州，直隶于甘肃布政使司，领文、成二县。[1]
民国元年（1912年），废州制，改阶州为武都县。属渭川（陇南）道。民国二年（1913年），分置出西固县。民国十六年（1927年），废道，武都县属甘肃省。民国十八年（1929年）二月，从武都县划出白马关警察所辖地，分设永康县，同年四月改为康县。民国二十四年（1935年），民国政府将全省划为七个行政督察区，武都县属第四行政督察区（天水督察区），民国二十七年（1938年），改属岷县专区。民国三十一年（1942年）成立甘肃省第八行政督察区，专员公署设在武都，武都县同时改属武都专区。民国三十八年（1949年）11月25日，国民党广州行政院来电任命驻武都119军军长王治岐为甘肃省政府主席。国民党甘肃省政府的牌子悬挂在武都师范学校（今旧城山中学）的门口，直到武都解放。
1949年12月9日，武都解放，武都县属武都专区管辖（专区、县同治城关镇）。1958年2月，武都县随武都专区并入天水专区。4月11日撤销武都专区。1961年11月，恢复武都专区，驻地仍在武都城关镇。1968年7月7日，武都专区、武都县革命委员会在武都莲湖广场召开成立大会。1969年10月1日，武都专区革命委员会更名为武都地区革命委员会。1979年1月，武都地区行政公署成立。1980年12月，撤销武都县革命委员会，成立武都县人民政府。 1985年5月14日，国务院批准武都地区更名为陇南地区（实际仍驻武都城关镇）。
2004年1月，国务院批准撤销陇南地区和武都县，设立甘肃省陇南市（地级市）和武都区（县级区）。市、区政府驻地仍为武都城关镇。2014年，陇南市政府改驻武都区江北街道。