有一次，光祿大夫義渠安國巡視各羌人部落，羌人中一個部落叫先零，這支部落的首領對義渠安國說希望可以渡過湟水（西寧河），在漢人不耕種的地方放牧。義渠安國向漢宣帝報告，趙充國彈劾他，但是羌人已經渡過湟水，地方官府管都管不住。
到了公元前63年，先零（羌人的一支）與其他羌人解除仇恨，訂立盟約。漢宣帝知道後就去徵求趙充國的意見。趙充國說羌人容易被制服，因為他們各個部落有各自的首領，經常相互攻打，不能統一。我擔心匈奴聯合羌人一起對抗漢朝，所以要趁早做好準備。一個多月後，羌人果然向匈奴借兵，準備攻打鄯善、敦煌。趙充國認為應該讓邊防部隊做好準備，同時派人到各個羌人部落，不能讓他們化解彼此之間的仇恨。於是朝廷派義渠安國去，他到了那裡，把先零的三十多個首領召集來，殺掉了，又發兵攻打，殺了一千多人。這下羌人非常恐懼，於是開始反抗，進攻邊境，殺掉漢朝官員。義渠安國被羌人打敗。
趙充國
公元前61年，趙充國七十多歲了，漢宣帝覺得他太老了，就派丙吉去問他誰合適帶兵出征。趙充國很自信地說：“沒有比我更合適的人了。”漢宣帝問他要多少兵。趙充國說：“百聞不如一見（成語出處），打仗的事很難憑空想象。我要到金城（蘭州別稱）考察之後才能制定作戰方案。希望陛下把事情交給我，不要擔心。”
趙充國到了金城，集合一萬騎兵，準備渡過黃河。他怕羌人攔截，所以在夜裡先派了一些人馬過河，在對岸擺開陣勢。等到天亮後，才依次渡過黃河。這時羌人派了騎兵來，趙充國擔心這是敵人的誘兵之計，所以下令不準出擊。趙充國打仗講究穩紮穩打，經常派出偵察兵，行軍時一定做好戰鬥準備，駐紮時加固營壘，事先制定好作戰計劃然後才打仗，所以羌人佔不到便宜。趙充國又派人到羌人那裡講漢朝只殺有罪的人，如果能殺掉有罪的人，還可以得到賞賜。這樣來分化瓦解羌人。
這時酒泉太守辛武賢上奏說：“漢朝的馬不能在北方過冬，武威、張掖、酒泉這三個地方有一萬多匹戰馬，現在把馬餵飽，然後帶上三個月的糧草，分別從張掖和酒泉出發，攻打罕、開部落在鮮水（鮮水河）上游的部隊。即使不能消滅他們，也可以俘獲他們的牲畜、家眷。”
漢宣帝讓趙充國和部下討論這件事，趙充國認為長途奔襲很累，而且敵人得到消息後就會逃跑，如果追擊深入那就危險了。先零是首先發動叛亂的，所以應該先打先零，這樣可以震懾其他部落。漢宣帝又讓大臣們討論，大臣們認為先零太強不好打。漢宣帝就採納了辛武賢的計劃，任命辛武賢為破羌將軍，許延壽（許廣漢的弟弟，許皇后的叔叔）為強弩將軍，同時又下詔給趙充國讓他向西推進，跟辛武賢會合。趙充國卻堅持己見，他上書給漢宣帝說先零羌準備入侵中國，罕羌卻沒有侵犯的行動。如果打罕羌而不去打先零羌，這不是放過有罪的，而誅殺無辜的，我認為是不妥當的。而且攻打罕、開羌，先零羌一定會去援助，這樣反而堅固了他們的同盟，更加難以對付了。所以我認為一定要先討伐先零羌。漢宣帝同意了。
趙充國於是帶兵到先零羌的地方。先零羌因為長期沒有受到攻擊，所以放鬆了警惕，一看漢朝大軍來了，就紛紛逃跑，想渡過湟水。趙充國命令部隊不要追得太急，因為追急了他們反而會拼命。結果先零羌人落水淹死的有幾百人，投降以及被斬首的有五百人，俘獲馬牛羊十多萬頭。大軍到了罕羌的地方，趙充國下令不能燒殺搶掠，罕羌因此也臣服了。
這年秋天，趙充國生病了，漢宣帝就下詔說如果病情嚴重就讓辛武賢和許延壽出征就可以了。趙充國卻打算進行屯田，他兒子趙印害怕違抗聖意，就派人勸他爹。趙充國說如果一開始就聽我的話，怎麼會是這樣一個局面。我推薦辛武賢巡視羌人，結果丞相御史卻推薦義渠安國。我向耿壽昌說要買二百萬斛穀子，他卻說只買一百萬斛，最後只得到四十萬斛，所以羌人才敢叛亂。我相信賢明的君主是會聽別人的忠言的。於是就上書漢宣帝，先說自己每個月耗費的錢糧非常多，而且羌人容易用計策攻破，但不適合拿兵力硬攻。現在這一帶有很多沒有開墾的土地，如果留下一萬人屯田可以節省一大筆費用。漢宣帝問如果按你說的做，羌人什麼時候能夠平定？趙充國列舉了十二點屯田的好處，並向皇帝保證一年時間可以平定。漢宣帝又提出疑問，你說的一年時間從什麼時候開始？如果對方知道我們撤軍，會不會趁機進攻？另外大開、小開羌說：“我們向漢朝報告了先零羌的位置，漢軍卻不去攻打。”現在不去進攻，他們會不會跟先零聯合起來？趙充國又一一做了回答。終於漢宣帝同意了趙充國的屯田計劃，但同時又派辛武賢、許延壽和趙印一起出擊。這樣到公元前60年，羌人的問題基本解決。
趙充國壽命很長，活了八十六歲。
