武帝期间，加强中央集权，发展社会经济，维护西北地区的正常活动，实现了与西域各国的友好交流。但匈奴贵族联合羌人豪酋反叛，图谋破坏汉王朝的努力，汉王朝多次出兵征讨。到宣帝时，先零等羌族部落联合起兵，攻城邑，杀长史，进攻金城，大败汉军。宣帝派赵充国率兵前往救援，并颁布命令“大兵诛有罪者……”(《汉书·赵充国传》）羌人若协助汉军诛“有罪者”，给予重赏。

武帝元鼎五年（前一一二），西羌数十万人反，和匈奴相应合，匈奴入五原（今河套），西羌围枹罕（今临夏）。翌年，武帝命将军李息讨羌，把羌人到青海和盐池，逼他们让出了湟水流域，汉朝就在那里立了许多县，隶属于陇西郡；又置護羌校尉，驻临羌县，统领羌中事务。到昭帝始元六年（前八一），又从陇西郡中分出金城郡。依今日的区域来说，这一个新立的金城郡的疆域应当东自榆中，西至湟源，南至夏河，北抵永登。湟水流域水草丰美，既宜于畜牧，又适于耕田，羌人虽一时离开，终究念念不忘。到宣帝时，派义渠安国巡行诸羌，先零羌的酋长向他请求，可否渡过湟水，到汉人没有种田的地方去畜牧。安国刚把这件事情奏闻朝廷，羌人就强渡湟水，官吏禁止不住。元康三年（前六三），先零羌又会合了诸种羌的酋长二百余人，解仇结盟，交换人质。这是有一个大举动的先兆，宣帝听得了，问老将赵充国；充国对道：

“沙阴”即流沙，，亦即居延海。“盐泽”即蒲昌海，今罗布淖尔。“长阬”即长城之窟，城中的夹道。“穷水塞”是张掖北的穷石山，一名兰门山。“属国”，是张掖属国。这是说匈奴遣使到羌中，是由今甘肃的居延海西南行，到新疆的罗布淖尔，回经长城，由穷石山转归原地。那时河西四郡早开，而羌与胡仍可交通，想见隔绝两族的不易。在赵充国这一段话里，可知羌人占地虽大，但政治组织太不健全，不但全族似一盘散沙，而且常常自相攻击，所以汉人无须惧怕他们。只是匈奴常要和羌人结成联合战线，共图进取，在匈奴的领导之下，羌人却成了汉朝的大患，所以汉朝仍非制伏他们不可。制伏的方法，除了严格地隔断他们和匈奴的交通之外，还要在羌人的肥沃之地设立郡县，加强统制。所以赵充国要罢骑兵万人，留湟中屯田，作长期的监视了。