羌人没有耐心了，他们驱赶着羊群过了湟水。面对黑压压的移民潮，各地的汉人长官束手无策。
元康三年（前63），孝宣皇帝急召赵充国将军，说是接到情报，先零羌与羌人各部落举行解仇交质盟誓的仪式。赵将军一听便着了急，回答说：“这是羌人叛乱的信号。羌人之所以容易制伏，是因为他们部落分散，互相残杀，始终不能统一。三十多年前，西羌反叛，也曾解仇结盟。臣下估计匈奴的使者又到了西羌，因为近来东胡乌桓归顺大汉，匈奴害怕大汉从东方攻击，于是引诱羌人在西方闹事。臣预感到羌人有大的阴谋，应当及早防备才是。”
一个多月以后，快马将情报送至长安：狼何羌派遣使者去匈奴借兵，打算进攻河西敦煌一带。
赵充国分析：狼何羌只是阳关西南的小月氏种族，不会有如此大的胆子，一定是匈奴的使者到了西羌，先零与竿（将“竹”字头换成“四”字头）、开两大羌种解了仇。一旦秋马肥硕，变乱必起。宜速派使者，敕视诸羌，不许他们解仇，让他们知道大汉已发觉了他们的阴谋。
孝宣皇帝觉得，解铃还须系铃人，于是又派了义渠安国前往。
义渠安国为上次的事窝着火，一到河湟，便通知三十多位羌人豪酋开会，会间涌出甲兵，悉皆诛杀，纵兵冲入羌人部落，斩首千余级。于是先零羌一下子反了，神雀元年（前61），归义羌侯杨玉等击败了义渠的汉军。
天子让御史大夫丙吉去问赵充国谁可出征？回报说：“赵将军对臣说没有能超过他的。”天子很高兴，之所以派丙吉去询问，是因为赵将军太老，所以一定要他自愿出马。天子又让人去问：“将军打算如何用兵？”回报说：“百闻不如一见，等老臣到了金城郡，再献上方略。”
赵将军的作风是持重，先计后战，爱惜士卒。所以他的侦察兵相当出色，行必备战，止必坚营。他认为羌人的骑兵善于冲击，但不通战法，不能持久。于是，他让手下勿贪小利，坚守不出，等待决战的机会，以图全歼。此外，他坚持运用瓦解羌人的政策，只击先零部落。于是，他释放了地方政府扣押的和开部落的人质，命他们回去转告部落：“大兵只诛有罪者。天子告诸羌人：斩先零羌大酋长者，赏钱四十万；中酋长者，十五万；小酋长者，二万；男人，三千；老人及妇女儿童，一千；所获财产归各人所有。”
羌人被他搞乱了，在一次各部落酋长联席会议上，他们争吵了起来。有些部落的酋长指责先零部落说：“与你们说不要反，现在天子派了赵将军来，八九十岁了，又善于用兵，你们却想一战败之，做梦去罢！”
天子派来了援军，包括一部分御林军和胡越骑兵，由赵将军之子中郎将赵？率领。不过，以酒泉太守辛武贤为代表的少壮派对赵将军的做法失去了耐心，在他们的动员下，天子发动三辅、河南、河北、陇西、河西等地的步卒、骑士乃至刑徒，计六万人，拜辛武贤为破羌将军，从张掖、武威出击羌人的竿（将“竹”字头换成“四”字头）、开部落，以求速战。
天子遣书询问赵将军。赵将军竭力陈说远击羌人，道径险绝，非汉人所长的道理，以及不能攻打这两个部落的原因。他告诉大子：善战者将敌人引来，以逸击劳；不善战者，劳师袭远，自去送死。何况是对付散乱游动的羌虏？
像这样的书信来往了好几回，天子和朝中的大臣皆被感动，赞同赵充国的大臣们从十分之三，增至十分之五，最后到十分之八。孝宣皇帝的老师、丞相魏相说：“臣愚昧不懂军事，赵将军屡次为国家精心策划，其言多是，臣一任其计。”于是诏令从赵充国之策。同时，天子还有些性急，仍让破羌将军与中郎将合兵，相机进击。
七月，赵将军命令出击，因为预料到先零羌经过长期的屯聚与对峙，必然松懈。果然，羌人大乱，渡湟水而逃。可赵将军不让部下们追击，而是尾随驱逐，部下们不解，他说：“穷寇勿迫，追得缓，他们反而跑得慌；追得急，他们反而会回头拼命。”
这一仗，先零羌溺水死者数百人、投降及被斩者五百人、牛马羊十万余头。经过竿（将“竹”字头换成“四”字头）、开部落的田地，赵将军的部下纪律严明，不坏庄稼，事后这两个部落的酋长前来归降。
赵将军没有继续追，因为羌人逃跑的方向是没有尽头的。他决定占领羌人的老窝，下令将一万名骑兵转业为农垦战士，在河湟地区屯田，一则为国家节约开支，二则仍维持以逸待劳之势，三则利用羌人思归故土的心理，让他们在流亡饥饿的境况下人心涣散。
天子诏可，在这封诏书的最后，天子竟写上“将军加餐饭，慎兵事，自爱！”的字样。
不久，羌人疲敝，赵充国与破羌将军及中郎将出兵，大胜而回。前后计降三万一千二百人、斩首七千六百级，饿死五六千，逃亡四千。五万先零羌，只剩下两千来人。次年秋，其他羌人部落又陆续送来了先零大酋长杨玉、犹非等人的首级，并率部来降。
赵充国奏请罢屯田。大汉在河湟地区设置金城属国，派驻属国都尉处理归降的羌人问题。至此以后，整个前汉时期，再没有发生大的羌人叛乱。
前汉末期、王莽篡汉时期直至本朝初立，陇西、金城一带的诸多羌人已渐渐地将自己看成大汉的子民。但先零羌仍勾结一些羌种不断地来寇，但皆被击溃。
此时，一个叫烧当部落的羌种也在崛起之中。烧当，是爰剑的第十八代孙的名字，他大概生活在孝元皇帝时代、本朝立国之初，他们的酋长名叫滇良，是烧当的玄孙。他的部落居住在河湟以西的大允谷中，人数很少，而且相当贫穷。时下，他的敌人是先零等几个强大的部落。
大凡中国四周游牧民族的崛起，第一步都是征服本民族内部的部落，滇良经过精心的准备，一举掩袭成功，杀先零三干多人，夺取了他们的根据地大榆中。作为帝国境外的羌人部落，对已划归大汉领土的河湟故土都有着极大的向心力。他们每天都在塞外窥视着，与归顺大汉的塞内降羌联络着，他们的勇士骑在马上，翘首东望。
本朝开国之初，世祖光武皇帝还在忙着平定陇西隗嚣和西蜀公孙述。建武九年（33），隗嚣在围困中又饿又病，气愤而死。他的谋士、后任帝国司徒掾的大学者班彪考虑到王莽时期，青海湖畔的羌人趁大汉之危，时常入寇金城、陇西二郡，而隗嚣又招纳他们与汉军相拒，向光武皇帝建议恢复护羌校尉。当然，班彪的理由是加强和改善对羌人的管理，以防他们的反叛。不过，他的上疏中陈述了羌人反叛的原因：“今凉州部皆有降羌，羌胡被发左衽，而与汉人杂处，习俗既异，言语不通，数为小吏黠人所见侵夺，穷恚无聊，故致反叛。”
班彪说的这些羌人是境内降羌，他们受到了汉人官吏和汉人无赖不公正的对待。这时，他们往往与境外的羌人内外俱起。
先零羌在被烧当羌重创之前，曾于建武十一年冬天，发动数万人攻打金城郡浩叠县。朝臣推举太中大夫马援为陇西太守，率步骑三千，潜行至羌人营地，一举击溃。紧接着又追至羌人的聚居地，击鼓叫噪，乘夜放火，计斩首千余级。此役当中，马太守的胫骨中了箭。
马援将降羌全部安置在陇西、天水直至帝国的核心地区――扶风，他年轻时就不愿意读经书，主动去陇西一带耕田放牧，实践经世的本领。他的目的是把人数少的羌人投放到人数多的汉人之中，演化成规范的大汉民众。同时，他还主张把汉人移民到羌人的土地上。所以，当朝臣们认为金城郡经过多年的战火，羌人多次叛乱，主张放弃金城时，马援大加反驳。最后，迁来了三千口汉人，开水田，修沟渠，缮城郭，汉人安居乐业，塞外羌人不断来降。不过，马援将羌人大规模地迁入境内，也难免留下了后患。因为当时长安及三辅已不复为帝都和京畿，羌人后来屡寇三辅，遂使安置降羌的地区反成为羌人唱主角的舞台，可以说是开门揖盗。当然，这不能怪马太守，因为他的时代，大汉刚刚光复中兴，朝气蓬勃，充满自信，哪里把羌人放在眼里。
这一仗，先零羌元气大伤，退出塞外之后，又被烧当羌重重一击，失去了在河湟地区的主导地位。两年以后，进攻金城、陇西的羌人，就成了烧当部落了。此时滇良已卒，他的两个骁勇善战的儿子滇吾、滇岸击败太守刘盱，谒者张鸿、陇西长史田飒皆战没。直到孝明皇帝永平元年（58）秋天，才由光武皇帝的云台二十八将之一、绿林好汉出身的马武将军与孝章皇帝的小舅子窦固，以四万人的优势兵力，斩首五千余级，生俘一千六百口，将羌人一举荡平。这一次，模仿马援将军的做法，迁徙七千口羌人至三辅地区。诏谒者窦林为护羌校尉。酋长滇吾向西远遁，滇岸投降。
窦林闹了个笑话，他的部下受了滇岸的贿赂，说滇岸是酋长，于是依照他的上奏，天子加封滇岸为归义侯。第二年，滇吾又来投降，窦林又奏，并带他们两个一道去洛阳投降，接受加封。孝明皇帝觉得一个部落竟有两个酋长，便追问窦林。窦林语无伦次地搪塞天子：“滇岸就是滇吾，陇西土话不标准吧？”
天子大怒，窦林丢了官。
后来，滇吾的儿子东吾做了酋长，也愿意归顺，但他的弟弟迷吾不干。
他终有了反叛的借口，而且相当的光明正大。孝章皇帝建初二年（77），金城郡安夷县吏霸占卑？部落一羌人的妻子，被羌人杀死，于是安夷县令捉拿凶手。卑？部落害怕之下，逃出塞外。迷吾见机，率领几个羌人部落暴动，打败金城太守郝崇，又联合封养部落酋长布桥攻打陇西、汉阳。朝廷即拜马援之子、行车骑将军马防与长水校尉耿恭出征，到次年三月战事结束，布桥投降。
迷吾仍在战斗，十年以后，他成功地引诱并伏击了护羌校尉傅育的军队，傅育下马搏斗，力竭而死。同年秋，新任护羌校尉张纡与马防于木乘谷击破迷吾，在谈判桌上，迷吾又喝到了他最喜欢的汉人官府酿制的酒，可一眨眼的功夫，他的人头连同他喝的酒都放到了傅育的灵位之前。张纡的做法，激怒了羌人，迷吾之子迷唐继承了父亲的事业。
汉人的官吏们对羌人虐待过甚，塞外羌人想攻打边郡，首先要有塞内羌人的反叛才能成气候，可大汉的职官避让制度，使得当地的行政长官大都来自内地，这些人很少能尊重羌人，却很能搜刮羌人。由于不生长在边郡，一旦羌叛，又无制羌之策，不仅贪赃枉法，而且贪生怕死，力主放弃凉州诸郡，退守关中。所以朝廷往往派出像马援、马防、窦固等熟知边事的将领才能暂时解决问题。但他们能对付得了羌人，却对付不了他们的同僚。有些事情，连天子都感到过分。
孝明皇帝曾经接到一份奏报：一个叫烧何的羌人小部落因为受到卢水胡的攻击，这个部落的百岁老巫婆比铜钳率众归附金城临羌县。由于部落成员犯法，临羌县令一次就收杀七百人并收系了比铜钳。
孝明皇帝看不下去了，他动了恻隐之心，下了一道诏书表示国家无德，不能威服异族。命令释放比铜钳，馈赠医药养护；招纳其部落成员，厚赠财物，送回故地；对犯罪的羌人，认罪者释放，有罪者没官为奴。
张纡诱杀迷吾之后，考虑到羌人将有大规模的叛乱，朝廷公议，以久习边事的武威太守邓训为护羌校尉。他是光武皇帝的太傅邓禹的第六子，少时不好文学，被父亲责难；但很快成了帝国的封疆大吏，北方边郡的乌桓、鲜卑以及西部的卢水胡都很敬佩他。
章和二年（88）冬天，黄河上结了冰。迷唐派人探了探厚薄，便指挥四万骑兵蜂拥过河，直抵塞下。可他没有下令攻城，而是叫来了一个弱小的胡人部落――小月氏胡的酋长。他把腰刀拔出来，在胡人酋长的皮坎肩上蹭了蹭，又让人端上一盘金子和几匹绸缎，要求酋长配合行动。
酋长与他三击掌后，马上将东西送到邓训这里。邓训让他带去一些精锐的骑兵和军官。酋长又派人去报告迷唐：我部已被汉军管制，无法出战。
其他汉人官员劝告邓训：“羌胡相攻，本来对我有利。此乃以夷制夷之策，大人不必派兵保护他们。”
“不然，张纡正是因为失信，才引起羌人暴动。大汉长期屯兵，不下二万。粮草转运，耗损府币。凉州吏民，命悬丝发。此处所居胡人，原来之所以常被羌人裹胁，不从大汉，都是由于恩信不厚啊！现在趁着他们困迫之际，以德怀柔，庶几能归顺，为我所用。”
边塞的大门打开了，汉军传令胡人以及一些弱小的羌人部落，速携妻子儿女财产入内。这一下，断绝了迷唐的兵源的供给，分化了羌人的军事联盟。眼见得扎在塞外的帐篷日趋减少，那些进关的胡人对邓训说：“汉家常常让人们自相残杀，惟有邓使君待我们如父母一般，我们惟您的命令所是。”
邓训又让几百名少年羌胡接受教育和训练，作为自己的义从。羌胡以病死为耻辱，一旦病重，辄拔刀自裁。邓训派出军医官把一些危重病人看管起来，加以治疗。
这些事，像春风一样，吹遍了边塞内外。邓训的使者携带着重金奔走于羌胡部落之间，塞外的营帐又少了许多。一天，一批羌人的帐篷随着一顶华丽的大帐向塞下移动。邓训大为高兴，下令启关。他对部下说：“这是迷唐伯父号吾的大帐！”
随号吾来降的有号吾的母亲以及八百多户部民。邓训又点了点塞外的帐篷，下令发动湟中汉、胡、羌兵四千人出击，迷唐逃往西部颇严谷，部落破散，汉军斩首俘虏计六百多人。
次年春天，即孝和皇帝刚即位的那年，迷唐又犯边，邓训命长史任尚将皮革缝在竹筏上，率军渡过黄河，几乎将迷唐部落一网打尽，斩首一千零八百级，生俘二千口。邓训又对归降者及弱小羌胡施加恩抚，迷�