永初五年（111年）春，任尚因为未能建功被征还免官。
羌人接着入侵河东，攻到河内（今河南武陟），百姓惊慌，许多人向南渡过黄河逃亡。
东汉朝廷命北军中候朱宠率领五营的士兵，把守孟津（洛阳八关之一，今河南孟县南、孟津县东北），又下诏要求魏郡（治今河北临漳县西南）、赵国、常山、中山（今河北定县）修建六百一十六处土堡亭障，以防羌军东击。
此时西北大部分郡县几乎都被羌人控制了，势力深入到今河南、河北境内。
汉安帝永初五年（111年），面对日益强盛的羌族各部，各地太守、县令、县长大多是内地人，没有防守和作战的想法，都忙着上书要求迁徙郡县，以躲避叛军入侵。
东汉朝廷无力北顾，只好同意，放弃了北地等边缘八郡，下令将北地郡治迁到池阳（今陕西泾阳），安定郡治迁到美阳（今陕西扶风东），陇西郡治迁到襄武（今甘肃陇西县东南），上郡郡治迁到衙县（今陕西白水县彭衙村一带）。
为防止汉族百姓响应羌族叛乱，东汉朝廷还强迫当地居民一同随迁。
百姓留恋故土，不愿离去，官府就派军队毁坏庄稼，夷平营垒，拆毁房屋，抢光财物，以断其回返念头。
时逢大旱，又闹蝗灾，大批百姓流离失所，饥寒交迫，有一半人惨死于迁徙的路上。
这年九月，汉阳汉族人杜琦、杜季贡兄弟与同郡人王信愤然率众起义，杜琦自称“安汉将军”，与羌人联合，攻占上邽（今甘肃天水西南）。
东汉朝廷发布悬赏，凡能得到杜琦脑袋的人封为列侯，赏给一百万钱，羌胡人杀掉杜琦的，赏给一百斤金，二百斤银。
汉阳太守赵博派刺客杜习刺杀了杜琦，东汉朝廷封杜习为讨奸侯，赏给了一百万钱。
杜季贡、王信等人率领部众，占据了樗泉营（今甘肃天水市西北）。
侍御史唐喜带领各郡的部队，发动进攻，打败了他们，获得金银彩帛一亿以上。
王信战死，部众六百多人被杀，妻子儿女五百多人没收入宫。
杜季贡率残部逃走，投奔滇零。
永初六年（112年），滇零病死，其子零昌即天子位，由于零昌年纪尚小，由狼莫辅佐，以杜季贡为将军，镇守丁奚城（今宁夏灵武市南）。
他们教羌民在丁奚城附近垦荒种地，作好长期战斗的准备。
永初七年（113年）夏天，骑都尉马贤与侯霸袭击在安定的零昌另外一支牢羌，杀了一千多人，获得马牛羊、骆驼等两万多头。
元初元年（114年）春天，东汉朝廷派军队驻守河内，打通山谷冲要之地三十三处，修建土障，设置钟鼓，以备羌患。
零昌派兵入侵雍城，同时，羌人首领号多与当煎、勒姐的大头领一道，胁迫其他部族，分兵抄掠武都、汉中。
巴郡的板楣蛮率军救援武都、汉中，汉中五官掾程信率领壮士与蛮人一道击败了羌人，号多退走，但回头切断了陇西道路，并与零昌联合。
侯霸、马贤率领湟中的官吏百姓，以及投降的羌胡人，在袍罕进攻号多，获得小胜，杀了二百多人。
但凉州刺史皮杨在狄道攻打羌人，结果大败，损失了八百多人，被征召免官。
这一年，汉羌战争，双方互有胜负。
不久，侯霸病逝，汉阳太守庞参接任校尉，以恩德和信义招揽引诱羌人。
第二年春天，号多等人率领七千多部众，到庞参那里投降。
庞参打发号多到朝廷，汉安帝刘祜赐给号多列侯印绶，让他回原地居住。
庞参回到令居（今甘肃古浪县）驻扎，打通河西的道路。
零昌部众又分兵进攻益州（辖今川渝云贵部分地区，治所在蜀郡的成都），东汉朝廷派中郎将尹就率领南阳郡（治所在宛县，今河南南阳市）的部队，接着征调益州各郡的屯兵，攻打零昌的同伙吕叔都等。
秋天，蜀郡人陈省、罗横响应招募，刺杀了吕叔都。
东汉朝廷又派屯骑校尉班雄驻守三辅（长安京畿地区，指京兆、左冯翊、右扶风三地，辖区为今陕西中部地区），派左冯翊司马钩行征西将军，统领右扶风仲光、安定太守杜恢、北地太守盛包、京兆虎牙都尉耿溥、右扶风都尉皇甫旗等人，共计八千多人。
庞参也率领七千多羌胡兵，与司马钧分道并进，向北攻打零昌。
庞参部队被杜季贡打败，率兵撤退，而司马钧等人攻占了丁奚城，大获全胜，缴获了很多东西。
杜季贡率领人马假装逃走，司马钧命仲光、杜恢、盛包等人收割羌人的庄稼，而仲光等人却违背司马钧的命令，贪功冒进，各自率部，分散深入，遭到羌人的伏击。
司马钧对仲光等人违反军令擅自行动非常生气，不去援救，结果仲光等人全部战死，三千多人被杀。
司马钩逃回，被东汉朝廷问罪，自杀身亡，庞参因误了期限导致军队战败也被治罪。
东汉朝廷任命马贤代理校尉，后又派任尚担任中郎将，率领羽林军、缇骑、五营的士兵三千五百人，接替班雄驻守三辅。
任尚临出发时，怀县县令虞诩对任尚说：“你多次接受国家命令征讨驱逐敌寇。三个州的驻守部队有二十多万人，抛弃了农业耕作，被徭役弄得疲惫劳苦，却没有功绩成效，耗费的人力和财物日益增多。如果这次出兵不能获胜，实在替你感到危险。”
任尚说：“你说得是。我已经担忧恐惧好久了，但不知道怎么办。”
虞诩总结战败的教训，建议说：“根据兵法，弱者不进攻强者，地上走的不追赶天上飞的，这是自然形势决定的。现在敌虏都骑马，一天能走几百里，来的时候像风雨一样迅猛，离开的时候像箭离弦一样飞逝，用步行追赶敌虏，自然赶不上，所以长期没有功绩。为你考虑，不如撤去各郡的部队，要每人拿出几千钱，二十个人合起来买一匹马，这样，可以不用错甲，驰骋轻装部队，用上万的骑兵部队，追逐几千敌虏，尾追拦截，敌虏自然无计可施。对人有利，对事情有利，大功就成了。”
任尚听了大喜，采纳了虞诩的计策，立即上书请求实施，派轻装骑兵包抄袭击丁奚城的杜季贡，杀死四百多人，获得牛、马、羊几千头。
