自汉武帝时张骞始通西域，经过西汉王朝的长期经营，至汉宣帝时期，西域诸国已经臣服汉朝，西汉朝廷任命郑吉为西域都护，汉之号令颁行于西域。但到西汉末年，社会矛盾日益尖锐，朝政混乱，中央政府对西域的经营已经无暇顾及。王莽当政和篡位后，又对边疆执行了错误的政策，歧视和苛刻对待匈奴和西域各国，如王莽始建国元年（公元9年），王莽将包括西域各国在内的各少数民族国王称号降为侯，引起了各国的极大不满。始建国二年（公元10年），驻守车师的反莽派陈良、终带，举兵造反，杀戊己校尉刁护，逃入匈奴。始建国五年（公元13年），地近匈奴的焉耆国反叛，杀西域都护但钦。天风三年（公元16年），王莽派五威将王骏、新任命的西域都护李崇、戊己校尉郭钦等率兵进入西域。焉耆伏兵截王骏军，姑墨、尉犁、危须等国也共击之，王骏大败，李崇还保龟兹。王莽政权被推翻后，李崇被杀，西域从此与中央政府终止联系。

东汉王朝建立后，莎车王康派使者至河西，表示思慕汉庭。光武帝刘秀建武五年（公元29年），汉立莎车王康为西域大都尉。建武十七年，莎车王贤（康之子）遣使至汉请派都护，光武帝开始从窦融建议，封莎车王贤为都护，后敦煌太守裴遵劝阻，光武帝又收回都护之印，改授贤汉大将军印，莎车王贤因此怨恨汉朝，并诈称为汉都护，奴役西域各国。建武二十一年（公元45年），鄯善、车师、焉耆等十八国国遣子入侍，请东汉王朝在西域设置都护，但刘秀因忙于巩固帝位，无暇顾及西域，故遣还侍子。莎车王贤见汉朝不派都护，即攻伐西域各国，西域大乱。 北匈奴趁机介入，西域大部地区遂为北匈奴所控制。至汉明帝中期，匈奴大规模进攻汉朝，致使“河西郡县，城门昼闭”。为彻底解除边患，明帝永平十五年（公元72年）十二月，明帝任命耿秉为驸马都尉，窦固为奉车都尉，翌年春，二将与太仆祭肜、骑都尉来苗，率汉军及羌胡、乌桓、鲜卑、南匈奴等军，兵分四道出击北匈奴。