西汉末至东汉初,匈奴的势力又有所发展,成为北边的严重威胁。建武二十四年(48年)后,匈奴因内乱而分为南北二部,南匈奴逐渐内附,但北匈奴仍不时入侵。
汉明帝时,遣窦固等于永平十六年(73年)击败北匈奴,追至天山和蒲类海(今新疆巴里坤湖)。同时又派班超出使西域各国,使西域各国再次断绝与匈奴的关系,重新归附汉朝。
后来至和帝永元元年(89年),窦宪率师出击北匈奴,大破之,北匈奴降者前后二十馀万人,窦宪等“遂登燕山,去塞三千馀里,刻石勒功,纪汉威德,令班固作铭”。不久北匈奴之馀众在屡败之后,乃向西远徙。