汉武帝几次对匈奴的大规模用兵，特别是经过漠北之战后，匈奴损失惨重，汉兵深入匈奴穷追二十余年，匈奴疲惫至极，十分痛苦。而且，失去了水草肥美的阴山地区，西遁入漠北荒原，使匈奴这个“逐水草而居”的游牧民族失去了经济重心，他们失阴山之后，过之未尝不哭的。

这时，匈奴东部的乌桓却日益强大了起来。乌桓原是匈奴控制下的一个部族，匈奴衰落后，它摆脱了匈奴的控制。乌桓在汉武帝时主动上书，愿为汉保塞，负责使察匈奴动静，得到了武帝的批准。昭帝始元六年（前81），乌桓挖了匈奴单于的祖坟，与匈奴发生大战。汉军趁机出兵辽东助乌桓击匈奴，匈奴不敌退走。

此时，匈奴东有剽悍的乌桓、南有汉帝国，不得不把其发展目光重新转向西方，向西域扩张势力。昭帝末，匈奴攻打乌孙，乌孙不敌而向汉求援。宣帝本始元年（前72），汉出兵五路援助乌孙，分别由田广明、范明友、韩增、赵充国、田顺率领，共十余万骑，加之乌孙发动五万骑由西边进攻，二十余万大军压倒匈奴。匈奴大败，匈奴人死伤逃亡的人、以及因远途迁徙而死亡的牲畜，不可胜数。这年冬天，匈奴单于又率万骑击乌孙，正值天大雪，“人民畜产冻死，还者不能十一”，邻国趁机袭来，“丁令乘弱攻其北，乌桓入其东，乌孙击其西。凡三国所杀数万级，马数万匹，牛马甚众”，被匈奴奴役的各属国也纷纷瓦解。经过这几次打击，匈奴不仅无力对付汉军，反而受到原来的一些属国侵袭，其国势更加衰颓。

匈奴的衰落，除了军事上连受重创以外，很重要的一个原因则是其上层的争权夺利日益频繁，导致了各部的分裂、厮杀。

神爵四年（前58），匈奴呼韩邪单于得立，匈奴内部分裂更加严重，出现了五单于纷争的局面。呼韩邪单于，屠耆单于，乌籍单于，东犁单于，乌籍单于（后又自立者，同名）各率一部，相互纷争，混战不休，致死者以万数，畜产损耗十之八九，人民饥饿，相燔烧以求食，因而局势十分动乱。最后，只剩下呼韩邪单于与其兄郅支单于。郅支单于击败了呼韩邪单于，占领了王庭及漠北广大地区。(www.daowen.com)

呼韩邪单于失败后，其内部经过激烈的讨论，决定称臣事汉。甘露二年（前51）冬，呼韩邪单于叩五原塞，愿于次年正月到汉廷朝贺。宣帝决定“以客礼待之，位在诸侯王上”。甘露五年，汉廷派车骑都尉韩负责，调发所经七郡每郡二千骑兵，排列于夹道两旁欢迎呼韩邪单于入朝。呼韩邪到长安后，对汉宣帝“赞谒称臣”。而宣帝也对其优礼有加，诏“赞宣称藩臣不名”，并赐以“匈奴单于玺”。从此，匈奴呼韩邪单于正式成为西汉王朝的藩属。

郅支单于见呼韩邪有汉廷的庇护，自知不敌，遂率众向西迁徙。建昭三年（前36），郅支被汉都护甘延寿与副校尉陈汤发戊乙校尉西域诸国兵所诛灭。呼韩邪闻知后，且喜且惧，提出娶汉女为妻而为汉婿的要求。汉元帝乃以后宫良家女子王嫱（字昭君）赐予他为妻。汉朝因此觉得边境安宁有望，于是改元“竟宁”。呼韩邪单于娶了王嫱后，号其为“宁胡阏氏”，即使匈奴得以安宁。汉匈都对这次和亲感到满意和高兴。

呼韩邪单于归汉，结束了匈奴政权与西汉政权之间一百余年的敌对战争状态，使大漠以南广大地区与中原进一步统一，有利于汉、匈两族的融合交流。

汉帝国经过昭、宣之世的偃武修文，国力大为恢复。而匈奴内部不断争权夺利，势力日丧。至受乌孙与汉的夹击后，更是一蹶不振。到最后呼韩邪单于无力解决内乱，只能托荫于汉帝国的庇护，归降汉帝国。