汉匈关系，自汉初以来就是长期困扰双方的重大问题。究其实质，双方关系主要围绕“和亲”与“战争”两个方面展开，正如班固在《匈奴传赞》中所说，自汉兴以来，“忠言嘉谋之臣，曷尝不运筹策，相与争于庙堂之上乎！”“人持所见，各有异同。然总其要，归两科而已：缙绅之儒则守和亲，介胄之士则言征伐。”所谓和亲与征伐始终是影响汉匈关系发展趋势的关键所在。进入昭宣时代，匈奴经过武帝时期的军事打击，势力大衰，已经无力在北境进行大规模的侵扰，而将争夺的重心转向西域。但在宣帝本始三年遣五将军与乌孙联合出击匈奴，及神爵二年（前60年）在西域设置都护府后，匈奴在西域的争夺也宣告失败，从此匈奴更趋衰落。在兵败于外的情况下，匈奴五单于争立，又爆发了严重的内讧，呼韩邪单于主动附汉，为宣帝所接纳，双方关系出现新的调整态势，为其后汉匈长达六十多年的和平相处开启先河。
在玉门关和阳关以西，巴尔喀什湖以南，葱岭以东有一片广袤而又神秘的土地，这就是被西汉时人称为“西域”的地区。西域的范围大体上相当于今天的新疆地区，有时葱岭以西的一些地区也被包括在内。班固撰《汉书·西域传》，总括西域形势曰：
西域以孝武时始通，本三十六国，其后稍分至五十余，皆在匈奴之西，乌孙之南。北有大山，中央有河，东西六千余里，南北千余里，东则接汉，厄以玉门、阳关，西则限以葱岭。其南山同，东出金城，与汉南山属焉。
可是在西汉初年，中原地区的人们对西域的了解实在太少了，西望的视线被连绵千里的祁连山脉所阻断，只有上古时流传下来的一些美丽而又离奇的传说，为人们提供了许多可以驰骋想象的空间。汉匈战争的深入发展，为揭开这片土地的神秘面纱提供了一个难得的历史机遇。
建元初年，汉武帝从匈奴俘虏的口中获悉，匈奴老上单于击败原来居住在河西地区的月氏人后，曾用月氏王的头骨做成“饮器”，月氏被迫西迁，常图东归报仇雪耻，只是苦于势单力薄，因此未能如愿。武帝非常重视这个情况，一个联络月氏，夹攻匈奴的战略意图形成。但是，通往西域的唯一交通要道河西走廊控制在匈奴浑邪王与休屠王的手中，而且月氏西迁后的下落也无人知晓，西域的情况更是不为人所知。武帝因此悬重赏招募使者，汉中人张骞以郎官应征，从此踏上了通往西域漫长而又危险的历程。
建元三年（前138），张骞率领一百多名随员从长安出发，刚刚由陇西进入河西地区，就被匈奴骑兵俘虏，押送至单于王庭（当时单于王庭在漠南，今内蒙古呼和浩特附近）。军臣单于欣赏张骞的冒险精神，劝其归降，迁往匈奴西部看押。在度过十余年的半囚徒式的生活后，张骞终于得到机会，与部分随员逃离匈奴，继续西行。张骞等穿过车师（又作姑师，在今新疆吐鲁番西北）附近的天山缺口，沿天山南麓西行，越过葱岭，进入大宛境内。大宛遣人将张骞送至康居，再由康居送至大月氏（即月氏）。
张骞虽然到达大月氏，但情况却发生很大变化。月氏人被匈奴击败后，先迁徙至塞国（今伊犁河流域），后又遭到受匈奴支持的乌孙人的进攻，再度西迁至大夏（今阿富汗北部）。在征服大夏后，月氏人于妫水（今阿姆河）北建立王庭并定居下来。妫水两岸土地肥沃，月氏人丰衣足食，安居乐业，不再想东归故乡寻匈奴报仇。张骞在大月氏逗留一年多的时间，始终无法与大月氏人结盟，只得失望而归。鉴于出使时被俘的教训，张骞沿着塔里木盆地南边与柴达木盆地北边回朝，想避开匈奴，绕道从羌地而归，结果还是被匈奴人捕获。不久，军臣单于去世，匈奴内部因争夺单于之位发生争斗，张骞才乘机与随员堂甘父一人逃回长安。
张骞建元三年出使，元朔三年（前126）方才回朝，历经十三年漫长的时间，出使时的一百多人，只有他和堂甘父二人生还。张骞出使的直接政治目的虽然没有完成，但却带回西域那个神秘世界的真实情况。张骞将亲身经过的中亚诸国，如大宛、大月氏、大夏、康居及其旁传闻中的五六个大国和塔里木盆地南边诸国的地理、物产、风俗等详细地向武帝作了汇报，引起武帝的浓厚兴趣，立即拜张骞为太中大夫，堂甘父为奉使君。后来，张骞关于西域情况的汇报，被司马迁收录在《史记·大宛列传》中，成为了解西域最宝贵的第一手资料。
就在张骞出使后的第六年，汉军在马邑设伏，诱击匈奴，虽然谋泄未成，但却促使汉匈战争全面爆发；在他回国的前一年，汉军发动“河南战役”，收复河南地，但是匈奴依然占据河西地区，控制着中原通往西域的要道，往西南又可与羌人联系，汉朝西北边境仍然受到来至匈奴右部的严重威胁。在听取了张骞的汇报之后，武帝急于沟通中原与西域的联系，进而控制西域，断绝匈奴的右臂。然而根据张骞出使西域的经验，从中原西行必须要经过匈奴占据的河西地区。此外，还有一条通道，即由蜀地经身毒至大夏。原来张骞在大夏时，曾见过产于蜀地的邛竹杖和蜀布，非常惊奇，询问大夏人后方知是由大夏商人从其东南的身毒国（古印度的别称）贩运而来。因此，张骞估计身毒在大夏东南，又有蜀物，肯定距蜀地不远。所以，张骞向武帝建议另辟新径，打通从蜀地经身毒至西域的西南新通道（即从今日四川、贵州、云南经缅甸、印度至中亚）。张骞这一大胆的设想，又一次引起了武帝的赏识。早在建元六年（前135），武帝就曾耗费巨资经营西南，后因欲全力对付匈奴，放弃了这一计划。元狩元年（前122），武帝根据张骞的建议，遣使再次通西南夷，寻求通往身毒的道路，终因西南地区少数民族的阻断及道路艰险而未果。
西南新道既然不通，武帝遂决意打通河西走廊，于是在元狩二年发动“河西战役”。骠骑将军霍去病一举击溃匈奴驻守河西地区的浑邪王与休屠王，收复了河西地区，控制了中原通往西域的道路，在与匈奴夺取西域的斗争中取得了一个初步、但又极其重要的胜利。元狩四年，著名的漠北大决战爆发。匈奴在连续失去河南、河西二个战略要地之后，又遭到卫青、霍去病二路大军的夹击，匈奴东部的左贤王与中部的伊稚斜单于均受到重创，逃往漠北，从此“漠南无王庭”。匈奴在汉北部边境全线失败后，其势力开始转移到其右部，加强对西域的控制。
西域自从老上单于时隶属于匈奴，至元狩时已经六十余年。匈奴在西域的统治十分暴虐，视各国如僮仆，在天山之北的焉耆（王治今新疆焉耆西南）、危须（王治今新疆焉耆东北）、尉犁（王治今新疆库尔勒）间设置“僮仆都尉”，“使领西域，常居焉耆、危须、尉黎间，赋税诸国，取富给焉。”西域各国，尤其是与匈奴相邻的天山北麓诸国畏之如虎，不敢抗命。如果汉朝不能将匈奴势力逐出西域，就无法避免匈奴从其右部卷土重来的可能，北部边境战争的胜利也就不可能巩固。在这种形势下，争取西域遂成为汉匈战争的新焦点。
元狩四年，张骞被任命为中郎将，再次出使西域，经由龟兹（今新疆库车一带）西行，抵达乌孙。然而此时乌孙正发生内乱，乌孙昆莫猎骄靡的次子与长孙因争夺太子之位而起兵相攻。昆莫年老，无力制止，只求自保。在这种形势下，乌孙当然无暇考虑与汉结盟的问题；况且乌孙邻近匈奴，服属已久，而对汉朝的情况却不甚清楚。虽然张骞一再宣扬大汉国威，允诺以汉公主和亲，但是依然无法与乌孙缔结盟约。张骞又分遣副使等赴大宛、康居、大月氏、大夏、安息、身毒、于阗等国，于元鼎二年（前115）与乌孙数十人返回长安。随后，张骞所遣副使也陆续与各国派遣的赴汉答谢的使者返回。从此之后，汉与西域的联系日益密切起来，每年都有许多批汉朝使团或商队穿行西域各国之间，足迹遍及西域，甚至更远的地区，中原的丝织品等通过西域源源不断地输向西方，形成了一条举世闻名的丝路之路。
自从张骞二通西域后，汉与西域诸国的交往日渐密切，南北二道均已开通。大体上南道是出玉门关或阳关，至楼兰（都城楼兰，故址在罗布泊西北孔雀河南岸。昭帝时改国名为鄯善，迁都于罗布泊西南的扜泥城，即今新疆若羌）后沿塔里木盆地南缘与昆仑山北麓间通道西行；北路也是出玉门关或阳关，至楼兰后沿新疆中部天山南麓与塔里木盆地北缘之间的通道西行：南北二路在疏勒（王治今新疆喀什）会合，而后再逾葱岭至大宛、康居诸国。
张骞“凿空”西域，汉使与商旅们频繁地出现在南北二道之上，严重威胁到匈奴在西域的统治，匈奴当然不肯坐视。这时西域诸国尚处于匈奴的统治之下，尤其是对地处中原与西域交通要冲的楼兰与车师的控制更为严密。随着汉使往来的日渐增多，楼兰、车师等当道诸国供应食物，应接不暇，何况还有许多不法之徒混迹于使团之中，私带官物，依仗大汉声威，强索财物，更是引起诸国的反感。因此，楼兰、车师等国在匈奴的支持下，阻断交通，劫杀汉使。如果不断然采取措施，西域交通存在着被匈奴重新阻断的可能。因此，武帝决心以武力保卫西域道路的畅通。
元封三年（前108），武帝派遣将军赵破奴率数万骑击楼兰、车师，曾经出使过楼兰的使者王恢奉命佐助赵破奴。王恢先率轻骑七百人突袭楼兰，俘获楼兰王；随后，赵破奴率数万兵击破车师。此役是汉军在西域进行的第一次军事行动，不仅保障了敦煌以西的交通安全，汉长城也延伸至玉门关；而且也向西域诸国显示了汉朝强大的军事实力，对动摇于匈奴与汉朝之间的西域诸国起到强烈的震慑作用。楼兰王向汉朝称臣献贡，与匈奴的关系逐渐疏远。元封六年，乌孙遣使至汉，请求和亲。在这种形势下，匈奴怨恨乌孙、楼兰，而集中全力经营车师，并联合大宛等国，扣留或截杀大月氏、大夏等国与汉朝的使团及商队，骚扰阻断丝路西段的交通。为了打破匈奴对大宛的控制，并夺取汗血马，武帝因此发动二伐大宛的战役。
大宛位于今中亚费干纳盆地，是西域南北二道会合后西行的必经之地，地理位置十分重要，而且以盛产汗血马而闻名。太初元年（前104），武帝听说大宛贰师城有善马，想获得大宛善马改良中原马种，于是命期门郎车令携千金及金马前往大宛交换。大宛距汉遥远，素来只敬畏匈奴，又自珍宝马，所以拒绝了汉使的请求。车令一介武夫，被拒绝后怒气冲天，厉声辱骂，椎破金马后起程回国。大宛王毋寡与贵臣受辱后也大怒，于是联合位于其东边的郁成王拦路截杀车令等人，尽掠财物而去。消息传到长安，武帝怒不可遏，立即任命李广利为贰师将军，率属国骑六千人及各郡国不法少年数万人征伐大宛。
李广利率西征军出玉门关后，必须穿越道路险恶的盐泽（今罗布泊地区）西行，在茫茫的沙漠戈壁之中无法找到足够的淡水供大军所用，不少士卒倒毙途中，等到走出盐泽，早已疲惫不堪。西域北道各国在匈奴的策动下，断绝对汉军的给养，并不断地袭击汉军。李广利率领汉军尚未抵达大宛，就被西域小国郁成击败，死伤惨重，只好退兵。武帝大怒，遣使至敦煌，于玉门关上宣布诏命：“有敢入玉门关者斩之！”李广利不敢入关，屯居关外待命。虽然“公卿议者皆愿罢宛军，专力攻胡”，但武帝认为：“天子业出兵诛宛，宛小国而不能下，则大夏之属渐轻汉，而宛善马绝不来，乌孙、轮台易苦汉使，为外国笑。”于是将言伐宛不便者邓光等人治罪，“赦囚徒扜寇盗，发恶少年及边骑，岁余而出敦煌六万人，负私从者不与，牛十万，马三万匹，驴橐驼以万数赍粮，兵弩甚设。天下骚动，转相奉伐宛”。
太初四年（前101），李广利第二次伐大宛。此次出征兵众势盛，匈奴与西域诸国不敢截击，顺利抵达大宛贰师城。大宛众贵人见形势危急，于是谋杀大宛王毋寡，被迫与汉军讲和，献善马三千匹，并约定以后每年贡献汗血马二匹。李广利终于以数万人死伤的惨重代价将大宛征服，结盟而返。武帝不惜倾注人力物力二伐大宛，夺取大宛善马固然是一个原因，但更重要的因素在于通过征服大宛，宣扬大汉的国威，抵消匈奴在西域的影响。事实也是如此，汉军西征时所经过的一些西域小国，震于汉军声威，都纷纷遣子入汉，称臣纳贡，转而依附汉朝。
汉武帝在征服大宛后，随即与匈奴展开对车师的争夺。车师位于今新疆吐鲁番盆地，王治交河城（今新疆吐鲁番西北），是中原通往西域的第二道门户（第一道指楼兰），而且车师在楼兰之北，与匈奴相邻，早在汉初就臣服于匈奴。这种特定的地理位置，必然要成为汉匈反复争夺的焦点。自武帝从天汉二年（前99）始夺车师以来，直至宣帝神爵二年（前60）才最终领有车师。在长达二十多年的时间中，围绕着车师，汉匈共进行了五次规模较大的争夺战。
虽然在元封三年，汉将赵破奴曾攻破车师，不过那时武帝还没有考虑占领车师的问题，所以汉军很快撤走，只能是一种尝试性的争夺。天汉二年，武帝决心占领车师，以保证北道的安全，于是命李广利、李陵等分出酒泉、居延北击匈奴，另遣匈奴降者开陵侯率楼兰国兵击车师。李广利被匈奴所围，几乎不能脱身；而李陵则兵败身降。匈奴右贤王在击退李广利后，率数万骑救车师，开陵侯见形势不利，引兵而还。在一夺车师中，以汉军的失败而告终。
征和三年（前90），武帝遣李广利、商丘成、马通三将军分出五原、西河、酒泉北击匈奴。马通率部将经过车师之北，武帝恐怕车师袭击汉军，又遣开陵侯率楼兰、尉犁、危须等六国兵围车师。此时匈奴自顾不暇，无法前往增援，车师王降服，臣属于汉。在二夺车师中，汉军征服了车师。
车师是匈奴在西域的重要基地，自然不肯轻易退出，特别是在昭帝元凤四年（前77），亲匈奴的楼兰王安归被汉使傅介子刺杀后，安归之弟尉屠耆被汉朝立为王，更其国名为鄯善，移都城于扜泥城（今新疆若羌），南道的门户已经被汉朝牢固控制的情况下，车师对于匈奴就更为重要。元平元年（前74），匈奴派遣四千骑兵前往车师屯田，车师又倒向匈奴，出兵与匈奴共侵乌孙。本始三年（前71）春，宣帝应乌孙昆弥翁归靡的请求，遣度辽将军范明友等五将军率十五万骑，分五道而出，北击匈奴；又命校尉常惠持节监护乌孙兵五万，从西方击匈奴。屯田于车师的匈奴骑兵得知汉五路大军齐出，乌孙兵即将西至，一哄而散。在三夺车师中，车师复通于汉。
匈奴得知车师再次臣服于汉后大怒，命车师王遣太子军宿入匈奴作为人质，军宿不愿入质于匈奴，逃归其外祖父家焉耆，车师王于是改立乌贵为太子。乌贵继承王位后，与匈奴联姻，又倒向匈奴。地节二年（前68），汉遣侍郎郑吉率士卒屯田于渠犁，垦荒积谷，准备进攻车师。第二年秋收之后，郑吉与校尉司马熹发西域诸国兵万余人及屯田士卒一千五百人围攻车师，车师王乌贵请求归附。匈奴得知车师降汉，发兵攻击，但被郑吉与司马熹击退。郑吉留下少许士卒守护车师王，自率大军回渠犁田所。车师王唯恐匈奴复来被杀，弃国逃至乌孙，匈奴遂立车师王弟兜莫为王。兜莫不敢再居车师故地，于是率领残余部众迁徙至博格多山北麓，设王治于务涂谷（今新疆奇台西南，车师后国王治）；郑吉则发兵三百人于车师故地屯田，充实其地。在四夺车师中，车师分裂为前后二国（或称前后二部）。
自从地节三年（前67），郑吉派遣三百士卒在车师故地屯田之后，匈奴决不甘心失去土地肥沃的车师故地，虚闾权渠单于与众大臣发誓要重新夺回车师，于是数发精锐骑兵袭击屯田于车师的汉军。围绕着车师，汉匈展开了最为激烈的争夺。元康元年（前65），匈奴遣左、右奥鞬王及左大将军击车师交河城，但未能攻下。就在车师纷争之时，位于南道的莎车（王治今新疆莎车）又挑起事端。原莎车王的弟弟呼屠徵杀死汉朝所立的莎车王、乌孙公主（即解忧公主）子万年，并杀汉使奚充国等人，扬言匈奴已攻陷车师，北道诸国皆属匈奴，发兵攻劫南道，与南道诸国歃盟叛汉，南道从鄯善以西皆不通。此时郑吉、司马熹正在北道与匈奴争夺车师，对南道莎车等国的叛乱则鞭长莫及。一时间南北二道俱乱，形势极为严峻。此时卫侯冯奉世正护送大宛使者从南道归国，被阻于鄯善伊循城（今新疆若羌东北），遂与副使严昌商议，矫制发西域诸国兵，果断西下平叛，攻陷莎车城（今新疆莎车），莎车王自杀，诸国悉平，汉朝重新控制了南道。南道虽然平定，北道车师局势依旧紧张。元康二年五月，郑吉率渠犁田卒一千五百余人往救车师，结果被匈奴围于交河城。郑吉上书求救，请朝廷增派士卒援助。丞相魏相认为出兵车师道路遥远，耗费太大，建议暂罢车师屯田。宣帝采纳其议，命长罗侯常惠将张掖、酒泉骑兵解车师之围，迎郑吉及其士卒还渠犁，并尽迁车师国民，立原车师太子军宿为车师王，放弃车师故地予匈奴。后郑吉被任命为卫司马，专护鄯善以西的南道。在五夺车师中，车师重被匈奴控制。
匈奴虽然重新夺取车师，控制了北道，可是这一胜利并没有维持多久。神爵二年（前60年，一说为三年），虚闾权渠单于病死，右贤王屠耆堂夺取单于之位，即握衍朐鞮单于，致使匈奴内部权力之争更加激化。匈奴日逐王先贤掸因与单于争权结怨，遂率其部众数万骑降汉，骑都尉郑吉发兵迎之。日逐王的辖区在匈奴右部的南缘，与西域连界，统领西域的僮仆都尉即由日逐王所派。日逐王先贤掸降汉后，僮仆都尉从此罢废，匈奴在西域的势力彻底瓦解，汉军兵不血刃，重占车师。郑吉因发兵迎降日逐王，破车师，威震西域，并护车师以西北道与鄯善以西南道，故称为“都护”，设都护府于乌垒城（今新疆轮台东北）。西域都护（或作都护西域）之设自郑吉始，从此朝廷政令班行于西域。
自从武帝初年张骞始通西域，至宣帝神爵年间，汉匈争夺西域近七十年，最终实现了断匈奴“右臂”的战略目标。
