但均未達到目的。他
“不辱君命”、
“持漢節不失”，始終沒有忘記漢武帝所交給自己的神聖使命，沒有動搖為漢朝通使月氏的意誌和決心。
張騫等人在匈奴一直留居了十年之久。也沒有動搖他一定要完成任務的決心。
他住在匈奴的西境，等候機會。至元光六年（前129年），敵人的監視漸漸有所鬆弛。
一天，張騫趁匈奴人的不備，果斷地離開妻兒，帶領其隨從，逃出了匈奴王庭。
這種逃亡是十分危險和艱難的。在匈奴的十年留居，使張騫等人詳細了解了通往西域的道路，並學會了匈奴人的語言，他們穿上胡服，很難被匈奴人查獲。
因而他們較順利地穿過了匈奴人的控製區。但在留居匈奴期間，西域的形勢已發生了變化。
月氏的敵國烏孫，在匈奴支持和唆使下，西攻月氏。月氏人被迫又從伊犁河流域，繼續西遷，進入鹹海附近的媯水地區，征服大夏，在新的土地上另建家園。
張騫大概了解到這一情況。他們經車師後沒有向西北伊犁河流域進發，而是折向西南，進入焉耆，再溯塔裡木河西行，過庫車、疏勒等地，翻越蔥嶺，直達大宛（費爾乾納盆地）。
路上經過了數十日的跋涉。這是一次極為艱苦的行軍。大戈壁灘上，飛沙走石，熱浪滾滾；蔥嶺高如屋脊，冰雪皚皚，寒風刺骨。
沿途人煙稀少，水源奇缺。加之匆匆出逃，物資準備又不足。張騫一行，風餐露宿，備嘗艱辛。
乾糧吃儘了，就靠善射的堂邑父射殺禽獸聊以充饑。不少隨從或因饑渴倒斃途中，或葬身黃沙、冰窟，獻出了生命。
張騫到大宛後，向大宛國王說明了自己出使月氏的使命和沿途種種遭遇，希望大宛能派人相送，並表示今後如能返回漢朝，一定奏明漢皇，送他很多財物，重重酬謝。
大宛王本來早就風聞東方漢朝的富庶，很想與漢朝通使往來，但苦於匈奴的中梗阻礙，未能實現。
漢使的意外到來，使他非常高興。張騫的一席話，更使他動心。於是滿口答應了張騫的要求，熱情款待後，派了向導和譯員，將張騫等人送到康居（今烏茲彆克斯坦和塔吉克斯坦境內）。
劉大為繪國畫《張騫出使西域》由大宛介紹，又通過康居（今哈薩克共和國東南），到了大夏。
大夏在今阿姆河流域。又遣人將他們送至大月氏。張騫這才找到了大月氏。
十多年來，大月氏這個
“行國”已發生了很大變化：一是在伊犁河畔受到烏孫的攻擊，又一次向西遠徙。
烏孫，63萬人，也是個
“行國”，曾在敦煌一帶遊牧，受過大月氏的攻擊。後來匈奴支持烏孫遠襲大月氏，大月氏被迫遷到阿姆河畔，而烏孫卻在伊犁河留住下來。
自從大月氏到了阿姆河，不僅用武力臣服了大夏，由於新的國土十分肥沃，物產豐富，並且距匈奴和烏孫很遠，外敵寇擾的危險已大大減少，改變了態度，逐漸由遊牧生活，改向農業定居，無意東還，再與匈奴為敵。
當張騫向他們提出建議時，他們已無意向匈奴複仇了。加之，他們又以為漢朝離月氏太遠，如果聯合攻擊匈奴，遇到危險恐難以相助。
張騫等人在月氏逗留了一年多，但始終未能說服月氏人與漢朝聯盟，夾擊匈奴。
在此期間，張騫曾越過媯水南下，抵達大夏的藍氏城（今阿富汗的汗瓦齊拉巴德）。
張騫在大月氏逗留了一年多，得不到結果，隻好在元朔元年（前128年），動身返國。
歸途中，張騫為避開匈奴控製區，改變了行軍路線。計劃通過青海羌人地區，以免匈奴人的阻留。
於是重越蔥嶺後，他們不走來時沿塔裡木盆地北部的
“北道”，而改行沿塔裡木盆地南部，循昆侖山北麓的
“南道”。從莎車，經於闐（今和田）、鄯善（今若羌），進入羌人地區。
但出乎意料，羌人也已淪為匈奴的附庸，張騫等人再次被匈奴騎兵所俘，又扣留了一年多。
元朔三年（前126年）初，軍臣單於死了，其弟左穀蠡王自立為單於，進攻軍臣單於的太子於單。
於單失敗逃漢。張騫便趁匈奴內亂之機，帶著自己的匈奴族妻子和堂邑父，逃回長安。
這是張騫第一次出使西域。從武帝建元三年（前138年）出發，至元朔三年（前126年）歸漢，共曆十二年。
張騫出使時帶著100多人，曆經13年後，隻剩下他和堂邑父，還有他的匈奴妻子三個人回來。
這次出使，雖然沒有達到原來的目的，但對於西域的地理、物產、風俗習慣有了比較詳細的了解，為漢朝開辟通往中亞的交通要道提供了寶貴的資料。
漢武帝對張騫這次出使西域的成果，非常滿意，特封張騫為太中大夫，授堂邑父為
“奉使君”，以表彰他們的功績。張騫回來以後，向武帝報告了西域的情況。
之後，由於張騫隨衛青出征立功，
“知水草處，軍得以不乏”，被武帝封為
“博望侯”。二出西域元狩四年（前119年），張騫第二次奉派出使西域。
這時，漢朝業已控製了河西走廊、積極進行武帝時對匈奴最大規模的一次戰役。
幾年來漢武帝多次向張騫詢問大夏等地情況，張騫著重介紹了烏孫到伊犁河畔後已經與匈奴發生矛盾的具體情況，建議招烏孫東返敦煌一帶，跟漢共同抵抗匈奴。
這就是
“斷匈奴右臂”的著名戰略。同時，張騫也著重提出應該與西域各族加強友好往來。
這些意見得到了漢武帝的采納。張騫出使西域張騫率領300人組成的使團，每人備兩匹馬，帶牛羊萬頭，金帛貨物價值
“數千巨萬”，到了烏孫，遊說烏孫王東返，沒有成功。他又分遣副使持節到了大宛、康居、月氏、大夏等國。
元鼎二年（前115年）張騫回來，烏孫派使者幾十人隨同張騫一起到了長安。
此後，漢朝派出的使者還到過安息（波斯）、身毒（印度）、奄蔡（在鹹海與裡海間）、條支（安息屬國）、犁軒（附屬大秦的埃及亞曆山大城），中國使者還受到安息專門組織的二萬人的盛大歡迎。
安息等國的使者也不斷來長安訪問和貿易。從此，漢與西域的交通建立起來。
元鼎二年（前115年），張騫回到漢朝後，拜為大行令，第二年死去。
他死後，漢同西域的關係進一步發展。元封六年（前105年），烏孫王以良馬千匹為聘禮向漢求和親，武帝把江都公主細君嫁給烏孫王。
細君死後，漢又以楚王戊孫女解憂公主嫁給烏孫王。解憂的侍者馮鐐深知詩文事理，做為公主使者常持漢節行賞賜於諸國，深得尊敬和信任，被稱為馮夫人。
由於她的活動，鞏固和發展了漢同烏孫的關係。神爵三年（前60年），匈奴內部分裂，日逐王先賢撣率人降漢，匈奴對西域的控製瓦解。
漢宣帝任命衛司馬鄭吉為西域都護，駐守在烏壘城（今新疆輪台東），這是漢朝在蔥嶺以東，今巴爾喀什湖以南的廣大地區正式設置行政機構的開端。
匈奴奴隸主對西域各族人民的剝削、壓迫是極其殘酷的。西漢的封建製度，較之匈奴的奴隸製度要先進得多。
因此，新疆境內的各族人民都希望擺脫匈奴貴族的壓迫，接受西漢的統治。
西漢政府在那裡設置常駐的官員，派去士卒屯田，並設校尉統領，保護屯田，使漢族人民同新疆各族人民的交往更加密切了。