武帝得到捷報後，加封霍去病食邑五千四百戶。而跟隨霍去病出征至小月氏的校尉都被封為左庶長，其部下趙破奴、高不識及仆朋均被封侯。
霍去病率五萬騎兵，以將軍李敢等為大校，出代郡、右北平郡，北進兩千多裡，越過離侯山，渡過弓閭河，與匈奴左賢王部接戰，大破匈奴軍，俘虜匈奴屯頭王、韓王等三人及將軍、相國、當戶、都尉等八十三人。
霍去病乘勝追殺至狼居胥山，在狼居胥山舉行了祭天封禮，在姑衍山舉行了祭地禪禮，兵鋒一直逼至北海。
此役，漢軍斬首七萬四百四十三級，自身也損傷十分之三。經此一戰，匈奴被漢軍在漠南蕩滌，匈奴單於逃到漠北，
“匈奴遠遁，而漠南無王庭”，匈奴勢力大為衰退。此戰後，匈奴失去對東北地區的控製。
霍去病將東北的烏桓徙居於上穀、漁陽、右北平、遼西、遼東五郡塞外，為漢偵察匈奴動靜。
漢朝要求其部落大人每年朝見，並置護烏桓校尉，使烏桓不得與匈奴交通。
漢軍回師後，武帝為表彰霍去病的功勞，再增封其食邑五千八百戶。霍去病屬下的將卒也獲得了大量的賞賜，隨他出征的右北平太守路博德、北地都尉邢山、複陸支及伊即靬都分彆獲封侯爵，李敢也一舉獲封關內侯。
同時，武帝設置大司馬位，以大將軍衛青、驃騎將軍霍去病為大司馬。
同時定下法令，使驃騎將軍的俸祿同大將軍相等。從此以後衛青的權勢逐漸減退，而霍去病日趨顯貴。
衛青的老友和門客多半離開了他，而去奉事霍去病，這些人常常因此而得到官爵。
傳聞酒泉因他得名，冠軍二字因他而有，他是所有匈奴人的噩夢英年早逝元狩六年（前117年），因為匈奴伊稚斜單於拒絕對漢稱臣，漢武帝再一次進行戰爭動員，決心殲滅單於主力。
然而在準備過程中，或許是多次領兵出征的勞累，長時間處於艱苦的環境，霍去病卻因病早逝，年僅二十四歲。
漢武帝因此被迫暫時停止了對匈奴的作戰。連環畫中的霍去病霍去病死後，武帝允許他陪葬茂陵，賜其諡號為
“景桓”。武帝對霍去病的死非常悲傷。他特意調遣河西五郡的鐵甲軍，列成陣沿長安一直排到茂陵東的霍去病墓。
他還下令將霍去病的墳墓修成祁連山的模樣，彰顯他力克匈奴的奇功。
唐朝建中三年（782年），唐德宗追封古代名將六十四人，為他們設廟享奠，當中就包括
“大司馬冠軍侯霍去病”。及至宋代政和三年（1113年），宋徽宗將霍去病與丞相公孫弘、大將軍衛青、車騎將軍金日磾配享於漢武帝廟廷。
宣和五年（1123年），宋室依照唐代慣例，為古代名將設廟，七十二位名將中亦包括霍去病。