漠北之战后，武帝设置了大司马职务，这是军队的最高领导职位，卫青和霍去病都当上了大司马。武帝还颁布法令，使霍去病的官阶和俸禄与卫青一样。从此以后，卫青在朝中渐受冷落，霍去病则日益受到皇上重视。卫青门下的老朋友、门客很多投奔霍去病门下，因为在那里总能获得一官半职，只有任安不肯去。
霍去病为人寡言少语，不露声色，但他敢作敢为，很有气魄。武帝曾经想让他去学习孙子和吴起的兵法，他回答说：“作战的时候只要讲究具体的策略就行了，不必拘泥于古人的兵法。”武帝为他修建了住宅，让他看看是否满意。霍去病推辞说：“匈奴未变，何以家为！”他的这种气魄深得武帝的喜爱。
霍去病因为从小就跟在皇上身边，过惯了显贵的日子，因此不懂得体恤将士。他率军出征，武帝常派人送给他几十辆车的食物作为犒劳。他回来的时候，车上还剩有许多米和肉，但他军中有些士兵却在忍饥挨饿。他在塞外打仗时，士兵由于缺少粮食，有的饿得都站不起来，可霍去病仍然在画地做球场，玩踢球游戏。
霍去病成为骠骑将军之后，率军经过平阳县所在的河东郡（今山西夏县西北），河东太守出郊相迎，背着弩矢开道，霍去病到了平阳驿站，派人接来霍仲孺跪谢道：“我早先不知道是大人之子，没有尽孝。”霍仲孺愧不敢当，也俯首叩头道：“老臣能生就将军，那是上天之力。”霍去病给父亲置办了大量的田宅奴婢后，随即出征。回来路过时又去探望，并将霍仲孺在平阳家中的另一个儿子霍光带到长安，他保举这位10多岁的同父异母兄弟为郎，不久霍光在内廷做了侍中。
元朔六年，霍去病从漠北之战回来三年后去世，年仅24岁。武帝对他的死很悲伤，命令投降的属国匈奴，穿上黑色盔甲，从长安到茂陵排成军阵来为霍去病守灵，为他修建的坟墓像祁连山一样，以彰显他抗击匈奴的奇功。武帝认为霍去病威武刚强，并有开辟疆土、征服边远之敌的功劳，因此合并了“刚武”和“广地”两层意思，给他谥号为“景桓侯”。霍去病的儿子霍嬗继承了他的爵位，武帝很喜欢霍嬗，希望他长大成人也能带兵打仗，任命他为奉车都尉。六年后，霍嬗跟随武帝封禅泰山，在途中生病去世。霍嬗没有子嗣，撤销封国。
霍去病去世后，他的同父异母弟霍光被任命为奉车都尉，并为执掌议论的光禄大夫。二十多年后，霍光被临终前的汉武帝任命为大司马大将军，受诏辅佐少主，成为多年权倾朝野的第一人臣。正如霍去病所期望的，他的家族走入了更进一步的兴盛时期。
霍去病，这位在24岁便英年早逝的汉朝杰出将领，他的一生虽短暂，如流星划过夜空，却铸就了无数令人传颂的辉煌事迹。霍去病用兵灵活，注重方略，不拘古法，用“变数”和“速度”打造自己的战略舞台，开创了对匈奴的新战法，他是闪电战的鼻祖；他在缺乏后勤保障的草原作战中夺取匈奴粮草补充军需，“以战养战”，展现了他极高的战场应变能力。他一生数次指挥大军与匈奴作战，且每战都是孤军奋战，哪怕深入敌后，也能把匈奴杀得片甲不留，以少胜多对他来说已是常态，他的名字足以让敌人闻风丧胆。
霍去病是一个代表着神奇、青春、热血的名字，后人对霍去病的仰慕和喜爱，不仅是对少年英雄的怀念与哀思，更重要的是，霍去病打的战役是汉民族战争史中最为荡气回肠的，他的胜利已成为的一种精神象征的丰碑，整个汉民族为之骄傲，它鼓舞感召着一代又一代的汉族儿女。他那句“匈奴未灭，何以家为”的豪言壮语更让无数性情汉子血脉贲张，成为了历代名将激励自己的座右铭。