军卫青，一起征讨匈奴的将军，常年征战身负过重伤，身体不好。元狩二年（公园前121年），父亲被任命为代郡（现河北省蔚县西北）太守，他就跟着照顾父亲到代郡。
为了征讨匈奴，父亲在代郡推行“并农合一”的民兵制度。采取筑房屋，制器物、免赋费的办法。吸引鼓励内地人自愿到塞外安家守田，守卫边疆。
同时父亲对这些守边人实行军事管理，招聘有战斗经验的胡人教练，对年轻人进行骑马射箭的训练。汉武帝高兴地称这为“屯田民兵”。
当时父亲不让他接触训练，可是太守儿子的招牌，使他有经常接近胡人教练和训练的机会，加上他的聪敏，那时他学到了好多实战的办法，如今只是实践罢了。
行军中，苏武让常会和向导在前面带着队伍行进，自己和断后的张胜，在后面走着商量着。他们对在行军中、在夜里休息时所能遇到的危险情况进行了分析，制定了行军和休息时处理险境的应急办法。
最后，他对张胜说：“张大人，关键时刻，要看我的手势行事！”
: