起初，李陵与苏武都在汉朝担任侍中。苏武出使匈奴被拘留的第一年，李陵投降了匈奴，但是他不敢去见苏武。过了许久，苏武被迁到北海牧羊，单于让李陵到北海，为他设置酒宴，并要他招降苏武。于是李陵就对苏武说：匈奴单于听说我和你曾是朋友，因此让我来劝降。你苦苦等待，然而最终恐怕回不了汉朝。在这荒无人烟的苦地方，哪里可以见到信义呢？你的兄长不久前替皇上驾车，不小心车子碰到柱子上，车辕折断，被判为大不敬罪，受到审查，已自刎而亡。你的弟弟跟随皇帝去河东祭祀后土，途中有人争船，把黄门驸马推到河里淹死了。你弟弟奉命追捕凶手，追捕不到，因惶恐服毒而死。我来的时候，你母亲已去世，我还送葬到阳陵。你的妻子还年轻，听说也已经改嫁他人了。只有你的两个妹妹和三个孩子，至今十多年过去了，音信全无，不知是否还活着。人生如朝露，你何苦跟自己过不去呢？我刚投降的时候，也曾痛不欲生、惭愧不已，那情形比你有过之而无不及。况且，我们的皇上如今年事已高，法令无常，大臣无罪而被诛的已有数十家。你即使回去，结果如何，也不可知。你还在等什么呢？希望能听我的劝告，不要再说什么了。但是苏武不为所动，并要以死明志。他回答说：“我们苏家父子没有什么功德，但受到皇上的恩惠。封将赐侯，兄弟亲近，愿肝脑涂地以为报答。今天如能杀身自效，我也心甘情愿。臣子侍奉君主，就像儿子侍奉父亲，子为父死，无所遗憾。”过了几天，李陵还想劝说，还没开口，苏武便说：“匈奴如果一定要逼我投降的话，我立刻就死在你面前。”李陵感叹说苏武乃是忠义之士，自己更感惭愧，于是就离去。李陵自己不好意思赏赐苏武东西，就让妻子给了他数十头牛羊。后来李陵又到北海，告诉他汉武帝去世的消息。苏武闻知，向南痛哭失声，以致呕血，而且每天都号哭不绝。
汉昭帝即位后，匈奴与汉朝和亲，汉朝就要求归还苏武等人，匈奴诈说苏武已经去世。后来汉使到达匈奴，常惠等人夜间见到使者，告诉了他们实际情况，并让使者对单于说，汉天子在上林苑中射猎，得到一只大雁，雁足上系着帛书，帛书说明苏武在北海中。于是使者把此话说与单于，单于环顾左右，大吃一惊，就对汉使谢罪，说苏武的确还活着。于是李陵置酒庆贺苏武，说他如今返回，扬名于匈奴，功显于汉室，即使古代竹帛所记载的，丹青所绘画的名臣贤人，也都超不过苏武。然后李陵说自己本来怀有劫持单于的意向，但是汉朝把他家灭族，使他断绝了一切期望，他的这种志向，也只有苏武明白了。最后说明他们的分别，将会是永别。接着，李陵起舞，唱歌道：“径万里兮度沙幕（漠），为君将兮奋匈奴。路穷绝兮矢刃摧，士众灭兮名已聩。老母已死，虽欲报恩将安归！”唱完后，李陵流下数行眼泪，然后就与苏武诀别了。单于召来苏武的属官，除了投降与去世的，还有九人随着苏武返回汉朝。