直到了公元前85年,鞮侯单于死了,匈奴内乱生变分成了三个国家。新单于没有力量再跟汉朝打仗,又打发使者来求和。那时,汉武帝已死去,汉昭帝即位。汉昭帝派使者到匈奴去,要单于归还苏武,匈奴谎称苏武已经死了。使者信以为真,就没有再提。
第二次,汉使又到匈奴去,苏武的随从常惠买通匈奴人,私下和汉使者见面,把苏武在北海牧羊的情况告诉了使者。常惠和汉使费尽脑汁商量出一个万全之计。使者见了单于,严厉责备他说:“匈奴既然存心同汉朝和好,就不应该欺骗汉朝。请把苏武归还我们,我们皇上在御花园射下一只大雁,雁脚上拴着一条绸子,上面写着苏武还活着,你怎么说他死了呢?”
单于一听,吓了一大跳,还真的以为苏武的忠义感动了飞鸟,连大雁也替他送消息呢。他连忙向汉使道歉说:“苏武确实还活着,马上放他回去。”
苏武出使的时候满头青丝,年轻精壮,气宇轩昂。在匈奴被活活折磨了十九年,骨瘦如柴,须发全白了。苏武回到长安的那天,长安的官兵百姓倾城而出,迎接这位出使不辱节的大汉使臣。当大家看到白发苍苍的耄耋老人,瘦骨嶙峋,手擎着光秃的节棍一步步蹒跚走来,都感激地留下了热泪。