太初四年冬，匈奴单于为与汉修好，遣使送回以往扣留的汉使路充国等人。天汉元年三月，汉武帝为回报匈奴善意，派中郎将苏武、副中郎将张胜及随员常惠等出使匈奴，送还原被扣的匈奴使者，并厚馈单于财物。苏武等到达匈奴后，原降匈奴的汉人虞常等人与张胜密谋，欲劫持单于母亲阏氏归汉。事发后累及苏武，苏武不愿受辱，自杀未成。
单于敬重他，派汉降臣卫律劝降，苏武不为所动。于是单于把苏武幽禁在地窑中，断绝饮食，以此逼他就范。苏武坚持数日不死。匈奴以为神，就将他流放到边远的北海（今贝加尔湖）荒无人烟的地方，放牧羝(dī)羊。
始元二年，匈奴新单于立，遣使者欲与汉朝亲善。汉朝要求匈奴释放苏武。始元六年，苏武等九人由汉使迎接回国。
苏武羁(jī)留匈奴十九年，习知边地民族，归国后被任为典属国，专掌少数民族事务。