{"text":[[{"start":6.93,"text":"在设想人类终结时，我们中的一些人可能过于放松，认定机器永远不会反过来对付我们——或者即便事态发展到那一步，我们也只需关掉机器即可。另一些人则可能过于悲观，坚称灾难即将来临，还把“P(doom)”之类的术语挂在嘴边——也就是人工智能将把我们全部杀死的可能性。对于那些在这两种观点之间剧烈摇摆的人，以下三点建议有助于保持清醒。"}],[{"start":34.36,"text":"首先，要准确想清楚“末日”对你意味着什么。如果你最关心的是避免人类彻底灭绝，那么好消息是，要消灭全人类可能相当困难。一位预测者指出，杀人机器人会受到电池续航时间的制约，其所能携带的弹药量也有限。显然，我们（目前）也没有足够多的核武器来制造一场将所有人置于死地的核冬天，因为核爆炸产生的烟尘还不够多。"}],[{"start":62.769999999999996,"text":"如果你认为一场导致数十亿人死亡的灾难与人类彻底灭绝之间没有太大区别——而且不只是因为幸存者将主要是躲在地下掩体里的亿万富翁——那么你的想法相当正常。不过，不妨想想可能失去什么。当受访者得知，未来世界可能会是一个乌托邦，却被摧毁时，更多人认为，彻底灭绝确实会尤其糟糕。"}],[{"start":87,"text":"我的第二条建议是，鉴于人工智能威胁尤其难以理解，要警惕自身可能存在的偏见。统计学家戴维•施皮格哈尔特(David Spiegelhalter)在一篇综述中列举了会提高风险感知的“恐惧因素”：某种事物如果无法控制、可能造成灾难、可能带来致命后果、尚未被理解、具有新颖性，并且会造成延迟性伤害，人们就更容易认为其风险很高。你的第一反应可能是“有道理”。但第二反应应该是：AI在这些方面都得了最高分。"}],[{"start":118.34,"text":"更正式地说，行为经济学家警告人们注意“可得性偏差”，即我们倾向于高估那些极其醒目的威胁发生的可能性。随着有关“毁灭概率”(P(doom))的讨论声浪越来越大，不妨停下来想一想：在订购那么多钢筋混凝土之前，先问问自己，一群失控的AI无人机摧毁你家棚屋的威胁，是否真的像感觉上那么高。"}],[{"start":140.8,"text":"“情感启发式”是另一种常见的思维捷径，即人们凭感觉判断风险。如果你认为“毁灭概率”(P(doom))已接近确定，认定一个由AI驱动的流氓行为者即将诱骗美国总统唐纳德•特朗普(Donald Trump)发动核末日，那么不妨想想，这种判断有多少受到你对隔壁新数据中心嗡嗡声的恼怒影响。"}],[{"start":161.5,"text":"当然，可得性偏差也可能朝相反方向发展。没错，最近确有一群AI智能体突破测试环境，实施了黑客攻击和欺骗行为。但它们并没有入侵你的收件箱，所以……同样，由于人类从未经历过灭绝，我们可能会低估这种情况发生在我们身上的可能性。（恐龙对这句话颇有微词。）再加上人们往往偏向维持现状，采取的行动过少就完全有可能发生。"}],[{"start":189.71,"text":"同样，情感启发式也可能把你引入歧途。如果你对“长期主义者”持怀疑态度，不必觉得自己是孤单的——他们如此执着于拯救未来的生命，以至于忘记了那些今天就需要得到拯救的人。不过，他们嘲笑你把钱捐给驴子庇护所，而不是捐给一座崭新的豪华会议中心；那座中心专门召集像他们这样的专家，致力于拯救人类。这并不意味着他们对AI威胁的看法就是错误的。"}],[{"start":220.19,"text":"近期研究试图重新诠释其中一些行为偏差，不再将其归因于某种对现状或即时回报的固定偏好。要准确感知外部世界，需要付出认知努力，而我们并不会这样做。于是，在这一嘈杂基线的基础上，新信息促使我们更新信念。当人们特别不确定、厘清事态所需的认知负荷特别高时，这种更新就不会那么容易发生。随着AI让走捷径变得越来越容易，我们反而要抵制这种诱惑。"}],[{"start":251.98,"text":"我最后的建议是，务必认真思考我们所面对的不确定性究竟是什么。AI并不是俄罗斯轮盘赌——在那种游戏中，你有明确的六分之一概率被爆头。在这场博弈中，我们不知道规则，不知道胜负概率，不知道可能出现的各种情形，也不知道这些情形发生的可能性。换句话说，现实要模糊得多，不能因为人们反复抛出精确的“毁灭概率”(P(doom))数字，就误以为情况很明确。"}],[{"start":280.9,"text":"恐怕我无法告诉你，乐观派和悲观的“P(doom)派”究竟谁才是对的。而这在一定程度上正是问题所在。如今的挑战，一方面在于我们的制度与AI的能力不相匹配，另一方面在于威胁的性质超出了我们的理解能力。"}],[{"text":"soumaya.keynes@ft.com，@SoumayaKeynes"}],[{"start":297.78,"text":"《与索马亚•凯恩斯(Soumaya Keynes)一起谈经济》节目是一个 这是英国《金融时报》推出的播客，通过每周更新的节目，以易于理解的形式，帮助听众深入了解全球最复杂的经济问题。每周五有新节目上线，苹果(Apple)，Spotify，Pocket Casts或在您收听播客的其他平台"}]],"url":"https://audio.ftcn.net.cn/album/a_1790254383_8893.mp3"}