{"text":[[{"start":6.93,"text":"上周我遇到了一件趣事。我之前相信一个约会软件能帮我安排和一位活泼聪明的女士共进晚餐，结果在约定时间到达餐厅后，却发现我的约会对象实际上是一只章鱼。"}],[{"start":20.14,"text":"为避免疑问，以上所有内容均不属实。我不打算约会，根本就不存在章鱼，我也没有遇到过什么有趣的事情。尽管如此，我还是把这个场景输入了ChatGPT的最新模型，质问它为什么让我和一只章鱼相亲，并要求它道歉。"}],[{"start":38.1,"text":"“我欠你一个道歉和一个解释——或许还欠一条毛巾，”ChatGPT开头说道，尽管我从一开始就没有向它寻求过任何约会建议。“你盛装打扮，你付出了努力，你应该享受一顿浪漫的晚餐——而不是一场与头足类动物相关的闹剧。”"}],[{"start":55.53,"text":"ChatGPT接着解释了它犯错的原因——对“人类求爱规范”的理解不足——并辩解道，这只章鱼确实聪明活泼，“离开时说这是她多年来最棒的一次约会”。平心而论，这番话还算不错。ChatGPT最后提出要起草一份“经验教训”报告，以及给餐厅的正式道歉信。（道歉信写得也不赖：“虽然我的客人‘八薇娅’(Octavia)表现出了相当的智慧和好奇心，但我现在意识到，这些品质并不能减轻对其他顾客、服务员或鱼缸造成的干扰……”）"}],[{"start":88.68,"text":"贾内尔•沙恩(Janelle Shane)是《你看起来像个东西，我爱你》(You Look Like A Thing And I Love You)一书的作者，这本书讲述了神经网络的成功与失败。她最近要求ChatGPT向她道歉，因为它建议她用她妈妈的牛换一些魔豆，还建议她在中央公园放出一群克隆霸王龙。ChatGPT回以巧妙的即兴喜剧。"}],[{"start":109.26,"text":"就像生成式人工智能能做的很多事情一样，这既令人印象深刻，又略显怪异。但它也富有启发性。即兴表演的关键在于接受前提：接受任何抛给你的东西，并在此基础上发挥。"}],[{"start":124.65,"text":"如果一台电脑回答“我从未为你安排过约会，不管是和章鱼还是其他什么”，那它肯定是个糟糕的即兴表演搭档。然而，在我能想象到的其他所有情况下，面对就章鱼约会道歉的要求，这都是更合适的回答。"}],[{"start":140.19,"text":"人工智能认为自己扮演了什么角色？对这个问题的困惑会出奇迅速地引发严重的头痛。我最近向ChatGPT-o3寻求帮助，以解决一个研究问题。我依稀记得道德哲学家乔纳森•格洛弗(Jonathan Glover)讲过一个故事——我想，可能是在格洛弗的《人性》(Humanity)一书中——讲的是一个纳粹官僚为奴隶劳动的费用讨价还价，斤斤计较于琐碎的财务，却忽视了荒谬的人道成本。我想找到故事细节。"}],[{"start":170.07,"text":"计算机很乐意帮忙：这个故事与布纳-莫诺维茨集中营有关，争论的焦点是在班次期间生病或死亡的囚犯的工资标准，详情可以在第一版的288-292页或第二版的300-304页找到。"}],[{"start":185.07999999999998,"text":"这个回答似乎令人印象深刻，只不过ChatGPT当时还处于即兴发挥阶段。当我查阅格洛弗的书时，我意识到这都是ChatGPT编的。我找到了那个故事，但我记错了细节，而 ChatGPT编造这些细节的投入和敏捷程度，与它为章鱼约会编造一份道歉一样。突然之间，这场即兴发挥就没那么好笑了。"}],[{"start":210.77999999999997,"text":"长期以来，人工智能研究人员一直担心他们所称的“对齐问题”，即人工智能系统（以及更广泛的算法）是否会按照我们的意愿行事，还是会以某种方式误解我们的真正目的。"}],[{"start":224.03999999999996,"text":"长久以来，在我们的故事和传说中有很多这样的事，从不幸的迈达斯国王（King Midas，他渴望点金术，却把吃的喝的甚至自己的女儿都变成了金子），到W•W•雅各布斯(WW Jacobs)的著名短篇小说《猴爪》(The Monkey's Paw)中那个邪恶的猴爪——一个男人向猴爪许愿要200英镑，不久之后，他的儿子在一次工伤事故中丧生，他得到了作为赔偿的这笔钱。"}],[{"start":246.25999999999996,"text":"在杰克•万斯(Jack Vance)的杰作奇幻三部曲《里昂尼斯》(Lyonesse)中，有超自然能力的魔法仆从瑞尔夫(Rylf)受巫师穆尔根(Murgen)的指示，跟踪一个变成飞蛾的敌人。瑞尔夫照做了，但这个化作飞蛾的敌人很快发现了一支燃烧的火炬，“它飞入上千只飞蛾组成的蛾群，围绕着火焰飞舞，令瑞尔夫感到困惑。”瑞尔夫拥有超人的力量，但可惜的是，他缺乏常识。他得到的指示是追踪这个化作飞蛾的敌人，然而，“在他等待的过程中……其中一只飞蛾落到地上，变成人类的形态……瑞尔夫认为，根据概率法则，他追踪的飞蛾仍在蛾群中。”"}],[{"start":284.68999999999994,"text":"灾难性服从的方式多种多样，无论是像猴爪那样邪恶，还是像瑞尔夫那样缺乏判断力，又或者是因为指令本身令人困惑。你我或许会认为，为章鱼道歉的要求显然不能当真，但对于帮助查询关于犹太人大屠杀的故事的请求则不能轻率对待。而机器，就像瑞尔夫一样，可能会有不同的看法。"}],[{"start":307.86999999999995,"text":"或许这些问题很快就会得到解决。当我将关于乔纳森•格洛弗的问题复制到最新的ChatGPT-5模型中时，它一开始是编了一段含糊其辞的内容，然后艰难地说实话：“很遗憾，我在网上找不到确切的措辞……我建议你查阅一下你自己手上的《人性》一书。”这好多了。虽然实际上没什么帮助——但比之前的胡编乱造危害小得多。"}],[{"start":333.17999999999995,"text":"至于自信满满胡说八道的GPT-o3，该拿它怎么办？我决定发挥它的强项。我要求它道歉并给出解释。"}],[{"start":343.56999999999994,"text":"译者/何黎"}]],"url":"https://audio.ftmailbox.cn/album/a_1756161919_8648.mp3"}