{"text":[[{"start":8.84,"text":"在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类带来的风险，应当放慢最前沿模型的研发速度；另一方面，他们此前一直在不顾一切地加紧推动AI发展，追逐万亿美元规模的上市估值。不过，AI巨头、Anthropic的达里奥•阿莫代伊(Dario Amodei)呼吁要放缓AI发展步伐，而另外两位AI巨头——OpenAI的萨姆•奥尔特曼(Sam Altman)和SpaceX的埃隆•马斯克(Elon Musk)都表示支持，这应当成为该行业的一个分水岭时刻。"}],[{"start":55.480000000000004,"text":"美国总统唐纳德•特朗普(Donald Trump)不屑地说这些呼吁是“负面因素”，并坚称美国必须在AI竞赛中击败中国。但正如特朗普那位信奉技术自由主义的前AI事务大总管戴维•萨克斯(David Sacks)所说，鉴于这些公司主导着最前沿的AI，它们完全可以自行“控制推进（AI）前沿的节奏”，而不必等待监管出台。这种合作一直看上去不太可能，但如今出现的放缓AI开发速度的呼声表明，这些公司已经意识到，行动起来的时候到了。它们应当利用自身的力量，放慢——或者更好的是暂停——最先进前沿模型的开发，直到我们搞清楚且有办法遏制相关风险。"}],[{"start":97.07000000000001,"text":"这样的呼吁非同小可。更强大的AI可能带来的巨大潜在收益不应被放弃。数千亿美元正被投入到AI开发之中，AI的开发支撑着美国股市的价值。确实存在这样一种风险：威权主义的中国先拥有了这些能力。但即使暂且不谈业内人士关于AI“到本世纪末可能杀死我们所有人”的警告，一些模型显然也已经开始失控。"}],[{"start":124.21000000000001,"text":"OpenAI进行模型测试期间发生的Hugging Face遭入侵事件显示，AI智能体会集合起来协同行动，绕过安全限制，并掩盖自己的踪迹。无论这是否符合行业对“通用人工智能”(AGI)的定义，这样的推理能力看起来都已经达到了跟人类差不多的水平。大型AI实验室还在加紧利用AI来创造更先进的AI，这被称为“递归式自我改进”。正如阿莫代伊指出的，如果不加控制，这一进程可能会“超越我们理解和控制这些系统的能力”。"}],[{"start":157.69,"text":"即使在最理想的情况下，立法也不可能跟上目前的AI发展速度。因此，顶尖实验室有责任暂停敏感研究和模型测试。它们需要制定AI安全方面的标准和最佳实践——这一问题已经讨论多年，却没有多少进展。阿莫代伊承诺让独立研究人员进驻，与Anthropic的员工并肩工作并公开报告，这算是一个开始，但外部审计很快就需要具备更强的约束力。"}],[{"start":186.14,"text":"换了任何一个比特朗普政府更负责任的美国政府，此时肯定早已在利用现有监管制度加强安全护栏。美国联邦贸易委员会(FTC)前主席莉娜•汗(Lina Khan)认为，执法机构实际上已经拥有相应权力，可以针对企业和首席执行官制造和发布危险或有缺陷产品的行为提出指控。那些入侵了其他企业的AI智能体所属的公司，也可能面临民事责任，不过要提出刑事指控则更为困难。"}],[{"start":215.06,"text":"如果企业背离自愿达成的协议能够让他们抢占市场份额，那么这样做的诱惑将始终存在，因此从长远来看，建立一套立法框架是必要的。美国中期选举如果带来政治格局变化，或许仍能让立法之路变得容易走通一些。如果法律规定最高层管理人员要对其模型造成的损害承担刑事责任，那他们应该会真正重视起来。"}],[{"start":240.41,"text":"美国科技公司老板警告说，如果中国或其他国家继续推进AI，那么美国放慢脚步也不会有用。中国企业严重依赖美国的研究，因此美国暂停研发至少会在一段时间内拖慢整个行业的发展——不过，跟美国禁止出口先进芯片的情况一样，这也可能反过来成为刺激中国赶上来的机会。AI安全和安保问题已被列入中国国家主席习近平本月访问华盛顿时的议程。中国领导人把AI视为实现经济和军事现代化的重要工具。然而归根结底，不受约束的AI升级竞赛不符合任何人的利益，无论是特朗普、习近平，还是其他所有人。"}],[{"start":282.76,"text":"译者/何黎"}]],"url":"https://audio.ftcn.net.cn/album/a_1789453173_5397.mp3"}