{"text":[[{"start":9.44,"text":"本周，唐纳德•特朗普(Donald Trump)总统和习近平主席将举行会晤，然而本次峰会取得的最重大进展，也许比中国领导人抵达华盛顿的时间还要早几天。预计他将在周三夜间抵达。上周末，美国财政部长斯科特•贝森特(Scott Bessent)与中国副总理何立峰已就建立美中人工智能(AI)正式对话机制达成一致。美方还提议建立相互通报机制，在遇到有足以引发国家安全担忧的严重AI事故时向对方作出通报——让人想起美苏在古巴导弹危机后设立的核热线。这些尝试性的举措可能是朝着为全球最危险的技术竞赛设立“护栏”迈出的第一步。"}],[{"start":51.66,"text":"近期的末日警告主要集中在AI可能反噬其人类创造者的风险上。然而，美中两国为争夺AI领先地位而展开的激烈竞争意味着，就以什么方式放缓尖端模型开发达成一致——尽管可取——很可能成为华盛顿与北京之间最具争议的问题。特朗普将AI末日说斥为“骗局”。北京方面则将美方限制前沿模型的任何言论，都视为试图将中国锁定在AI竞赛第二的位置——尽管鉴于中国的开源模型已成为一项重要出口产品，消除人们对AI安全性的担忧也符合北京的利益。（美国官员暗示，相比AI对人类构成的风险，中国似乎更担忧它会对中共的控制构成什么风险）。"}],[{"start":97,"text":"尽管存在种种猜忌，但华盛顿与北京面临共同的脆弱性：在这些薄弱环节开展合作符合双方利益，也可能构成美中AI对话的基础。首先是强大AI落入非国家行为体手中的风险。先进AI使得恐怖分子、怀有恶意的非国家组织甚至有组织犯罪集团能够更轻易地从事各种活动——从研发生物武器到针对电信、能源、交通网络或金融市场发动网络攻击。"}],[{"start":126.45,"text":"一个关联危险在于，智能体可能逃脱测试环境，自行攻击外国企业或基础设施。就管控访问权限、识别客户、测试模型与建立控制机制的基线标准达成共识，可能是降低风险的开端。由AI主导的事故可能以极快的速度展开，找出肇事者（或者引发事故的因素）的时间被大幅压缩，这也可能引发螺旋式上升的报复行动。这使得习近平有理由在与特朗普会晤时支持美国提出的AI事故“热线”方案。"}],[{"start":160.01,"text":"同样，双方也需要就武器与核武器系统中使用的AI制定清晰的接触规则。这方面已经建立起了一个重要的基础：2024年11月，习近平与时任美国总统乔•拜登(Joe Biden)达成共识，人类应该保留对核武器使用的控制。但自那以后没有任何进展，即便AI技术已经取得巨大飞跃。双方的安全专家从2019年起一直在提出建议，应该可以成为中美AI对话中有用的素材。这些建议包括设定“绝对”红线，禁止AI系统作出发射核武器的自主决定；任何由AI驱动的针对敌方核控制系统的网络攻击都须经过人的授权；以及就什么是对武器系统“有意义的人类控制”的精确定义达成共识。"}],[{"start":206.73,"text":"首条美苏核武器热线是为了应对一场将世界推向冲突边缘的僵局。美中AI谈判者的任务是：在一种飞速发展的技术造成任何此类擦枪走火——或者真正的灾难性事件——之前，设定好一个安全框架。"}],[{"start":223.85,"text":"译者/何黎"}]],"url":"https://audio.ftcn.net.cn/album/a_1790154673_4788.mp3"}