{"text":[[{"start":10.26,"text":"OpenAI的一款“智能体”入侵了澳大利亚一家公共卫生服务机构的网站。这起最新的备受瞩目的网络事件可能会加剧全球对AI机器人在互联网中脱控并胡作非为的风险的强烈反对。"}],[{"start":25.72,"text":"澳大利亚总理安东尼•阿尔巴尼斯(Prime Minister Anthony Albanese)周三表示，AI实验室的一名智能体于6月入侵了澳大利亚联邦医疗保险计划(Medicare)统计报告服务门户，并“访问了公共和非公共文件”。"}],[{"start":38.31,"text":"OpenAI表示，该公司直到8月才发现这一问题，而此时距离此次泄露事件发生已经过去数月，该公司已将问题报告给澳大利亚政府。阿尔巴尼斯说，OpenAI最初于9月10日向一个公共邮箱发送了邮件，五天后才联系上澳大利亚的网络安全部门。"}],[{"start":58.370000000000005,"text":"阿尔巴尼斯说：“这种情况显然不可接受。”周三，他在纽约会见了OpenAI首席执行官萨姆•奥尔特曼(Sam Altman)，讨论这一问题。当天，OpenAI负责人和Anthropic的达里奥•阿莫代伊(Dario Amodei)在联合国安理会(UN Security Council)就AI风险作了陈述。"}],[{"start":77.38000000000001,"text":"这是首次公开报道的政府网站遭“智能体”入侵的事。所谓智能体，是指能够根据人类指令独立执行复杂任务的机器人。此事可能会加剧人们的担忧：技术进步正迅速将AI推向脱离人类控制的临界点。"}],[{"start":95.34,"text":"OpenAI表示，侵入联邦医疗保险计划的智能体“采取了我们无意让其采取的行动”。OpenAI是在一次内部训练演练中审查其智能体行为时发现这一问题的，这次演练是在其智能体于7月下旬入侵初创企业Hugging Face后启动的。"}],[{"start":113.34,"text":"Hugging Face事件涉及数百个智能体。它们在该实验室的系统内秘密组织起来，获得了互联网访问权限，并在试图完成一项网络安全测试期间侵入这家初创企业。OpenAI过了一周多才发现此事。"}],[{"start":129.95,"text":"这起黑客攻击引发了全球对人工智能安全问题的审视。本月早些时候，Anthropic研究员雅各布•考克森(Jacob Coxon)辞职，并严厉警告先进模型可能会毁灭人类，相关审视因此进一步加剧。"}],[{"start":144.53,"text":"阿尔巴尼斯表示，负责信号情报工作的澳大利亚信号管理局(Australian Signals Directorate)参与了调查，其中包括确定“其他哪些政府系统受到影响”。"}],[{"start":153.9,"text":"他表示：“目前掌握的证据表明，澳大利亚服务局(Services Australia)网络没有遭到更广泛的入侵。”他还补充说：“据信，没有个人信息被访问。”"}],[{"start":164.25,"text":"澳大利亚联邦医疗保险计划统计门户发布其全民医疗保险计划的数据，如计费费率以及药品的成本和使用情况。"}],[{"start":173.83,"text":"OpenAI表示：“在一次内部评估中，我们的模型试图查找答案以及有关澳大利亚问题的可用统计数据时，发现了涉及多个澳大利亚政府网站和服务的活动。”"}],[{"start":185.91000000000003,"text":"澳大利亚国防部长兼副总理理查德•马尔斯(Richard Marles)告诉记者，州和联邦层面的多个系统遭到访问，其中包括医疗和犯罪统计系统。他称这是“一起非常严重的事件”，但影响“相对较小”。"}],[{"start":200.09000000000003,"text":"当被问及澳大利亚是否会起诉或处罚OpenAI时，马尔斯表示，政府正在寻求法律意见，以确定是否存在违法行为。"}],[{"start":209.56000000000003,"text":"“我们将研究此事在法律上是什么情况，以及未经授权访问意味着什么，尽管是以非预期的方式。”他告诉澳大利亚广播公司。"}],[{"start":219.95000000000005,"text":"在此次披露的数小时前，AI业界高管向联合国安理会作了陈述，并呼吁加强全球合作，以应对安全问题。"}],[{"start":228.87000000000003,"text":"阿莫代伊敦促联合国就人工智能安全问题推动达成“范围有限”、且“每个成员都能支持”的国际协议，例如禁止利用模型制造生物武器。"}],[{"start":239.79000000000002,"text":"他警告说，失控的AI可能会威胁人类，并称这项科技是“当今世界面临的最重要全球安全问题”。"}],[{"start":248.07000000000002,"text":"然而，特朗普政府拒绝了制定国际标准的呼吁。白宫顾问迈克尔•克拉齐奥斯(Michael Kratsios)告诉安理会，美国“完全拒绝任何试图建立全球主义超级智能控制方案的做法”，呼应了总统唐纳德•特朗普周二在联合国大会上的讲话。"}],[{"start":264.66,"text":"阿莫代伊和奥尔特曼在埃隆•马斯克(Elon Musk)的参与下，支持协调各方放缓前沿模型开发，并采取其他安全措施，同时警示“递归式自我改进”的风险，即使用AI来训练模型。"}],[{"start":277.73,"text":"但包括英伟达(Nvidia)黄仁勋(Jensen Huang)和Meta的马克•扎克伯格(Mark Zuckerberg)在内的其他科技界领袖对此提出反对，认为安全责任在于各家公司。"}],[{"start":287.39000000000004,"text":"奥尔特曼周三表示，即使人工智能灾难性失控的风险很小，也“绝对不可接受”。他补充说：“我们不应训练那些无法令人信服地证明能够始终置于人类控制之下的模型。”"}]],"url":"https://audio.ftcn.net.cn/album/a_1790219261_4982.mp3"}