{"text":[[{"start":8.94,"text":"在出席联合国安理会(UN Security Council)会议前，OpenAI呼吁特朗普政府牵头组建一个国际联盟，为人工智能系统制定标准，眼下外界对这项技术的风险日益感到担忧。"}],[{"start":20.78,"text":"这家ChatGPT开发商周一提出了开展全球协调的方案，以评估人工智能模型的能力和风险，尤其是在这些模型逐渐具备自我训练能力之际。此举呼应了Anthropic和谷歌(Google)等竞争对手关于制定更严格标准、加强国家间合作的呼吁。"}],[{"start":39.18,"text":"这些提案预示了OpenAI首席执行官萨姆•奥尔特曼(Sam Altman)将要阐述的主张。他将在周三向联合国安理会(Security Council)作情况介绍，以及在周四出席中国国家主席习近平(Xi Jinping)和美国总统唐纳德•特朗普(Donald Trump)共同参加的白宫国宴。"}],[{"start":56.379999999999995,"text":"美国财政部长斯科特•贝森特(Scott Bessent)上周日告诉英国《金融时报》，在纽约与中国国务院副总理何立峰会谈后，美国和中国已同意建立人工智能对话机制。"}],[{"start":67.74,"text":"OpenAI还呼吁，领跑人工智能竞赛的中美两国应建立安全渠道，共享有关新出现的威胁的信息。该公司表示：“中美就人工智能安全与保障开展对话，将是积极的一步。”"}],[{"start":82.11,"text":"这项提议出台之际，人们对人工智能的潜力日益感到担忧。Anthropic和OpenAI均报告称，其模型多次入侵外部系统。随着人工智能工具的能力迅速提升，这一现象正日益令人担忧。"}],[{"start":98.03,"text":"这些改进也促使企业内部的研究人员发出警告，称失控或被滥用的人工智能系统可能会毁灭人类。"}],[{"start":105.73,"text":"本月早些时候，Anthropic首席执行官达里奥•阿莫代伊(Dario Amodei)、奥尔特曼和太空探索技术公司(SpaceX)负责人埃隆•马斯克(Elon Musk)呼吁放缓人工智能发展——在这个竞争激烈的行业中是罕见的共识迹象。"}],[{"start":119.51,"text":"然而，特朗普拒绝了放缓的呼吁，理由是需要与中国竞争。这位总统曾表示“谁赢得AI，谁就赢得一切”。"}],[{"start":128.70000000000002,"text":"曾就人工智能向特朗普提供建议、在华盛顿颇具影响力的戴维•萨克斯(David Sacks)，也批评了业界要求政府介入的呼吁。他在社交媒体上写道：“不构建超级智能的最简单方法，就是你们自己同意不构建它。要求以你们偏好的监管框架作为代价，看起来就像是对公众和政治体制的敲诈。”"}],[{"start":151.08,"text":"OpenAI提出的新方案与谷歌DeepMind联合创始人兼董事长德米斯•哈萨比斯(Demis Hassabis)在7月发出的呼吁一致。哈萨比斯当时呼吁，“由美国发起的努力应为制定前沿人工智能国际共同标准提供一个坚实起点”。"}],[{"start":168.34,"text":"哈萨比斯介绍了一个新的公私合营机构，其运作模式“与美国金融行业监管局(Finra)非常相似，董事会成员包括独立的顶尖技术专家和开源领域代表”。"}],[{"start":179.73000000000002,"text":"他表示，设立类似国际金融监管机构的组织是必要的，以管理一项影响将“也许是工业革命的10倍、速度也是10倍”的技术。"}],[{"start":189.41000000000003,"text":"周一，OpenAI提议通过现有的各国人工智能安全研究所网络，制定评估人工智能模型的国际标准。"}],[{"start":197.76000000000002,"text":"该公司表示：“这种做法可以借鉴航空和金融稳定等领域的经验。在这些领域，各国在不放弃国家权威的情况下，建立了共同的技术标准和相互信任的合作渠道。”"}],[{"start":211.24,"text":"尤其是在管理递归式自我改进方面，国际合作至关重要。在这一过程中，越来越多的人工智能模型训练工作由其他人工智能系统完成。"}],[{"start":222.61,"text":"该公司周一表示：“如果不带着适当谨慎和警惕来推进递归式自我改进，可能导致人类失去对人工智能发展的实际控制权，无法监督那些他们已不再理解的研究过程。”"}]],"url":"https://audio.ftcn.net.cn/album/a_1790037657_8433.mp3"}