{"text":[[{"start":10.15,"text":"加文•纽森(Gavin Newsom)签署了一项行政命令，概述了要求OpenAI、Anthropic等人工智能实验室安装“终止开关”的计划。这是政治界日益担忧这项科技的最新迹象。"}],[{"start":22.630000000000003,"text":"加利福尼亚州州长周五签署行政命令，成立由专家和官员组成的工作组，负责制定新的人工智能安全措施细节，包括如何依法要求人工智能企业保留关闭其模型的能力。这名州长被广泛视为2028年民主党总统候选人的热门人选。"}],[{"start":41.64,"text":"这项行政命令表明，纽森正准备在中期选举前对人工智能采取更强硬的立场；中期选举将决定美国国会(US Congress)由哪一党掌控。选民对这项科技的担忧以及数据中心的建设，已成为关键议题。"}],[{"start":57.08,"text":"纽森说：“在华盛顿放弃保护美国人的责任之际，加利福尼亚州正以全美最强的人工智能监管框架为基础不断推进相关工作。”"}],[{"start":67.32,"text":"在美国主要人工智能实验室近期警告人工智能发展速度应当放缓之后，要求设置“终止开关”的呼声随之出现。但专家们对于技术上是否可行——即放慢、暂停或关闭这些模型——以及足够先进的人工智能是否能够绕过这些措施，仍存在争议。"}],[{"start":86.78999999999999,"text":"美国总统唐纳德•特朗普(Donald Trump)拒绝了日益高涨的放缓这项科技发展步伐的呼声，称美国需要在人工智能竞赛中击败中国，并表示对安全问题的担忧源于“负面力量”。他还试图阻止美国各州出台人工智能监管规定。"}],[{"start":104.39999999999999,"text":"包括众议院议长迈克•约翰逊(Mike Johnson)在内的其他共和党人敦促公众不要恐慌，并呼应了特朗普对输给中国的担忧。"}],[{"start":113.13,"text":"美国国会的多名联邦议员已提出“终止开关”法案，但这些措施不太可能在11月选举重置立法议程前取得进展。"}],[{"start":122.49,"text":"对人工智能安全的担忧，源于Anthropic研究员雅各布•考克森(Jacob Coxon)辞职。考克森曾警告说：“认真开发人工智能的人相信，到本十年末，人工智能可能会让我们所有人丧命。”"}],[{"start":137.28,"text":"美国一些主要人工智能公司的负责人——Anthropic的达里奥•阿莫代伊(Dario Amodei)、OpenAI的萨姆•奥尔特曼(Sam Altman)和太空探索技术公司(SpaceX)的埃隆•马斯克(Elon Musk)——上周末罕见地联合呼吁，在发生黑客攻击事件并发出安全警告之后，应放缓模型能力的快速提升。"}],[{"start":154.52,"text":"阿莫代伊提议在这些实验室内部安排独立评估人员，以监测其模型。纽森表示，这些主要人工智能实验室所在地加利福尼亚州将考虑把这项安排以及由独立第三方制定安全计划纳入法律要求。"}],[{"start":170.86,"text":"纽森还下令州政府加快落实加利福尼亚州两项新的人工智能安全法律。这两项法律为独立评估机构和州级人工智能审计员登记制度建立了框架。"}]],"url":"https://audio.ftcn.net.cn/album/a_1789781767_6152.mp3"}