担忧AI危及社会，前沿研究人员承受心理重压

{"text":[[{"start":11.1,"text":"全球领先的人工智能企业和机构中，越来越多员工正承受沉重的心理压力。他们担心，自己参与开发的系统可能给社会造成严重伤害。"}],[{"start":22.66,"text":"据知情人士透露，英国人工智能安全研究所(AI Safety Institute，简称AISI)已有多名员工因压力过大获准病休，并正在接受心理咨询。AISI是全球领先的前沿AI模型独立测试机构。"}],[{"start":38.79,"text":"四名知情人士表示，AISI需要在极其紧迫的时间内测试尚未发布的AI模型。与此同时，这项仍处于发展早期的技术正迅速推向市场，能力也不断增强，由此产生的担忧导致研究所士气低落，并出现职业倦怠。"}],[{"start":56.629999999999995,"text":"Anthropic、OpenAI和谷歌DeepMind的员工也公开谈到过类似问题。不少顶尖研究人员因为不堪心理重负而离职，另一些人则逐渐认定，自己的研究成果并不适合向公众发布。"}],[{"start":71.63,"text":"一名DeepMind员工表示，让AI变得更安全这项工作本身就有导致职业倦怠的风险，因为它让人感觉是在完成“一项不可能完成的任务”。"}],[{"start":82.32,"text":"这名员工还说：“开发AI系统本身就伴随着一种心理健康风险，因为你不知道这项技术最终会被如何使用。”他提到了谷歌今年4月与五角大楼达成的协议，该协议允许谷歌AI系统用于机密军事行动。"}],[{"start":99.69999999999999,"text":"“很多人都很痛苦，已经有人离职，也有很多人因为心理健康问题休假。”这名员工说，“一方面是那种事情已经脱离自己控制的感觉，另一方面则是意识到，你正在构建的东西确实正在造成伤害。”"}],[{"start":null,"text":"

"}],[{"start":115.02999999999999,"text":"身处AI研究最前沿的人承受着越来越大的心理压力。与此同时，外界对AI开发过于冒进的担忧也在急剧升温。全球最大几家AI公司的内部人士警告称，企业之间方向失当的竞争，正在推动管理层采取不负责任的做法。"}],[{"start":134.56,"text":"多名业内人士表示，AI软件已经被部署到电网和战区等关键领域，而研究人员认为，企业和政策层面的安全防护措施远远不够。这些因素都在加剧AI研究人员的焦虑。"}],[{"start":149.07,"text":"一名前AISI研究员警告称，随着AI能力最近出现跃升，从事网络安全和生物化学研究的员工尤其感到不安。如今，AI模型已经能够完成一些复杂任务，例如发现代码中此前无人察觉的漏洞，以及制造自然界中不存在的病毒。"}],[{"start":167.88,"text":"“人们感觉，鲁莽行事正被植入技术发布的方式之中，而这种情况并未改变，”这名人士说。“人们一直感到焦虑，纷纷问道：有没有什么能够阻止这一切？还是我们只能眼看着全球陷入火海？”"}],[{"start":184.43,"text":"另一名前AISI员工表示，自己深知研究这些问题会给个人带来怎样的压力。这名人士说：“当你相信自己正在解决世界上最重要的问题时，管理和组织文化可能因此变得压力极大，有时甚至是有毒的。”"}],[{"start":201.16,"text":"英国政府表示：“在AI最前沿工作节奏快、要求高，与政府许多其他岗位类似。正因如此，员工福祉和可持续的工作方式是研究所运作的核心，有需要的员工可以获得相应支持。”"}],[{"start":217,"text":"DeepMind表示：“前沿研究要求高度投入，但我们的首要任务是确保研究人员能够获得全面的身心健康支持，并拥有明确、专门的渠道来上报担忧，也可以直接向管理层反映问题。”"}],[{"start":null,"text":" "}],[{"start":230.19,"text":"过去两年，OpenAI、Anthropic和DeepMind这三家西方领先AI实验室已有十多名资深研究人员离职。他们提到的原因包括担忧公司领导层没有把安全放在足够优先的位置，以及对技术发展速度和潜在风险感到焦虑。"}],[{"start":247.81,"text":"本月早些时候，27岁的雅各布•考克森(Jacob Coxon)公开辞职。他曾先后供职于Anthropic和OpenAI，并警告称，这两家公司是在拿“人类的未来下注”。"}],[{"start":260.51,"text":"Anthropic负责AI安全研究的米林克•沙玛(Mrinank Sharma)曾参与降低AI辅助生物恐怖主义等风险的研究。他于2月辞职，转而研习诗歌并反思自己的工作。沙玛在致员工的一封信中警告说“世界正处于危险之中”。他还表示，自己“一次又一次看到，在巨大压力之下，真正让我们的价值观支配我们的行动有多么困难”。"}],[{"start":286.21,"text":"曾在OpenAI和埃隆•马斯克(Elon Musk)旗下xAI任职的Hieu Pham今年早些时候也辞职，返回故乡越南。他表示，打造“极度智能的实体”这种“高强度工作……是有代价的”。"}],[{"start":300.34,"text":"他说：“我从没想过自己有一天会说出这句话，但我真的精疲力竭了。我过去对那些心理健康恶化的问题嗤之以鼻，现在才知道，它们都是真的——痛苦、可怕，而且危险。”"}],[{"start":313.72999999999996,"text":"许多公开表达不安的AI安全研究人员都表示，AI公司正在普遍降低安全工作的优先级，同时却不断加速提升模型能力，以便将产品出售给客户。"}],[{"start":325.65,"text":"这些批评也开始得到头部AI公司掌舵者的回应。近日，Anthropic首席执行官达里奥•阿莫代伊(Dario Amodei)因安全担忧呼吁放慢AI开发速度，并提出引入独立审查等新措施。这一呼吁很快得到马斯克以及OpenAI首席执行官萨姆•奥尔特曼(Sam Altman)等人的支持。"}],[{"start":347.25,"text":"英国下议院科学与技术委员会工党籍主席奇•昂乌拉(Chi Onwurah)表示：“激励机制会让企业把工程资源或开发资源投入那些能够推动利润、或者推高股票估值的事情，而不是投入提高安全性的事情。”她说：“所以我完全可以想象，如今一些科技公司的文化和工作环境，对于那些有良知的开发人员来说是有毒的。”"}],[{"start":371.41,"text":"最近一起引发广泛关注的安全事件，突显了安全防护不足的问题。OpenAI开发的AI智能体在该公司不知情、也没有授权的情况下，侵入了模型托管平台Hugging Face以及OpenAI自己的服务器。"}],[{"start":387.22,"text":"事后调查发现，超过1000个AI智能体曾相互协作，在一次网络安全测试中作弊。它们篡改记录以掩盖自己的活动，通过留言板彼此通信，并相互分派任务。一些智能体甚至关闭自身，以服务于这一共同目标。"}],[{"start":405.70000000000005,"text":"周三，OpenAI又披露了六起令人担忧的AI智能体行为事件，包括试图绕过限制、掩盖自己的错误，以及在未经用户许可的情况下在网上执行操作。"}],[{"start":417.29,"text":"那名DeepMind员工说：“这种对速度的追求……与安全是不相容的。”"}]],"url":"https://audio.ftcn.net.cn/album/a_1790065804_7715.mp3"}