“只需一次失误”：AI团队竞相降低生物武器风险

{"text":[[{"start":11,"text":"各AI团队正竞相应对这样一种风险：未来的模型可能帮助用户制造新型病毒或生物武器。与此同时，外界日益担心，这项科技在科学领域的能力将成为该行业面临的下一项公共安全威胁。"}],[{"start":27.41,"text":"Anthropic、OpenAI和谷歌(Google)DeepMind正加大力度开展生物风险测试、访问控制及其他安全防护措施，以限制滥用先进AI系统。这些公司希望，这类系统能够加快药物研发、助力疾病研究并防止疫情大流行。"}],[{"start":44.93,"text":"这一安全倡议反映出，越来越多的AI高管和生物安全专家认为，随着新模型变得更强大，继网络安全之后，生物学可能成为下一个需要得到安全保障的领域。"}],[{"start":57.34,"text":"谷歌DeepMind人工智能模型审查与调查团队负责人道恩•布洛克威奇(Dawn Bloxwich)说：“化学生物领域发生的很多事情都具有很强的双重用途。用于制造生物武器的信息，同样也可用于研发解毒剂或疫苗。”"}],[{"start":72.83,"text":"她补充说：“如果我们希望看到医疗健康状况有所改善，也必须面对这些技术可能被滥用的风险。”"}],[{"start":null,"text":"

"}],[{"start":80.35,"text":"今年，Anthropic的Mythos模型引发了人们对AI网络能力的担忧；7月，OpenAI的模型又自主入侵了AI平台Hugging Face，进一步加剧了这些担忧。"}],[{"start":91.82,"text":"人工智能安全中心(Center for AI Safety)政策负责人Jason Hausenloy表示：“在此之后……我们预计，人工智能和生物领域将迎来一次‘Mythos’时刻；未来一年内，商业系统可能再次遭遇达到Hugging Face遭黑客攻击事件级别的颠覆，或者发生一起真正波及整个社会的生物武器事件。”该中心负责制定行业基准，这些基准应用于包括病毒学在内的多个领域。"}],[{"start":116.94,"text":"恐怖组织、独狼袭击者或国家行为体可能滥用AI，设计生物武器、制造病毒，或部署现有的有害病原体。"}],[{"start":125.69,"text":"几名从事生物风险研究的人士都提到了奥姆真理教(Aum Shinrikyo)。该邪教组织曾于1995年在日本东京发动恐怖袭击。"}],[{"start":135.79,"text":"该组织在早高峰期间向三条通勤铁路线路释放沙林神经毒气，造成13人死亡、数千人受伤。令人担忧的是，AI工具可能降低这类组织实施类似袭击的门槛。"}],[{"start":150.04999999999998,"text":"越来越多的证据显示，一些团体正在利用AI协助实施恐怖主义活动。剑桥大学(University of Cambridge)7月发布的一项研究披露，博科哈拉姆(Boko Haram)武装人员使用了多种AI工具，包括OpenAI的ChatGPT、Anthropic的Claude、谷歌的Gemini、SpaceXAI的Grok以及中国公司深度求索(DeepSeek)开发的工具。"}],[{"start":null,"text":" "}],[{"start":171.20999999999998,"text":"该研究发现，这些工具的用途已超出数字宣传范畴，延伸至动能作战行动和武器工程，包括利用这些工具设计爆炸装置。"}],[{"start":181.24999999999997,"text":"AI开发商的政策禁止将其工具用于恐怖主义活动。防范生物领域滥用的进一步保障措施包括使用软件检测并拦截可疑查询，或专门生成特定的“安全”回复。"}],[{"start":195.51999999999998,"text":"OpenAI、Anthropic和谷歌DeepMind均设有可信访问计划，用于审核申请使用高级能力的用户，并对账户行为进行总体监测。"}],[{"start":205.73,"text":"AI公司会测试其模型在生物学领域的能力及潜在风险。它们通常会与SecureBio、Red Queen Bio等外部专业评估机构合作。"}],[{"start":217.23999999999998,"text":"与网络安全领域相比，生物领域的风险评估更加困难，因为网络安全领域可以在数字环境中测试相关能力。"}],[{"start":226.09999999999997,"text":"SecureBio人工智能研究负责人贾斯珀•格廷(Jasper Götting)说：“网络能力的跃升很容易被发现。”他指出，在生物学领域，通常需要由人工智能团队开展“成本高昂且耗时缓慢的湿实验”。"}],[{"start":240.35999999999996,"text":"但专家指出，AI团队为应对潜在的滥用所能采取的准备措施存在局限。"}],[{"start":246.94999999999996,"text":"美国智库兰德公司(Rand)AI x Bio负责人斯蒂夫•格拉(Steph Guerra)说：“大多数人都会同意，如果AI能帮助某人在实验室培育出一种流感病毒，那是不好的；如果AI能帮助他们培育出一种新型流感病毒，情况就更糟。但实际上，由于存在明显的生物安全问题，开展一项能够证明AI可以做到这一点的研究，往往既不可行，也不明智。”"}],[{"start":271.64,"text":"她补充说：“你无法对生物学进行端到端测试，因为你不可能测试有人实际制造生物武器的情形。”"}],[{"start":279.31,"text":"Anthropic的旗舰模型Fable在处理“与生物学和化学相关的大多数请求”时，将回退至其上一版本Opus 4.8，因为人们认为后者在这些领域更为安全。"}],[{"start":291.34,"text":"首席执行官达里奥•阿莫代伊(Dario Amodei)在6月举行的一场Claude科学活动上指出，AI行业“有幸看到网络安全领域的机会窗口开启”。他还指出，科学领域将需要这些可信访问计划。"}],[{"start":306.58,"text":"阿莫代伊补充说：“制药公司内部的人员一直在处理危险的生物材料；他们对此有自己的规程，因此我们可以借鉴这些规程。”"}],[{"start":315.91999999999996,"text":"OpenAI表示，公司会训练模型“安全处理具有双重用途的生物学请求”，持续监测任何滥用迹象，并与生物学、生物安全及政府专家密切合作。"}],[{"start":327.90999999999997,"text":"斯坦福大学(Stanford)微生物学与免疫学教授大卫•雷尔曼(David Relman)表示，科学界尚未就AI在生物学领域带来的风险程度达成共识。他说，尽管如此，科学界和政策制定者目前仍对相关威胁“毫无准备”。"}],[{"start":344.09999999999997,"text":"他补充说：“只要出一次差错，我们就会在转瞬之间摧毁公众对科学、医学以及科技前景仅存的信任，而这种信任需要多年才能恢复。”"}],[{"start":355.82,"text":"“即使我们为了保护这项技术而充分拥抱其全部潜在益处，也必须以明智且审慎的方式推进。”"}]],"url":"https://audio.ftcn.net.cn/album/a_1788752972_3540.mp3"}