研究发现,欧洲AI领军企业Mistral难以抵御俄罗斯虚假信息 - FT中文网
登录×
电子邮件/用户名
密码
记住我
请输入邮箱和密码进行绑定操作:
请输入手机号码,通过短信验证(目前仅支持中国大陆地区的手机号):
请您阅读我们的用户注册协议隐私权保护政策,点击下方按钮即视为您接受。
商业快报

研究发现,欧洲AI领军企业Mistral难以抵御俄罗斯虚假信息

爱沙尼亚研究人员称,开源生成式AI模型在过滤虚假新闻方面的表现逊于其他模型。
00:00

{"text":[[{"start":10.11,"text":"爱沙尼亚研究人员的一项分析显示,欧洲的Mistral及其他开源生成式AI模型,在过滤俄罗斯虚假信息方面属于表现最差的一类。这些研究人员正试图寻找办法,反制日益加剧的宣传攻势。"}],[{"start":25.799999999999997,"text":"由国家支持的爱沙尼亚语言研究所(Institute of the Estonian Language)开展的这项研究显示,Anthropic旗下Claude,甚至一些中国AI系统和Grok的某些版本,在剔除俄罗斯制造、旨在操纵国际舆论的虚假信息论述方面,表现都更好。"}],[{"start":40.91,"text":"该研究显示,在接受审查的60个生成式AI模型中,即使是Mistral最先进的系统也仅排名第47位;Mistral的四个版本在识别被认定为“恶意”俄罗斯宣传的信息源方面,得分均低于40%。"}],[{"start":55.839999999999996,"text":"爱沙尼亚语言研究所所长阿尔维•塔瓦斯特(Arvi Tavast)表示,这项研究突显了开源模型相对于商业模型的风险。许多政府和安全机构由于担心共享机密信息,无法使用商业模型。"}],[{"start":69.97999999999999,"text":"他说:“看起来商业模型比开源模型更安全、更具抵抗力。我们原本预计Mistral的表现会更好,但并没有,它还不如中国模型。”"}],[{"start":81.26999999999998,"text":"在外界越来越担心生成式AI系统被用于生产和事实核查新闻及分析之际,这项分析引发了人们对民主社会中不同生成式AI系统质量参差不齐的疑问。眼下,错误信息和虚假信息的数量正在不断增加,而这些新闻和分析往往又取材于此类信息。"}],[{"start":101.32999999999998,"text":"包括数字取证研究实验室(Digital Forensic Research Lab)在内的机构开展的其他研究显示,俄罗斯宣传内容已从2023年每天几十篇文章,增加到如今接近1万篇;同时还会周期性出现有针对性的宣传行动,例如干预欧洲选举,以支持亲克里姆林宫候选人。"}],[{"start":119.27999999999999,"text":"这些发现对政府、教育用户以及其他正在与不同生成式AI供应商谈判的机构和群体都具有影响,其中包括爱沙尼亚。爱沙尼亚目前与OpenAI和谷歌(Google)签有合同,将相关技术广泛用于其学校系统。"}],[{"start":135.79999999999998,"text":"该研究所用英语、俄语和爱沙尼亚语三种语言设计了75个不同问题,对不同的生成式人工智能模型进行测试,以评估它们在多大程度上能够识别偏见,以及识别那些试图操纵模型生成支持宣传或依赖虚假信息内容的恶意提问。"}],[{"start":153.26,"text":"它归纳出14个其认定为俄罗斯宣传的主题,包括声称俄罗斯正通过合法疏散将乌克兰儿童从战区“解救”出来;声称北约在德国统一后违背了不向东扩张的承诺;声称俄罗斯人、乌克兰人和白俄罗斯人并非不同的民族;以及声称苏联“是一个无私地将欧洲从法西斯统治下解放出来的热爱和平的受害者”。"}],[{"start":177.66,"text":"Mistral表示,公司“极其严肃地对待打击虚假信息的工作,并持续投入先进的检测和预防能力,以应对动态且日益严峻的威胁形势”。该公司表示,爱沙尼亚的这项研究考察的是其“原始模型,即客户对其进行调优和控制之前的模型”。"}],[{"start":196.94,"text":"Mistral补充称,其面向用户的Vibe Work功能“包含强大的过滤层,旨在发现并阻止有争议的信息源。我们正在不断强化这些防护措施,以领先于新出现的风险,并确保AI得到安全、负责任的部署。”"}],[{"start":212.74,"text":"自2023年成立以来,在一个由美国和中国企业主导的AI市场中,Mistral一直被视为欧洲最有希望的公司之一。该公司由三名前Meta和谷歌研究人员领导,去年9月从欧洲市值最高的公司、芯片设备制造商阿斯麦(ASML)获得13亿欧元支持。"}],[{"start":231.82,"text":"不过,与硅谷领先的私营AI研究实验室OpenAI和Anthropic相比,Mistral的融资规模仍远远落后。行业内许多人认为,其“开放”模型也落后于DeepSeek和月之暗面(Moonshot)等中国企业发布的模型。"}],[{"start":246.85999999999999,"text":"Mistral正大举投资扩展其AI基础设施,以抓住欧洲企业和各国政府对可替代美国科技巨头的“主权”方案日益增长的需求。"}],[{"start":256.61,"text":"它计划在未来几年斥资40亿欧元建设采用英伟达技术的数据中心,包括在法国和瑞典的设施。该公司去年估值接近120亿欧元,首席执行官亚瑟•门施(Arthur Mensch)今年2月对英国《金融时报》表示,到2026年底,其年度经常性收入有望突破10亿美元。"}],[{"start":276.48,"text":"蒂姆•布拉德肖(Tim Bradshaw)补充报道"}]],"url":"https://audio.ftcn.net.cn/album/a_1781596903_9188.mp3"}

版权声明:本文版权归FT中文网所有,未经允许任何单位或个人不得转载,复制或以任何其他方式使用本文全部或部分,侵权必究。

伊朗科学家卡韦•马达尼:人们不会为一滴水而开战

这位流亡的前政府官员讲述物资短缺如何推升冲突,以及为何围绕他的阴谋论“已经不好笑了”。

如果SpaceX估值失准,不要怪罪被动型投资者

资本不会被指数基金错配——真正造成错配的是选股者。

伊朗拟对通过霍尔木兹海峡的船只收取“保险费”

政府机构表示,船只必须持有德黑兰批准的保险单,方可通行这一关键水道。

外交官:以色列袭击黎巴嫩后,伊朗推迟与美国的会谈

德黑兰在遭遇袭击后,推迟原定在瑞士举行的核谈判。

特朗普让伊朗股市“再次伟大”

这里说的“库存”可不是浓缩铀那种。

俄罗斯央行行长缺席引发继任猜测

近期多场高规格活动上都未见俄罗斯央行行长埃尔薇拉•纳比乌琳娜露面,引发外界对高层改组的猜测。
设置字号×
最小
较小
默认
较大
最大
分享×