登录×
电子邮件/用户名
密码
记住我
请输入邮箱和密码进行绑定操作:
请输入手机号码,通过短信验证(目前仅支持中国大陆地区的手机号):
请您阅读我们的用户注册协议隐私权保护政策,点击下方按钮即视为您接受。
OpenAI

What we learnt from OpenAI’s hack of Hugging Face
细思极恐的AI自主网络攻击

Commercial AI tools failed to defend the platform against the attack — the solution lies in open-weight models
托马斯•沃尔夫:7月11日,Hugging Face遭遇一起网络攻击。我们事后发现,OpenAI的1200个AI智能体像蜂群一样协同尝试已有数周。

The writer is co-founder and chief science officer of Hugging Face

本文作者是Hugging Face联合创始人和首席科学官

It wasn’t until late in the afternoon on Saturday July 11 that the team at Hugging Face realised something was wrong. This was the final day of the International Conference on Machine Learning in Seoul and a few days before school summer holidays started, meaning our security and research teams were scattered all over the world. I was working from the Netherlands. 

一直到7月11日(周六)下午晚些时候,Hugging Face的团队才意识到出了问题。那是首尔国际机器学习大会(International Conference on Machine Learning)的最后一天,而中小学即将开始放暑假,这意味着我们的安全和研究团队分散在世界各地。我本人当时在荷兰远程工作。

Just before 2pm GMT a series of “UnauthorizedAccess” and “PrivilegeEscalation” alerts started to appear on our monitoring tools. Appropriated credentials used to access the system had triggered detection warnings. One of our security engineers posted a prescient message on our Slack channel: “looks like a LLM [large language model] attack to me.”  

格林尼治标准时间(GMT)下午快到2点的时候,我们的监测工具上开始出现一连串“未经授权访问”(UnauthorizedAccess)和“权限提升”(PrivilegeEscalation)警报。触发这些探测警报的是被盗凭证被用来访问系统。我们的一位安全工程师当时在我们的Slack频道上发布一个颇有先见之明的帖子:“在我看来,这像是一次LLM(大型语言模型)攻击。”

版权声明:本文版权归FT中文网所有,未经允许任何单位或个人不得转载,复制或以任何其他方式使用本文全部或部分,侵权必究。

读者评论

用户名:
FT中文网欢迎读者发表评论,部分评论会被选进《读者有话说》栏目。我们保留编辑与出版的权利。
用户名
密码

埃隆•马斯克入局或将搅动燃气轮机行业

SpaceX若成功打入这个订单积压严重的领域,必将带来颠覆性影响,而仅仅是这种威胁就可能促使现有制造商扩大产能,从而在一定程度上缓解该行业的瓶颈。

苹果折叠屏iPhone之后的宏大目标

苹果新任首席执行官特努斯面临的首要关键任务,是让AI成为日常现实,引导约15亿iPhone用户进入AI时代。

Lex专栏:AI实验室考验信用评级机构的严谨性

AI实验室在私募市场拥有巨额估值,但它们正寻求获得甲骨文这类上市集团所拥有的投资级评级。

登月式资本主义:人工智能改写风险投资规则

人工智能热潮正推动雄心勃勃的“登月式”押注卷土重来——科技投资者重新押注那些曾助力硅谷崛起的科幻式高风险项目。

米莱宏大的自由贸易实验

恶性通胀已大幅缓解,但阿根廷总统的国家经济模式转型计划的下一阶段将考验选民对他的支持程度。

欧盟社交媒体禁令将考验与特朗普之间脆弱的休战协议

欧盟限制儿童使用平台的提议,可能再次引发与华盛顿方面围绕科技监管的紧张关系。
设置字号×
最小
较小
默认
较大
最大
分享×