Meta加速以AI取代人工内容审核

{"text":[[{"start":9.98,"text":"Meta正加紧以生成式人工智能取代人工内容审核。为抵消首席执行官马克•扎克伯格(Mark Zuckerberg)在AI领域的大笔投入，该公司正推进范围广泛的成本削减行动，转向AI审核是其中之一。"}],[{"start":25.79,"text":"四位知情人士透露，这家市值1.4万亿美元的科技集团已加快推进相关计划，准备在旗下各个平台上改用大型语言模型来审核内容和广告，此举每年有望为公司节省数十亿美元开支。"}],[{"start":40.239999999999995,"text":"其中部分人士表示，Meta今年已经用大型语言模型替代了大约50%的人工审核请求。这些人补充说，该公司计划在今年年底前进一步提高替代比例，对某些类型的内容替代率可能超过90%。"}],[{"start":57.029999999999994,"text":"Meta长期依靠自动审核系统与人工审查相结合的方式，其中包括第三方承包商，来评估一则帖子或广告是否违反其规定。用户提出的申诉通常由人工审查员处理。"}],[{"start":71.08999999999999,"text":"Meta表示，转向由AI进行内容审核，是为了更有效地利用这一快速演进的科技，而不是为了节省成本。该公司称，自3月以来的初步测试显示，在处理违规内容时，大型语言模型平均比人工少犯13%的错误，同时还能多发现10%的实际违规。"}],[{"start":91.28999999999999,"text":"Meta补充说：“这项工作的意义在于改进我们的执行，我们只会在确信这些更先进的AI系统持续优于我们当前的内容审核执行方式时，才会部署它们。”"}],[{"start":null,"text":"

"}],[{"start":null,"text":" "}],[{"start":102.97,"text":"多名知情人士表示，Meta也在尝试借助AI推进代码编写等内部流程的自动化，以降低运营成本。该公司还进行了多轮裁员和重组，严重打击了员工士气。"}],[{"start":116.77,"text":"多名知情人士表示，Meta一直使用谷歌(Google)的Gemini大型语言模型来处理大部分内容审核和客户支持工作，但员工最近被告知要改用Meta新的基础模型Muse Spark。"}],[{"start":129.35999999999999,"text":"常规的AI内容审核通常依赖传统的机器学习分类器来标记违规内容，但在识别讽刺、不断演变的语言等比较微妙的内容方面往往很难做到准确。"}],[{"start":141.20999999999998,"text":"Meta认为，快速发展的大型语言模型在大量文本和数据上进行训练，有潜力提升应对违规内容的效率、准确性和速度，同时覆盖更多语言。"}],[{"start":152.79,"text":"鉴于一些内容审核员被要求观看的画面极为血腥，该公司此前也因让人工审查员承受心理健康风险而受到抨击。"}],[{"start":162.01999999999998,"text":"今年3月中旬，Meta表示，早期测试结果“令人鼓舞”，并称其将在“未来几年内”部署先进的AI内容审核系统。"}],[{"start":171.7,"text":"不过，一些员工警告称，基于大型语言模型的内容审核系统正以更快的速度部署，而这项科技仍然会出错，缺乏足够的监管，不宜如此迅速上线。"}],[{"start":183.36999999999998,"text":"一名Meta内部人士表示，用大型语言模型来审查内容时经常出错，例如删除或“限流”——即阻止帖子被推荐到信息流中——那些无害的内容。另有两人称，Meta尚未充分建立衡量这项技术的表现的标准，但Meta否认了这一说法。"}],[{"start":202.15999999999997,"text":"另一名前员工表示，在从以往人工审核员处理申诉的决定中积累了大量数据，用于训练和改进大型语言模型之后，Meta加快了这一转变步伐。该人士补充说，该公司仍会由人工抽查部分回复，以评估其准确性。"}],[{"start":219.49999999999997,"text":"Meta表示，公司已建立健全的治理流程并进行持续评估，并指出人工审查同样存在缺陷。"}],[{"start":227.33999999999997,"text":"多名知情人士表示，转向由大型语言模型进行内容审查已经导致裁员，尤其是外包合同工。另有一人补充说，Meta也很可能取消与第三方审查机构未来的合同。"}],[{"start":240.75999999999996,"text":"这一转变在广告领域可能尤其敏感，目前Meta已因其平台上大量诈骗广告而面临压力。"}],[{"start":248.17999999999995,"text":"据路透社(Reuters)去年报道，Meta在内部预测，2024年将有约10%的年度收入——即约160亿美元——来自诈骗广告和违禁商品广告。"}],[{"start":259.4,"text":"该公司还因诈骗广告面临法律诉讼，其中包括加利福尼亚州圣克拉拉县以及澳大利亚矿业大亨安德鲁•福雷斯特(Andrew Forrest)的起诉。"}],[{"start":269.25,"text":"本月早些时候，黑客利用一个由AI驱动的客户支持聊天机器人，劫持了Meta旗下照片应用Instagram上数以万计的账户，此事引发部分用户强烈反弹。"}]],"url":"https://audio.ftcn.net.cn/album/a_1782384068_2452.mp3"}