难辨真假的互联网世界如何重建信任 - FT中文网
登录×
电子邮件/用户名
密码
记住我
请输入邮箱和密码进行绑定操作:
请输入手机号码,通过短信验证(目前仅支持中国大陆地区的手机号):
请您阅读我们的用户注册协议隐私权保护政策,点击下方按钮即视为您接受。
人工智能

难辨真假的互联网世界如何重建信任

威尔士:推荐算法和生成式AI模型决定数十亿用户能够看到什么,我们这一时代的挑战不是信息稀缺,而是真实性稀缺。
00:00

{"text":[[{"start":8.06,"text":"本文作者是维基百科(Wikipedia)联合创始人、著有《信任的七条法则》(The Seven Rules of Trust)一书"}],[{"start":13.920000000000002,"text":"我在2001年创办维基百科时,互联网的先驱们曾经为互联网承载的愿景——让世界获得真相和连接——而振奋。"}],[{"start":23.300000000000004,"text":"20年后,这种乐观已变成怀疑。我们刷着我们不再信任的新闻推送,与不知是否为真人的机器人互动,准备迎接一个又一个利用人工智能(AI)伪造的图像虚构出来的丑闻。"}],[{"start":36.18000000000001,"text":"在互联网继续向前发展之前,它必须记起自己最初是如何赢得信任的。"}],[{"start":41.940000000000005,"text":"Web 1.0与当今主流平台之间的决定性差异,不在于技术先进与否,而在于道德架构。早期的在线社区在流程和目的上是透明的。它们公开展示信息是如何被创建、修正和分享的。可见性带来了可问责性。人们能够看到系统如何运作,并参与修正其错误。信任并非来自完美(当时的网上同样充斥着大量喷子、口水战和有毒内容),而是来自开放。"}],[{"start":73.13000000000001,"text":"当今的数字生态颠覆了这一逻辑。推荐算法和生成式人工智能(GAI)模型决定数十亿用户能够看到什么,但它们的运作机制却始终不透明。当平台坚持宣称其系统过于复杂而无法解释时,就等于要求用户以无条件的信任来代替理解。"}],[{"start":92.39000000000001,"text":"人工智能加剧了这一问题。大型语言模型(LLM)可以生成流畅的段落和逼真的深度伪造。曾经承诺让知识民主化的工具,如今却让知识变得难辨真假。如果一切都可以被捏造,真相与幻象的分别就视乎何者更有说服力。"}],[{"start":111.13000000000001,"text":"在当前环境下重建信任,不仅需要事实核查或内容审核,更需要结构性透明。所有信息中介平台都应实现信息溯源的可见性:数据从何而来、如何被处理、存在哪些不确定性。可以将其视为信息的营养标签。没有结构性透明,公民无法作出有依据的判断,而民主也将无法运作。"}],[{"start":134.92000000000002,"text":"独立性同样重要。随着人工智能公司争夺主导地位,将商业、政治或文化偏见嵌入训练数据的诱惑将是巨大的。必须建立防护机制,确保那些运作公共知识的实体对公众负责,而不仅仅是对投资者负责。"}],[{"start":152.57000000000002,"text":"我们还必须重振文明风气。早期最优秀的一些网络空间都遵循着一套重视理性辩论而非人身攻击的准则。它们并不完美,但能够自我修正,因为参与者感到自己对这项集体事业负有责任。当今的社交平台却在利用愤怒情绪变现。重建信任,就要设计能奖励善意讨论的系统——通过可见性算法、基于社区的内容审核,或设置迫使人们在转发前反思的阻力机制。"}],[{"start":182.91000000000003,"text":"政府可以发挥作用,但仅靠监管本身无法重建信任。它必须在实践中得到践行。平台不仅应披露算法如何工作,也应披露其失效的情形。人工智能开发者应公布数据集来源和错误率。"}],[{"start":199.72000000000003,"text":"我们这一时代的挑战不是信息稀缺,而是真实性稀缺。早期互联网之所以在一些重要的方面取得成功,关键在于人们能够追溯到内容背后的真实个体——即便对方使用化名。新一代互联网必须恢复这种可追溯的链条。"}],[{"start":217.08000000000004,"text":"我们正进入一个机器可以模仿任何声音、创造任何图像的时代。如果我们希望真相能在这种冲击中存活,我们必须将透明性、独立性和同理心嵌入数字架构本身。互联网的早期阶段已经证明这是可以做到的。问题在于我们是否仍然有意愿再做一次。"}],[{"start":237.13000000000005,"text":"译者/何黎"}]],"url":"https://audio.ftcn.net.cn/album/a_1764835893_8311.mp3"}

版权声明:本文版权归FT中文网所有,未经允许任何单位或个人不得转载,复制或以任何其他方式使用本文全部或部分,侵权必究。

如何解读关于AI的新闻

遇到轰动性的人工智能新闻,该思考的几个问题。

当AI泡沫破裂时,我们必须做好准备

市场回调将为欧盟提供机会,推出一种以信任为本、区别于美国科技的替代方案。

有了聊天机器人,谁还需要宗教?

随着科技呈现出近似宗教的特质,传统信仰或许正走向更为孤立的方向。

诺尔丹营地:把荒野与舒适纺在一起

走近纺织品牌诺乐在藏地草原的新度假营地。

欧盟在关键乌克兰会谈前冻结俄罗斯资产

华盛顿主导的和谈进入关键阶段之际,基辅及其欧洲盟友正寻求增强自身筹码。

本周图表:姗姗来迟的美联储

美联储相对滞后降息的后果。
设置字号×
最小
较小
默认
较大
最大
分享×