我们到底需要多少算力? - FT中文网
登录×
电子邮件/用户名
密码
记住我
请输入邮箱和密码进行绑定操作:
请输入手机号码,通过短信验证(目前仅支持中国大陆地区的手机号):
请您阅读我们的用户注册协议隐私权保护政策,点击下方按钮即视为您接受。
OpenAI

我们到底需要多少算力?

马库斯:自2022年以来,AI芯片提供的算力每年增长约2.3倍,这确实带来了AI模型的显著改进。但沿着这条路继续走下去至少有两个问题。
00:00

{"text":[[{"start":6.53,"text":"本文作者是纽约大学(New York University)荣誉退休教授,著有《驯服硅谷:如何确保AI为我们服务》(Taming Silicon Valley: How We Can Ensure That AI Works for Us)"}],[{"start":13.39,"text":"从现在到2030年,Meta、微软(Microsoft)、Alphabet和亚马逊(Amazon)等美国超大规模云服务商预计将在算力上投入逾5万亿美元。这是一场对技术的豪赌——它已促使一些科技公司减少股票回购,同时发行新的债务和股票。他们究竟希望通过这些投入获得什么呢?"}],[{"start":33.2,"text":"“扩展算力”(scaling compute)是AI行业的一个术语,指的是向数据中心及其所用芯片——例如英伟达(Nvidia)研发的GPU和Alphabet研发的TPU——加大投入。这些芯片为生成式系统(如ChatGPT、Gemini和Claude等聊天机器人)所用的大型语言模型(LLM)提供算力支持。“算力”一词是对给定系统计算能力的简称。增加算力意味着部署更多高速并行计算性能更强的芯片,以训练和使用(称为“推理”)越来越大的神经网络。"}],[{"start":65.16,"text":"其结果便是“规模化”——这被视为解决大型语言模型一切问题的神奇药方。增加更多数据和更多算力确实带来了AI模型的显著改进。例如,OpenAI的GPT-3远远优于GPT-2。据研究机构Epoch AI介绍,自2022年以来,AI芯片提供的算力每年增长约2.3倍。"}],[{"start":88.14,"text":"不幸的是,沿着这条路继续走下去至少有两个问题。"}],[{"start":92.65,"text":"首先是技术层面的问题。规模化并未解决困扰大型语言模型的一些核心问题,包括“幻觉”和偶尔出现的推理错误。尽管算力大幅提升,模型输出的内容仍容易出错。"}],[{"start":106.56,"text":"第二个问题在于,对规模化的追求已变得如此广泛,以至于领先企业之间几乎不存在技术“护城河”。这导致了价格战与高昂运营成本(为了训练和运行新模型,需要建设和运营更大的数据中心)并存的局面,进而造成利润率低下甚至为负,因为各家公司构建的产品大同小异。与此同时,越来越多美国企业似乎正在转向中国开发的、成本更低且开源的AI模型。"}],[{"start":136.31,"text":"如果AI泡沫破裂,乐观者认为,即便相关企业不再存在,新建的基础设施仍将存在——就像19世纪铁路泡沫破裂后,铁路依然存在一样。然而,这种说法忽视了资产折旧的现实(很少有芯片能长期保值,因为总会有更先进的芯片问世),也忽视了大型语言模型被效率更高、且不那么依赖大量昂贵AI芯片的模型取代的可能性。"}],[{"start":162.05,"text":"在对超大规模算力设施进行巨额押注时,投资者对未来利润抱有极高的期望。但大型语言模型不太可能复制当今科技巨头那种近乎垄断、且难以撼动的市场地位。更恰当的类比或许是航空公司:受困于微薄利润、激烈竞争、高昂成本以及对外部供应商的硬件依赖。"}],[{"start":183.97000000000003,"text":"最终,我们可能会面临数据中心严重过剩的局面。"}],[{"start":188.50000000000003,"text":"但真正的问题在于,如果超大规模云服务商对算力设施的巨额押注未能带来回报,其“爆炸半径”会有多大?养老基金、银行乃至全球经济可能遭受什么样的附带损害?在最糟糕的情景下,政府或许会被要求出手救助。OpenAI已试探性地提出类似想法,一度呼吁政府为数据中心建设提供贷款担保,结果因引发公众强烈抗议而作罢。"}],[{"start":217.07000000000002,"text":"某种形式的AI——可靠、高效率且符合人类安全要求——或许确实值得当前涌入数据中心的那种巨额投资。但对现有版本的AI进行这样的豪赌还为时过早。"}],[{"start":230.32000000000002,"text":"译者/和风"}]],"url":"https://audio.ftcn.net.cn/album/a_1782438147_6132.mp3"}

版权声明:本文版权归FT中文网所有,未经允许任何单位或个人不得转载,复制或以任何其他方式使用本文全部或部分,侵权必究。
设置字号×
最小
较小
默认
较大
最大
分享×