{"text":[[{"start":7.04,"text":"我在前两篇专栏中提出，AI既带来机遇，也蕴含着巨大危险，甚至是一些关系到人类存亡的危险。这种变革性的技术还会危及基本价值观（包括个人和机构问责）、法治、民主、甚至是人的本性。而且，成功监管AI将非常困难，不只是因为AI造成的影响将无处不在，还因为其进步背后的驱动因素是企业相互之间以及美中之间的激烈竞争。"}],[{"start":35.27,"text":"不同寻常的是，Anthropic最近发表的一篇帖子称“我们在AI开发中让AI系统自身承担的任务占越来越大的比重……这一趋势发展下去，到了足够的程度，并且有足够的算力，将诞生一种能够……自动地设计和开发自身后续版本的AI系统。”该帖子接着说，“如果有可能……放慢这种技术的发展，给我们自己更多的时间来应对其巨大影响，我们认为这可能是一件好事”。如果说就连AI领域的佼佼者Anthropic都在担心发展这种技术的隐患，所有其他人，尤其是年轻人就更加无法安心了。"}],[{"start":73.11000000000001,"text":"这个问题之所以在政治上引起强烈担忧，很大一部分原因是AI除了预计会带来生产力提升，也会造成失业。但AI带来的变革会以什么速度和规模呈现是未知数。例如，我的同事约翰•伯恩-默多克(John Burn-Murdoch)最近指出，由AI产生的App供给增多，并没有带来使用量的相应增多。此外，AI对软件开发早期阶段产出的提振，也比对最终产品阶段的提振更为显著。（见图表。）"}],[{"start":105.38000000000002,"text":"国际劳工组织(International Labour Organization)去年一篇概述AI对就业影响的文章认为，全球范围内，有四分之一劳动者从事的职业都会受到生成式AI某种程度的影响。但是文章中还说，全球只有“3.3%的职业属于最容易受影响的类别”。这样看起来不会造成非常大的影响。还有，在过去，从重大发明问世（比如电）到生产力提高之间存在长久的滞后。正如保罗•克鲁格曼(Paul Krugman)所写的，在数字化时代，生产率增速低于第二次世界大战之后，而那段时期并没有出现此类重大突破。"}],[{"start":142.96000000000004,"text":"在意见相反的阵营中，一位有丰富经验的科技投资人维诺德•科斯拉(Vinod Khosla)在英国《金融时报》上发文称“我敢肯定，今天人类在做的具有经济价值的工作，未来将有80%由AI完成，所有岗位将有80%由AI承担，这一切的到来将快得大多数人都预料不到。问题不是大规模的就业不足是否会在下个十年到来，而是那天到来时我们是否制定好了条理清晰的政策框架。”"}],[{"start":170.23000000000005,"text":"对AI造成影响的速度和规模抱着怀疑态度是有道理的。但科斯拉也说得对：我们需要做好准备。AI可能造成关乎人类存亡的冲击，严重扰乱经济，使文明毁于一旦。面对不确定性有必要做好准备，而不是抱着满不在乎的态度。"}],[{"start":190.79000000000005,"text":"那么，什么才叫有备无患？"}],[{"start":193.48000000000005,"text":"首先，我们需要为进入一个新的世界做好准备，那时候机器将会做出重大决策，有些情况下，尤其是在涉及战争和生物学研究时，这些决策将产生深远影响。 最终，人类必须为机器的决策负责，包括AI程序员、销售AI的公司的管理者以及使用AI的机构的决策者。与阿根廷总统哈维尔•米莱(Javier Milei)的观点相反，如果不能对人问责，就绝不能由AI运营机构。当AI造成损害时，所有者、管理者和官员应承担相应的刑事和民事责任。"}],[{"start":229.20000000000005,"text":"其次，我们不能依靠AI开发者的道德感和自我约束。我们已经在社交媒体方面有过糟糕的经历。我以前就曾提到：“散布谎言和欺诈信息可能是好生意。更糟的是，散布那些会使人们的生活变得不堪忍受的帖子可能是门好生意……人工智能看来可能通过编造‘完美’的各类欺诈信息而加重我们的集体困境。”Anthropic也许有意放慢脚步。但它在一场竞赛中：竞争对手们要做什么是它无法控制的。如果药品没有通过适当的测试机制，我们是不允许医药公司将它上市的，这么做有充分的理由。对新的AI软件也应当采用类似的机制。而且，在一种竞争性的行业，此类机制也必须在全球范围内采用。"}],[{"start":280.41,"text":"第三，这就是为什么此类机制不能只是国家层面的。必须就如何对AI进行测试和控制以及如何追究损害责任达成一份全球协议。欧盟似乎正再次扮演首要监管者（或者说最后的监管者）角色。这或许不是坏事。世界各地的人们甚至信任欧盟会成为比美国或中国更好的监管者，大概是因为他们相信欧盟比较不会被商业利益或者想要把AI当作武器使用的意愿所左右。但理想情况下，中国和美国应当成为任何可能达成的协议的核心支柱。AI对所有人来说都太危险，不应该不加控制地发展。"}],[{"start":323.5,"text":"最后也是尤其重要的一点是，AI最终极有可能摧毁就业市场、加剧不平等，并导致经济——因而还有政治——权力高度集中在极少数企业和个人手中。结合这一点以及AI技术带来的其他许多威胁，我们面临着一种巨大的风险：民主可能被专制所推翻。事实上，这种事已经在发生。那些希望看到民有、民治、民享的政府能维系下去的人必须努力阻止这种情况。最明显的一点是，增加的收入和财富必须有很大一部分是共同享有的。要为此做好准备就必须从现在开始。如果我们还不行动起来，有一天就会为时太晚。"}],[{"start":367.27,"text":"译者/何黎"}]],"url":"https://audio.ftcn.net.cn/album/a_1781739028_8481.mp3"}