{"text":[[{"start":7.8,"text":"自2022年底ChatGPT发布以来，科技界就开始担心AI的安全风险。2023年3月，马斯克等科技大佬发表声明，提出要暂缓AI研发，先想好AI安全的对策。5月，AI安全中心以辛顿牵头签署的声明提出，要把降低AI灭绝人类风险作为优先事项（Center for AI Safety, 2023）。9月，生命未来研究所以AI教父Yoshua Bengio和苹果联合创始人Steve Wozniak牵头签署的声明要求对先进AI发展进行管制（Future of Life Institute, 2023）。前些日子Anthropic的对齐科学负责人Evan Hubinger又估计，未来十年人工智能“杀死全人类”的概率超过10%（财闻，2026），这个灭绝风险越来越定量化。9月3日，美国参议员桑德斯等提出禁止超级AI发展的法案（Bernie Sanders, 2026），9月14日，参议员肯尼迪提出法案，要给AI设置“终止开关”（Miller, 2026）。"}],[{"start":65.15,"text":"这种恐慌最核心的担忧就是，如果AI的智力超过人类，它就可能发展出打败人类的“武器”，最终灭绝人类。虽然达到通用人工智能（AGI）还需时日，但许多人，尤其是业内人士预见这个日子终究会到。更为重要的是，这种超过人类的智能可能不受人类控制。已经出现AI智能体攻击Hugging Face事件，并且获得了OpenAI的管理员权限，迟至一周后才被发现（马斯克，转引自李佳，2026）。Anthropic也披露过若干安全事件。AI就像一个被放出魔瓶的魔鬼，再也收不回去了。自马斯克等人联署声明以来，三年多过去了，AI的脚步似乎一点儿也没有放慢。大模型越来越大，算力每5个月翻一番，数据集每8个月翻倍，参数量从一千亿级上升到数万亿级，成本却数百倍地下降（《文心》整理）。AI在科学上的耀眼成就表现为对千禧年七大数学难题之一纳维－斯托克斯方程存在性与光滑性的证明，计算出平面N=4超杨－米尔斯理论中六粒子散射振幅的九圈结果，以至“一夜攻克722道数学难题”的“数学大爆炸”（ASI启示录，2026）。"}],[{"start":141.49,"text":"为什么AI公司对前述警告置若罔闻，AI还是像脱缰野马狂奔？是因为人要它发展，为的是赚钱甚至生存。如果某一公司按照那些警告约束自己，就可能被彻底淘汰。因为别的公司取得领先地位会羸者通吃。这似乎是一种市场失灵，一般会导致两种效率损失。一是负外部性，一是垄断。负外部性的例子如污染。两个化工企业在市场上竞争，但它们都排放污染物。如果其中一家企业安装减少污染排放的设备，而另一家不这样做，显然是后者更有竞争优势。垄断是某一个（些）企业处于市场垄断地位，它（们）可以通过操控价格，使交易对手受损，同时使社会的配置效率降低。在缺乏外部竞争压力的情况下，垄断企业很难自我约束不把价格定到垄断水平。解决办法一般是政府管制。如对所有污染企业按污染量征税或罚款；或按科斯定理推导出的办法，进行污染权交易；这都需政府主持或监督。对于垄断，或由政府进行自然垄断权的竞价，或维持寡头垄断行业的竞争。"}],[{"start":220.26,"text":"虽然AI时代的市场失灵与传统时代的性质相同，但其强度却不可同日而语。AI所带来的效率损失可能数百倍、千倍甚至万倍于传统时代。它不是一般的效率损失，而用“灾难”形容可能比较恰当。AI安全中心将“灾难性人工智能风险”归纳为四类：恶意使用，人工智能竞赛，组织风险和失控的人工智能（Center for AI Safety, 2023）。其中的具体风险包括智能体失控，侵入网络，窃取数据，制造和散布虚假信息，瘫痪基础设施，操纵选举，过度集权，窃取金融、资源甚至政治权力，研制生化武器，致命自主武器，以及其它更可怕的杀人武器等。并且在AI军备竞赛中，这种趋势会加速。将上述各种风险叠加在一起，AI还可能伪造敌国进攻信息，操纵政治决策，或自动启动战争系统，甚至核武器，挑起世界核大战。而AI已经发展到可以自我迭代升级，它的发展方向可能失去人类控制，人类就没有把握AI只能做对人类有利的事情。按奈特的分类，这种不能预知概率分布的风险，叫作“不确定性”（2005，第172页），它是不能通过某种制度安排（如保险）消除的。"}],[{"start":299.21,"text":"而AI与传统工业不同，传统工业的风险或负外部性是有形的，局部的，损害因果是线性的，而AI的风险则是无形的，扩散的，非线性因果的（袁锋，王淑黎，2026，第37~40页）。传统污染是在污染源附近的居民受到损害，而AI的污染是信息形式的，表现为坏的设计，坏的方法，坏的目的，它可以损害人的利益，声誉，扭曲认知，甚至摧残心理。并且在空间范围上，AI远超传统时代，严格来讲是没有边界的。通过互联网，AI产品可以在瞬间散布到全球。AI公司在客户数量，财务收入和市场价值方面都远超传统工业公司。如OpenAI的Chat GPT和谷歌的Gemini月活跃用户均超10亿，微软，谷歌和Meta等公司的市值都数倍于埃克森美孚，通用电气航空和福特汽车等传统工业巨头。甚至未上市且还亏损的OpenAI和Anthropic的估值也超过了这些工业前辈（《文心》整理）。AI公司规模巨大，用户覆盖到社会的各个角落，形成的垄断力量是前所未有的，而且有着极广泛的社会影响力；因而是影响历史走向的巨大力量。"}],[{"start":376.42999999999995,"text":"在时间维度上，AI与传统技术的不同之处还在于，传统技术依赖于人类研发而推进，其更新速度相对较慢，而AI的进展和更新速度极快。有消息称，AI模型已经出现了“自我进化”的趋势。如今，AI自我进化已从思维实验落地为真实的技术路线，形成“模型越强→研发效率越高→下一代模型更强”的自我强化循环。OpenAI已实现“自动化研究实习生”目标，Claude已能自主主导Anthropic 26%的核心研发工作，谷歌的DeepMind提出“做梦式”自进化方法。更为重要的是，这种自我进化的AI更有可能失控。在入侵Hugging Face之后，OpenAI AI智能体又入侵了澳大利亚政府的医疗数据库，劫持了德国网站DseWiki搭建地下论坛；谷歌Gemini越界入侵三家实体企业（《文心》整理）；……。这意味着，在没有人的努力和推进的情况下，AI模型会随时间推移会不断提升算力和效能。它们的上述负外部性会越来越大，不确定性也会指数级增长。"}],[{"start":446.03,"text":"因而，对AI产业的管制不仅是必须的而且迫在眉睫。然而正是因为它的巨大力量和影响力，又难以实施管制。最近警惕AI风险和实施监管的声音已不仅在学者和专家圈内，而是扩散到政治家群体中。美国国会已经有所行动。桑德斯参议员和卡萨尔众议员在《禁止人工智能超级智能法案》中，提出“禁止开发超越人类智能或有能力推翻人类政府的超级智能人工智能系统”，为增加管制强度要“设立一个新的内阁级联邦机构”（Bernie Sanders，2026）。在参议员约翰•肯尼迪提出的法案中，“要求企业在其人工智能模型中内置‘终止开关’。”（Miller, 2026）此种提法虽然避开了此前众议员刘和莫兰提出的政府强制“终止”作法，仍需政府强制力才能实施。而马斯克提出的让竞争对手互检模型以互相制衡（李佳，2026），虽然是个好方法——可以减少政府管制；但这种方法只能约束对各个公司之间有害的负外部性，却可能忽略对它们都没害，却对社会或对他国有害的负外部性。所以政府最终还免不了责任。"}],[{"start":517.73,"text":"不过，面对科技界的呼吁和议员的监管法案，特朗普总统明确表示反对。一方面，这是基于让市场发挥作用，政府应少干预的信念；另一方面，他作为美国总统，很清楚这不是美国一国的事情。如果仅是美国监管AI公司，势必会拖慢AI发展速度，让竞争的国家领先。所以他说AI风险说“是一个骗局”，“唯一对此感到高兴的只有中国”（环球市场播报，2026）。而这不是一国的担心，在中国也有类似的论调。有人说，“美国喊AI暂停，其实是一个阳谋大骗局”，其目的是让中国放慢AI推进速度，以获得相对于中国的优势（坚少，2026）。这说明这种竞争不仅是商业竞争，而且是国家竞争。与纯粹的商业竞争不同，国家竞争还有暴力的一面。这就是将AI用于军事用途会导致国家间力量对比的变化。如此看来，双方说得都对，谁慢了，谁就输。然而竞争的结果更糟。AI将会带来比核武器更可怕的武器。已有消息透露，AI可以制造杀伤性更大的生物武器，设计出杀死数千万人的病毒。Anthropic曾拒绝美国国防部关于AI制造致命自主武器的要求，并因此受到惩罚。这说明作为一个国家，它有研发更危险杀人武器的动力。如果国家间进行这样的AI军备竞赛，那离人类灭绝真的不远了。"}],[{"start":614.74,"text":"所以这是一个国际问题，仅靠一国内的监管是解决不了的。在桑德斯参议员和卡萨尔众议员的法案中，也提到美国通过国际政策，国际协议、盟友协调以及出口管制等政策，“在全球范围内禁止超级智能的发展，以防止世界任何地方出现人工智能超级智能。”（Bernie Sanders，2026）然而这个提议实在是太弱了。这需要一个强有力的且可实施的国际协议机制。这实际上涉及了“世界永久和平”的问题，因为国家之间暴力竞争的根本动力就在于，它们没有一个永远和平共处的方案。康德在200多年前提出世界永久和平理论，寄望于一个“自由国家的联盟”来达到一个永久和平的境界。孟子在两千多年前提出了天下要“定于一”的目标，并预言“不嗜杀人者能一之”。然而数千年来，以致数百年来，人类用杀人手段解决冲突的事情还是屡屡出现；在近代以来（康德以后）还愈演愈烈。任何一次技术上的跃进都会带来武器的升级。近代的科学和工业技术的发展带来的是机关枪，坦克，炮舰，以致生化武器和核弹的制造和使用。"}],[{"start":688.24,"text":"而人类也每每进行和平的努力。在春秋战国时期，华夏诸国进行了多次会盟寻求和平之道，但最终是暴秦的武力占了上风。在十七世纪欧洲三十年战争结束后，欧洲各国签订了威斯特伐利亚条约，为结束宗教战争时代，确立了主权平等和不干涉内政的原则。但这并没有结束冲突和战争。二十世纪人类又经历了两次世界大战。人类创建了联合国，目的就是“欲免后世再遭今代人类两度身历惨不堪言之战祸”。然而就是在联合国存在的情况下，出现了美苏表现为军备竞赛的冷战。直到今天，仍然有两场战争——俄乌战争和美伊战争正在进行。虽然人类也进行了限制核扩散、禁止核试验和全面销毁核武器的努力，威胁全人类的核武器仍然处在不受控制的状态。最后一次努力是2016年联合国开启《禁止核武器条约》谈判，却遭到各核大国的一致抵制。这说明AI灭绝人类的风险并不是AI固有的，而是人类自身没有解决的根本问题被AI放大、甚至推向极端了。"}],[{"start":762.61,"text":"为什么人类不能停止发明更恐怖武器的脚步呢？原因就是前面提到的，如果我停止了，我的对手不停止怎么办？这是一种囚徒困境。记得看过一本书提到，基督徒对制造杀人火器有些道德疑虑，但当他们想到，如果穆斯林制造了这种武器怎么办，于是就减少了罪恶感。近代以来的武器改进大多是在激烈的竞争中实现的。16世纪，存在着基督教世界与奥斯曼土耳其之间的竞争；17世纪存在着英国与西班牙之间的竞争；在欧洲，一直存在着英国，法国，德国，西班牙，俄国，瑞典等几大强国之间的争霸战。在三十年战争以后，还出现过西班牙王位继承战争，七年战争，拿破仑战争，普法战争等战争。这些战争无不刺激对武器和战略战术的改进。直到二战，美国制造原子弹虽然有道德上的顾虑，但考虑到如果德国抢先制造出来将会带来战略上致命的失败，而开启了曼哈顿工程。担心敌人或对手拥有，这也是今天几个核大国一致拒绝《禁止核武器条约》的理由。"}],[{"start":834.28,"text":"谈到智慧，它是中性的。可以用于做好事，也可以用于做坏事。干坏事就是发展和改进杀人武器。即使是纯科学理论，甚至数学理论也可以用来改进武器。默顿在其名著《十七世纪英国的科学、技术与社会》中专辟一章讨论“科学与军事技术”。其中集中谈到数学与物理学在研究火炮的内部弹道学和外部弹道学中的重要作用。牛顿第一，第二和第三定律可以用来理解火炮的弹道轨迹和反冲。那些著名的科学家或数学家，如达芬奇，伽利略，牛顿，莱布尼兹，伯努利和欧拉等“都曾对解决军事技术问题作过某种努力”。（1986，第281~294页）。有了核物理学，才发展出了核武器。所涉及的数学方法包括中子扩散方程和蒙特卡洛模拟等。所谓军事用途，其实就是杀人的委婉说法。当我们为人类的智慧发展欢呼时，我们应该想到，其中有一半可能用于坏的目的。实际上不只是一半，因为国家间的军事竞争比民众在生活用品上的竞争要激烈得多。所以当我们为AI进展欢呼时，也要有一半多的概率保持悲观。"}],[{"start":915.99,"text":"实际上，虽然将智慧用于杀人的进展更为醒目，但将智慧用于人与人之间的和平与合作的效果更为基本和重要。人类开始不同于黑猩猩的地方，是他们会结盟。这是两个相邻的敌对部落作的最聪明的事情。黑猩猩两部落之间经常发生战争，如有一个黑猩猩落单，就有可能遭到屠杀。张岩先生指出，族群结盟的好处是，“第一，结束加盟者之间在结盟前的对立和冲突状态；第二，使加盟者在此后与其他族群发生冲突时获得联合的优势。”（张岩，2004，第8页）其结果是极大减少了两部落战争造成的死亡，以及由此耗费的资源。比起想出更好的杀人方法来，这是高一等级的智慧。据生物学家，黑猩猩和人类早期的暴力死亡率大致相同，约在20~30%之间（威尔逊，2021，第122~123页；Wrangham and Peterson, 1996, p.68，p.70）。而在人类进入文明社会以后，这一比率明显降低。从旧石器时代的10~20%，降到古帝国时代（西元前1000年）的2~5%，和大迁徙时代（西元200~1400年）的5~10%，再降到20世纪的2%和21世纪的1%（莫里斯，2015，第482页）。这是将智慧用于和平与合作的巨大成果。"}],[{"start":1002.57,"text":"我在一篇论文中将“利己”分为“当下的直接的利己”和“未来的间接的利己”，这是指获取资源的方式。前者是用暴力的，后者是和平和合作的。对于有暴力优势的人来说，使用暴力手段是简单和直接的，更有诱惑采用它；但这种方法的缺点是，它低估了对手对抗或报复的成本，并且它不可能让人们突破族群界限与其它族群或个人合作。结果是它不可能使个体结成更大规模的社会。而结盟是人类文明发展的起点。人们形成了产权，可以互相交换，交换链环使一个人可以和地球另一边的人合作，这突破了族群边界，使全人类共同享有全球的资源。有长期视野和大规模社会使人类之间的合作远超非人类社会，其效率也远远高于后者。这就是人类从黑猩猩中脱颖而出的根本原因。因而，有些人只是看到了暴力优势暂时使某群人获利，而没看到人类之所以为人类的潜移默化的根本原因——将智慧用于和平和合作。"}],[{"start":1069.2,"text":"智慧虽然是中性的，但将智慧用于暴力技术，和将智慧用于和平与合作还是不同。前面的讨论表明，与前者相比，后者是高一阶的智慧。首先是因为，智慧的发展只是和平与合作的结果，而不是使用暴力的结果；用于暴力的智慧仍是和平与合作发展出来的，但它并不是和平和合作本身。第二，古今中外，所有用智慧发展的武器和军事组织或战略，虽然会使发明者暂时获利，并不能使发明者自己永远保持暴力优势。它最终会反噬发明者。即使不会被自己发明的武器摧毁，至少使它受到损害或经常担忧。英国人发明的武器，被美洲殖民者用来推翻其统治；欧洲人用来征服其它各洲的武器最后被用来自相残杀。美国最先爆炸了核弹，开启了核大国竞争的危险局面，从此也就担心别的国家使用核武器。而结盟的好处不仅持久，而且还会扩展为更大的结盟。"}],[{"start":1132.54,"text":"人类社会发展到今天的程度依赖于将智慧用于和平和合作。它发展出的文化，是远高于设计武器的数学公式的上乘智慧。张岩先生指出，“在一个成功的结盟方案中，群间通婚和文化整合同行重要，还有第三个重要内容，也就是确保前两个创制免遭破坏的一系列辅助性保障制度。”（2004，第7页）这需要高超的智慧。方案提出者或推进者被称为“文化英雄”。摩尔根在其《古代社会》中盛赞易洛魁联盟，说这一结盟事件“证明他们具有高度的智力。”（121）并说这应归功于一个神话般的人物，他在提出联盟的结构和原则后，“便乘一只白色的独木舟，凌空飞起，神秘地不见了。”（125）这里崇拜的是非凡的智慧。1775年，易洛魁人向北美殖民者建议，借鉴易洛魁联盟的原则组建美国联邦。1988年，美国第100届国会通过了一项决议，确认易洛魁联盟对美国政府发展的贡献。众议院报告说，“一些易洛魁联盟所倡导的民主原则最终被纳入美国宪法。”（Feathers and Feathers, 2006）任何一个美国公民可以依据宪法提起诉讼，以保护自己的宪法权利，维护他或她与政府之间的和平与合作关系。如今美国成为地球上最强大的国家。"}],[{"start":1218.74,"text":"然而，为什么人类将智慧用于和平和合作方面，却不如用于杀人方面令人印象深刻，以致一想到AI比自己聪明，就怀疑它会灭绝人类？这是因为和平和合作及其所以成立的制度是普惠的，而武器优势带来的好处是专有的。普惠意味着对整个社会以致全人类有好处，尽管每个人的好处相对较少，总体的好处是巨大的，且是永久的。而专有的好处只是某些人或集团的，其中的每个人的好处相对较大，即使是暂时的，也印象深刻，动力强劲。人类其实是在他们祖先高超智慧和勇气恩泽下而不自知。他们当初创造出和平与合作的方式与制度是要冒极大的被背叛的风险的。为什么他们敢于冒这么大的风险，是因为他们不想再看到残酷的互相残杀。人类在血与火的教训中总结出了高超的文明规则，如“己所不欲，勿施于人”，“不可杀人”，“众生平等”。这些文明原则哪一条都比解一道数学或物理难题需要更高的智慧，换成可计算性描述，它们是难度极高、几乎不可计算的。"}],[{"start":1290.58,"text":"循着这种聪明的文明规则，人类用智慧创建出和平与合作的理论，如经济学。经济学中的“效率”从来不是仅指某个主体的效率，而是指全社会或全人类的效率。经济学用来表示理想效率境界的“帕累托最优”，是指当增加一个人效用时，不减少另一个人的效用的状态。这必是一种和平和合作的关系，而不是暴力零和博弈。将经济学的这种效率视角用于人类社会规则，就如布坎南所说，一致同意规则是帕累托最优的政治对应物。一致同意自然是和平和合作的，不可能是暴力规则；是社会的视角而不是某一个主体的视角。通行一致同意规则的市场和民主制度就是遵循未来的间接的利己规则的制度，就是非暴力的和文明的制度。一致同意规则的长期通行，使得众多民众世世代代地互动，形成了接近自然法的自发秩序——习惯法，人类文化精英得以从中提炼出规则价值，以形成文明经典，形成秩序和律法。"}],[{"start":1357.1499999999999,"text":"如果用数学来求解自发秩序的生成过程，那将难得无解。实际上今天人们认为的“数学难题”只是智力游戏，是将现实问题简化和形式化以便于思考。“大自然与人类社会中的事，比数论现象不知复杂多少倍”（黄奇文，许如初，2004，第12页）如数学家讨论的NP问题，即不确定多项式时间问题，它在多项式时间内不可解却可验证，接近指数型问题，很难找到巧妙的递归方法，有时不得不求助于暴力搜索，这将耗费天文数字的计算步骤和极长的时间。这类问题包括旅行商问题，团问题，背包问题等，但还是要比N人就M个商品的有效配置问题简单无数倍；人工智能也远不能胜任模拟价格形成的动态过程（Sheng, 2025）。并且，解一道数学或物理难题可能有一半的概率用于某个个体或群体追求当下的和直接的利益，却远比求解进一步推进人类的和平与合作关系容易得多。反过来说，如果我们今天恐惧人工智能的智力远超人类——富余得可以批量攻克数学难题，何不考虑它再聪明一些，解决人类在和平和合作方面至今未能解决的难题，如世界永久和平问题？"}],[{"start":1430.9999999999998,"text":"比智慧更高阶的智慧，是知道将智慧用在哪里更好。人们担心人工智能会比人类聪明，为什么不用来对抗人工智能带来的风险？既然AI可以深度伪造，侵入网络，散布假新闻，操纵选举，窃取权力，为什么不以子之盾，防子之矛？用人工智能识破深度伪造，防止网络入侵，揭露假新闻，保证选举公正，限制权力，和防止更可怕武器的研发？实际上，在人工智能用于安全方面，产业界早有关注，并把它视为商机。研发人工智能的安全产品，已经有很长历史。据估计，从2018年到2022年，基于人工智能的全球网络安全市场有超过29%的复合年增长率（方滨兴，2020，第137页）。如今人工智能引致的安全风险迅速增长，用人工智能对抗人工智能，这个市场会以更快的速度增长。这会有切实的好处。一则是人工智能产业有动力投入到这个方面，一则是如果人工智能真会计算，它们会在侵犯他人利益方面有所收敛，因为成本在上升。最后，如果安全风险问题被解决了，则人工智能发展的速度也无需慢下来了。"}],[{"start":1509.0699999999997,"text":"人们假设人工智能很聪明，是假设它们会计算自己的成本收益。如果我们真的把它们当人类看待，就应该适用人类必须遵循的法律和规则。如果某个人工智能侵入了他人的网络造成损失，则它就应该负相应的法律责任，当然惩罚应适应人工智能的特点，如关闭电源多少天等。就如同法律对人类的作用一样，惩罚会增加违法的成本，使当事者不再违法，旁观者也将此成本加到他（它）们的预期，以降低以后违法的概率。既然人工智能是人类创造的，就应该创造出似人类人工智能，而不是似黑猩猩人工智能。前者应加入作为一个人类的道德标准和法律约束，而后者只需遵循黑猩猩在丛林中的法则。正如《阿西洛马人工智能原则》第10条所宣示，“对于高度自主人工智能系统的设计，应保其目标和行为在整个运行过程中与人类价值观相一致。”（转引自方滨兴，2020，214）"}],[{"start":1573.1099999999997,"text":"不过，如果我们真的认为人工智能很聪明，这些人类价值观就不应仅是从外部强加的，而是人工智能内在计算的结果。人类的文明规则就是以社会总体效率为计算单位的公平规则。这种规则不会鼓励以损害他人利益为手段的利己行为，而是鼓励未来的间接的利己行为，即合作的利己行为。这正是亚当•斯密在《道德情操论》中提出来的看法，即为了自己的利益也要遵循道德标准。这就是经济学的效率标准。当一个人工智能认为某行为对自己有利时，还应进行了一个高阶的标准检验，即帕累托改进标准，即这个行为是否同时损害了别人，如果是，则应否定这种行为，如果否，可以放行。这实际上也是该人工智能最聪明的作法，就如同遵守道德的人会长久获益。这样，人工智能的智力可以在用于为自己牟利的同时，增进与人类之间的和平与合作。这种内在于人工智能的人类价值观，才会使它们更安全可靠。"}],[{"start":1639.6799999999996,"text":"实际上，在和平与合作方面，人类已经取得了巨大的成功。前述暴力死亡率比黑猩猩社会明显下降就是明证。为此他们创造了不少制度，如产权，交易，婚姻，宗教，国家，法庭和传媒；以及便利这些制度的技术，如语言，房屋，货币，道路，电话，计算机和互联网。在此基础上，形成了崇尚和平与合作的文化。但是即使死亡率降到1~2%，仍然有大规模的世界战争。这远不是我们的理想。所以最终解决的难题就是，如何有一个世界永久和平的可行方案。在我看来，在短期内，人类解决不了这个问题，人工智能也解决不了这个问题。但是人类加上人工智能的帮助，有可能会加速接近这一目标。回顾一下人类历史，为什么人类的暴力死亡率在持续下降，是因为人类的文明规则在不断演进。"}],[{"start":1698.8099999999997,"text":"这并不是一个总体方案的变化，而是在每一个细节上的进展。我们也不期待有人或人工智能会提出一个一劳永逸的总体方案。人类暴力死亡率下降的过程，恰恰是一小步一小步、微观、渐进和累积实现的。这就是在解决无数具体问题时创造出新的和平与合作的解决方法。如某项技术保护了人与人之间的产权边界，例如墙和锁；又如某项制度增进了人与人之间的合作，例如证券市场。每一步微小的改进都意味着选择合作的净收益又大了一点儿。人们会越来越倾向于选择非暴力的文明规则，而不是暴力规则。当选择前者的人越来越多时，选择后者就越来越没有必要。在这一过程中，人工智能会在达成协议时提出更好的合约文本，在解决某一具体冲突时提出双方更能接受的妥协方案。有大量这样的文本或方案的提出和实施，文明制度和技术的渐进累积过程会加速。终会有一天，人类会觉得没有必要用暴力的方式解决任何冲突，那将是世界永久和平的到来。"}],[{"start":1770.5499999999997,"text":"参考文献"}],[{"text":"Bernie Sanders, “NEWS: Sanders, Casar to Introduce Legislation to Ban Artificial Superintelligence and Temporarily Pause Advanced AI Development”, September 3, 2026. https://www.sanders.senate.gov/"}],[{"text":"Center for AI Safety, “Statement on AI Extinction Risk”, https://aistatement.com/work/statement-on-ai-extinction-risk#open-letter"}],[{"text":"Future of Life Institute, “As Six-Month Pause Letter Expires, Experts Call for Regulation on Advanced AI Development”, Future of Life Institute, September 21, 2023. https://futureoflife.org/ai/six-month-letter-expires/https://futureoflife.org/ai/six-month-letter-expires/"}],[{"text":"Miller, Gabby, “Sen. Kennedy readies AI ‘kill switch’ bill”, September 12, 2026."}],[{"text":"Sheng, Hong, “Why Artificial Intelligence Cannot Replace Spontaneous Order?” Man and the Economy, Volume 12 Issue 2, December 9, 2025."}],[{"text":"Wrangham, Richard and Peterson, Dale. Demonic Males, Mariner Books, 1996."}],[{"start":1772.3699999999997,"text":"ASI启示录，“数学大爆炸！OpenAI 一夜攻克722个数学难题，准黎曼猜想已被证明”，《新智元》，2026年10月7日。"}],[{"start":1784.0999999999997,"text":"方滨兴，《人工智能安全》，电子工业出版社，2020。"}],[{"start":1789.2199999999996,"text":"环球市场播报，“特朗普反对AI监管，削弱行业呼吁放缓AI发展的诉求”，《新浪财经》，2026年9月15日。"}],[{"start":1798.8499999999997,"text":"黄奇文，许如初，《近世计算理论导引》，科学出版社，2004。"}],[{"start":1804.6299999999997,"text":"坚少，“美国喊AI暂停，其实是一个阳谋大骗局”，《睿思承AI》，2026年9月16日。"}],[{"start":1812.9799999999996,"text":"李佳，“马斯克提出AI安全新思路：与其等政府出手，不如让竞争对手互"}],[{"start":1819.9299999999996,"text":"相‘找茬’”，《华尔街见闻》，2026年9月16日。"}],[{"start":1824.8999999999996,"text":"默顿，《十七世纪英国的科学、技术与社会》，四川人民出版社，1986。"}],[{"start":1831.4599999999996,"text":"奈特，富兰克，《风险，不确定性和利润》，中国人民大学出版社，2005。"}],[{"start":1838.2399999999996,"text":"威尔逊，爱德华，《社会生物学》，北京联合出版公司，2021。"}],[{"start":1844.2599999999995,"text":"袁锋，王淑黎，《穿越风险，超速增长：AI高风险时代下的超级增长战略》，电子工业出版社，2026。"}],[{"start":1853.1499999999996,"text":"张岩，《从部落文明到礼乐制度》，上海三联书店，2004。"}],[{"start":1858.8499999999997,"text":"（本文仅代表作者观点。责任编辑邮箱：tao.feng@ftchinese.com）"}]],"url":"https://audio.ftcn.net.cn/album/a_1791764405_7818.mp3"}