为什么人类不能停止发明更恐怖武器的脚步呢？原因就是前面提到的，如果我停止了，我的对手不停止怎么办？这是一种囚徒困境。记得看过一本书提到，基督徒对制造杀人火器有些道德疑虑，但当他们想到，如果穆斯林制造了这种武器怎么办，于是就减少了罪恶感。近代以来的武器改进大多是在激烈的竞争中实现的。16世纪，存在着基督教世界与奥斯曼土耳其之间的竞争；17世纪存在着英国与西班牙之间的竞争；在欧洲，一直存在着英国，法国，德国，西班牙，俄国，瑞典等几大强国之间的争霸战。在三十年战争以后，还出现过西班牙王位继承战争，七年战争，拿破仑战争，普法战争等战争。这些战争无不刺激对武器和战略战术的改进。直到二战，美国制造原子弹虽然有道德上的顾虑，但考虑到如果德国抢先制造出来将会带来战略上致命的失败，而开启了曼哈顿工程。担心敌人或对手拥有，这也是今天几个核大国一致拒绝《禁止核武器条约》的理由。
谈到智慧，它是中性的。可以用于做好事，也可以用于做坏事。干坏事就是发展和改进杀人武器。即使是纯科学理论，甚至数学理论也可以用来改进武器。默顿在其名著《十七世纪英国的科学、技术与社会》中专辟一章讨论“科学与军事技术”。其中集中谈到数学与物理学在研究火炮的内部弹道学和外部弹道学中的重要作用。牛顿第一，第二和第三定律可以用来理解火炮的弹道轨迹和反冲。那些著名的科学家或数学家，如达芬奇，伽利略，牛顿，莱布尼兹，伯努利和欧拉等“都曾对解决军事技术问题作过某种努力”。（1986，第281~294页）。有了核物理学，才发展出了核武器。所涉及的数学方法包括中子扩散方程和蒙特卡洛模拟等。所谓军事用途，其实就是杀人的委婉说法。当我们为人类的智慧发展欢呼时，我们应该想到，其中有一半可能用于坏的目的。实际上不只是一半，因为国家间的军事竞争比民众在生活用品上的竞争要激烈得多。所以当我们为AI进展欢呼时，也要有一半多的概率保持悲观。
实际上，虽然将智慧用于杀人的进展更为醒目，但将智慧用于人与人之间的和平与合作的效果更为基本和重要。人类开始不同于黑猩猩的地方，是他们会结盟。这是两个相邻的敌对部落作的最聪明的事情。黑猩猩两部落之间经常发生战争，如有一个黑猩猩落单，就有可能遭到屠杀。张岩先生指出，族群结盟的好处是，“第一，结束加盟者之间在结盟前的对立和冲突状态；第二，使加盟者在此后与其他族群发生冲突时获得联合的优势。”（张岩，2004，第8页）其结果是极大减少了两部落战争造成的死亡，以及由此耗费的资源。比起想出更好的杀人方法来，这是高一等级的智慧。据生物学家，黑猩猩和人类早期的暴力死亡率大致相同，约在20~30%之间（威尔逊，2021，第122~123页；Wrangham and Peterson, 1996, p.68，p.70）。而在人类进入文明社会以后，这一比率明显降低。从旧石器时代的10~20%，降到古帝国时代（西元前1000年）的2~5%，和大迁徙时代（西元200~1400年）的5~10%，再降到20世纪的2%和21世纪的1%（莫里斯，2015，第482页）。这是将智慧用于和平与合作的巨大成果。
我在一篇论文中将“利己”分为“当下的直接的利己”和“未来的间接的利己”，这是指获取资源的方式。前者是用暴力的，后者是和平和合作的。对于有暴力优势的人来说，使用暴力手段是简单和直接的，更有诱惑采用它；但这种方法的缺点是，它低估了对手对抗或报复的成本，并且它不可能让人们突破族群界限与其它族群或个人合作。结果是它不可能使个体结成更大规模的社会。而结盟是人类文明发展的起点。人们形成了产权，可以互相交换，交换链环使一个人可以和地球另一边的人合作，这突破了族群边界，使全人类共同享有全球的资源。有长期视野和大规模社会使人类之间的合作远超非人类社会，其效率也远远高于后者。这就是人类从黑猩猩中脱颖而出的根本原因。因而，有些人只是看到了暴力优势暂时使某群人获利，而没看到人类之所以为人类的潜移默化的根本原因——将智慧用于和平和合作。
智慧虽然是中性的，但将智慧用于暴力技术，和将智慧用于和平与合作还是不同。前面的讨论表明，与前者相比，后者是高一阶的智慧。首先是因为，智慧的发展只是和平与合作的结果，而不是使用暴力的结果；用于暴力的智慧仍是和平与合作发展出来的，但它并不是和平和合作本身。第二，古今中外，所有用智慧发展的武器和军事组织或战略，虽然会使发明者暂时获利，并不能使发明者自己永远保持暴力优势。它最终会反噬发明者。即使不会被自己发明的武器摧毁，至少使它受到损害或经常担忧。英国人发明的武器，被美洲殖民者用来推翻其统治；欧洲人用来征服其它各洲的武器最后被用来自相残杀。美国最先爆炸了核弹，开启了核大国竞争的危险局面，从此也就担心别的国家使用核武器。而结盟的好处不仅持久，而且还会扩展为更大的结盟。
人类社会发展到今天的程度依赖于将智慧用于和平和合作。它发展出的文化，是远高于设计武器的数学公式的上乘智慧。张岩先生指出，“在一个成功的结盟方案中，群间通婚和文化整合同行重要，还有第三个重要内容，也就是确保前两个创制免遭破坏的一系列辅助性保障制度。”（2004，第7页）这需要高超的智慧。方案提出者或推进者被称为“文化英雄”。摩尔根在其《古代社会》中盛赞易洛魁联盟，说这一结盟事件“证明他们具有高度的智力。”（121）并说这应归功于一个神话般的人物，他在提出联盟的结构和原则后，“便乘一只白色的独木舟，凌空飞起，神秘地不见了。”（125）这里崇拜的是非凡的智慧。1775年，易洛魁人向北美殖民者建议，借鉴易洛魁联盟的原则组建美国联邦。1988年，美国第100届国会通过了一项决议，确认易洛魁联盟对美国政府发展的贡献。众议院报告说，“一些易洛魁联盟所倡导的民主原则最终被纳入美国宪法。”（Feathers and Feathers, 2006）任何一个美国公民可以依据宪法提起诉讼，以保护自己的宪法权利，维护他或她与政府之间的和平与合作关系。如今美国成为地球上最强大的国家。
然而，为什么人类将智慧用于和平和合作方面，却不如用于杀人方面令人印象深刻，以致一想到AI比自己聪明，就怀疑它会灭绝人类？这是因为和平和合作及其所以成立的制度是普惠的，而武器优势带来的好处是专有的。普惠意味着对整个社会以致全人类有好处，尽管每个人的好处相对较少，总体的好处是巨大的，且是永久的。而专有的好处只是某些人或集团的，其中的每个人的好处相对较大，即使是暂时的，也印象深刻，动力强劲。人类其实是在他们祖先高超智慧和勇气恩泽下而不自知。他们当初创造出和平与合作的方式与制度是要冒极大的被背叛的风险的。为什么他们敢于冒这么大的风险，是因为他们不想再看到残酷的互相残杀。人类在血与火的教训中总结出了高超的文明规则，如“己所不欲，勿施于人”，“不可杀人”，“众生平等”。这些文明原则哪一条都比解一道数学或物理难题需要更高的智慧，换成可计算性描述，它们是难度极高、几乎不可计算的。
循着这种聪明的文明规则，人类用智慧创建出和平与合作的理论，如经济学。经济学中的“效率”从来不是仅指某个主体的效率，而是指全社会或全人类的效率。经济学用来表示理想效率境界的“帕累托最优”，是指当增加一个人效用时，不减少另一个人的效用的状态。这必是一种和平和合作的关系，而不是暴力零和博弈。将经济学的这种效率视角用于人类社会规则，就如布坎南所说，一致同意规则是帕累托最优的政治对应物。一致同意自然是和平和合作的，不可能是暴力规则；是社会的视角而不是某一个主体的视角。通行一致同意规则的市场和民主制度就是遵循未来的间接的利己规则的制度，就是非暴力的和文明的制度。一致同意规则的长期通行，使得众多民众世世代代地互动，形成了接近自然法的自发秩序——习惯法，人类文化精英得以从中提炼出规则价值，以形成文明经典，形成秩序和律法。
如果用数学来求解自发秩序的生成过程，那将难得无解。实际上今天人们认为的“数学难题”只是智力游戏，是将现实问题简化和形式化以便于思考。“大自然与人类社会中的事，比数论现象不知复杂多少倍”（黄奇文，许如初，2004，第12页）如数学家讨论的NP问题，即不确定多项式时间问题，它在多项式时间内不可解却可验证，接近指数型问题，很难找到巧妙的递归方法，有时不得不求助于暴力搜索，这将耗费天文数字的计算步骤和极长的时间。这类问题包括旅行商问题，团问题，背包问题等，但还是要比N人就M个商品的有效配置问题简单无数倍；人工智能也远不能胜任模拟价格形成的动态过程（Sheng, 2025）。并且，解一道数学或物理难题可能有一半的概率用于某个个体或群体追求当下的和直接的利益，却远比求解进一步推进人类的和平与合作关系容易得多。反过来说，如果我们今天恐惧人工智能的智力远超人类——富余得可以批量攻克数学难题，何不考虑它再聪明一些，解决人类在和平和合作方面至今未能解决的难题，如世界永久和平问题？
比智慧更高阶的智慧，是知道将智慧用在哪里更好。人们担心人工智能会比人类聪明，为什么不用来对抗人工智能带来的风险？既然AI可以深度伪造，侵入网络，散布假新闻，操纵选举，窃取权力，为什么不以子之盾，防子之矛？用人工智能识破深度伪造，防止网络入侵，揭露假新闻，保证选举公正，限制权力，和防止更可怕武器的研发？实际上，在人工智能用于安全方面，产业界早有关注，并把它视为商机。研发人工智能的安全产品，已经有很长历史。据估计，从2018年到2022年，基于人工智能的全球网络安全市场有超过29%的复合年增长率（方滨兴，2020，第137页）。如今人工智能引致的安全风险迅速增长，用人工智能对抗人工智能，这个市场会以更快的速度增长。这会有切实的好处。一则是人工智能产业有动力投入到这个方面，一则是如果人工智能真会计算，它们会在侵犯他人利益方面有所收敛，因为成本在上升。最后，如果安全风险问题被解决了，则人工智能发展的速度也无需慢下来了。
人们假设人工智能很聪明，是假设它们会计算自己的成本收益。如果我们真的把它们当人类看待，就应该适用人类必须遵循的法律和规则。如果某个人工智能侵入了他人的网络造成损失，则它就应该负相应的法律责任，当然惩罚应适应人工智能的特点，如关闭电源多少天等。就如同法律对人类的作用一样，惩罚会增加违法的成本，使当事者不再违法，旁观者也将此成本加到他（它）们的预期，以降低以后违法的概率。既然人工智能是人类创造的，就应该创造出似人类人工智能，而不是似黑猩猩人工智能。前者应加入作为一个人类的道德标准和法律约束，而后者只需遵循黑猩猩在丛林中的法则。正如《阿西洛马人工智能原则》第10条所宣示，“对于高度自主人工智能系统的设计，应保其目标和行为在整个运行过程中与人类价值观相一致。”（转引自方滨兴，2020，214）
不过，如果我们真的认为人工智能很聪明，这些人类价值观就不应仅是从外部强加的，而是人工智能内在计算的结果。人类的文明规则就是以社会总体效率为计算单位的公平规则。这种规则不会鼓励以损害他人利益为手段的利己行为，而是鼓励未来的间接的利己行为，即合作的利己行为。这正是亚当•斯密在《道德情操论》中提出来的看法，即为了自己的利益也要遵循道德标准。这就是经济学的效率标准。当一个人工智能认为某行为对自己有利时，还应进行了一个高阶的标准检验，即帕累托改进标准，即这个行为是否同时损害了别人，如果是，则应否定这种行为，如果否，可以放行。这实际上也是该人工智能最聪明的作法，就如同遵守道德的人会长久获益。这样，人工智能的智力可以在用于为自己牟利的同时，增进与人类之间的和平与合作。这种内在于人工智能的人类价值观，才会使它们更安全可靠。
实际上，在和平与合作方面，人类已经取得了巨大的成功。前述暴力死亡率比黑猩猩社会明显下降就是明证。为此他们创造了不少制度，如产权，交易，婚姻，宗教，国家，法庭和传媒；以及便利这些制度的技术，如语言，房屋，货币，道路，电话，计算机和互联网。在此基础上，形成了崇尚和平与合作的文化。但是即使死亡率降到1~2%，仍然有大规模的世界战争。这远不是我们的理想。所以最终解决的难题就是，如何有一个世界永久和平的可行方案。在我看来，在短期内，人类解决不了这个问题，人工智能也解决不了这个问题。但是人类加上人工智能的帮助，有可能会加速接近这一目标。回顾一下人类历史，为什么人类的暴力死亡率在持续下降，是因为人类的文明规则在不断演进。
这并不是一个总体方案的变化，而是在每一个细节上的进展。我们也不期待有人或人工智能会提出一个一劳永逸的总体方案。人类暴力死亡率下降的过程，恰恰是一小步一小步、微观、渐进和累积实现的。这就是在解决无数具体问题时创造出新的和平与合作的解决方法。如某项技术保护了人与人之间的产权边界，例如墙和锁；又如某项制度增进了人与人之间的合作，例如证券市场。每一步微小的改进都意味着选择合作的净收益又大了一点儿。人们会越来越倾向于选择非暴力的文明规则，而不是暴力规则。当选择前者的人越来越多时，选择后者就越来越没有必要。在这一过程中，人工智能会在达成协议时提出更好的合约文本，在解决某一具体冲突时提出双方更能接受的妥协方案。有大量这样的文本或方案的提出和实施，文明制度和技术的渐进累积过程会加速。终会有一天，人类会觉得没有必要用暴力的方式解决任何冲突，那将是世界永久和平的到来。
参考文献
Bernie Sanders, “NEWS: Sanders, Casar to Introduce Legislation to Ban Artificial Superintelligence and Temporarily Pause Advanced AI Development”, September 3, 2026. https://www.sanders.senate.gov/
Center for AI Safety, “Statement on AI Extinction Risk”, https://aistatement.com/work/statement-on-ai-extinction-risk#open-letter
Future of Life Institute, “As Six-Month Pause Letter Expires, Experts Call for Regulation on Advanced AI Development”, Future of Life Institute, September 21, 2023. https://futureoflife.org/ai/six-month-letter-expires/https://futureoflife.org/ai/six-month-letter-expires/
Miller, Gabby, “Sen. Kennedy readies AI ‘kill switch’ bill”, September 12, 2026.
Sheng, Hong, “Why Artificial Intelligence Cannot Replace Spontaneous Order?” Man and the Economy, Volume 12 Issue 2, December 9, 2025.
Wrangham, Richard and Peterson, Dale. Demonic Males, Mariner Books, 1996.
ASI启示录，“数学大爆炸！OpenAI 一夜攻克722个数学难题，准黎曼猜想已被证明”，《新智元》，2026年10月7日。
方滨兴，《人工智能安全》，电子工业出版社，2020。
环球市场播报，“特朗普反对AI监管，削弱行业呼吁放缓AI发展的诉求”，《新浪财经》，2026年9月15日。
黄奇文，许如初，《近世计算理论导引》，科学出版社，2004。
坚少，“美国喊AI暂停，其实是一个阳谋大骗局”，《睿思承AI》，2026年9月16日。
李佳，“马斯克提出AI安全新思路：与其等政府出手，不如让竞争对手互
相‘找茬’”，《华尔街见闻》，2026年9月16日。
默顿，《十七世纪英国的科学、技术与社会》，四川人民出版社，1986。
奈特，富兰克，《风险，不确定性和利润》，中国人民大学出版社，2005。
威尔逊，爱德华，《社会生物学》，北京联合出版公司，2021。
袁锋，王淑黎，《穿越风险，超速增长：AI高风险时代下的超级增长战略》，电子工业出版社，2026。
张岩，《从部落文明到礼乐制度》，上海三联书店，2004。
（本文仅代表作者观点。责任编辑邮箱：tao.feng@ftchinese.com）