为什么人类不能停止发明更恐怖武器的脚步呢？原因就是前面提到的，如果我停止了，我的对手不停止怎么办？这是一种囚徒困境。记得看过一本书提到，基督徒对制造杀人火器有些道德疑虑，但当他们想到，如果穆斯林制造了这种武器怎么办，于是就减少了罪恶感。近代以来的武器改进大多是在激烈的竞争中实现的。16世纪，存在着基督教世界与奥斯曼土耳其之间的竞争；17世纪存在着英国与西班牙之间的竞争；在欧洲，一直存在着英国，法国，德国，西班牙，俄国，瑞典等几大强国之间的争霸战。在三十年战争以后，还出现过西班牙王位继承战争，七年战争，拿破仑战争，普法战争等战争。这些战争无不刺激对武器和战略战术的改进。直到二战，美国制造原子弹虽然有道德上的顾虑，但考虑到如果德国抢先制造出来将会带来战略上致命的失败，而开启了曼哈顿工程。担心敌人或对手拥有，这也是今天几个核大国一致拒绝《禁止核武器条约》的理由。
谈到智慧，它是中性的。可以用于做好事，也可以用于做坏事。干坏事就是发展和改进杀人武器。即使是纯科学理论，甚至数学理论也可以用来改进武器。默顿在其名著《十七世纪英国的科学、技术与社会》中专辟一章讨论“科学与军事技术”。其中集中谈到数学与物理学在研究火炮的内部弹道学和外部弹道学中的重要作用。牛顿第一，第二和第三定律可以用来理解火炮的弹道轨迹和反冲。那些著名的科学家或数学家，如达芬奇，伽利略，牛顿，莱布尼兹，伯努利和欧拉等“都曾对解决军事技术问题作过某种努力”。（1986，第281~294页）。有了核物理学，才发展出了核武器。所涉及的数学方法包括中子扩散方程和蒙特卡洛模拟等。所谓军事用途，其实就是杀人的委婉说法。当我们为人类的智慧发展欢呼时，我们应该想到，其中有一半可能用于坏的目的。实际上不只是一半，因为国家间的军事竞争比民众在生活用品上的竞争要激烈得多。所以当我们为AI进展欢呼时，也要有一半多的概率保持悲观。
实际上，虽然将智慧用于杀人的进展更为醒目，但将智慧用于人与人之间的和平与合作的效果更为基本和重要。人类开始不同于黑猩猩的地方，是他们会结盟。这是两个相邻的敌对部落作的最聪明的事情。黑猩猩两部落之间经常发生战争，如有一个黑猩猩落单，就有可能遭到屠杀。张岩先生指出，族群结盟的好处是，“第一，结束加盟者之间在结盟前的对立和冲突状态；第二，使加盟者在此后与其他族群发生冲突时获得联合的优势。”（张岩，2004，第8页）其结果是极大减少了两部落战争造成的死亡，以及由此耗费的资源。比起想出更好的杀人方法来，这是高一等级的智慧。据生物学家，黑猩猩和人类早期的暴力死亡率大致相同，约在20~30%之间（威尔逊，2021，第122~123页；Wrangham and Peterson, 1996, p.68，p.70）。而在人类进入文明社会以后，这一比率明显降低。从旧石器时代的10~20%，降到古帝国时代（西元前1000年）的2~5%，和大迁徙时代（西元200~1400年）的5~10%，再降到20世纪的2%和21世纪的1%（莫里斯，2015，第482页）。这是将智慧用于和平与合作的巨大成果。
我在一篇论文中将“利己”分为“当下的直接的利己”和“未来的间接的利己”，这是指获取资源的方式。前者是用暴力的，后者是和平和合作的。对于有暴力优势的人来说，使用暴力手段是简单和直接的，更有诱惑采用它；但这种方法的缺点是，它低估了对手对抗或报复的成本，并且它不可能让人们突破族群界限与其它族群或个人合作。结果是它不可能使个体结成更大规模的社会。而结盟是人类文明发展的起点。人们形成了产权，可以互相交换，交换链环使一个人可以和地球另一边的人合作，这突破了族群边界，使全人类共同享有全球的资源。有长期视野和大规模社会使人类之间的合作远超非人类社会，其效率也远远高于后者。这就是人类从黑猩猩中脱颖而出的根本原因。因而，有些人只是看到了暴力优势暂时使某群人获利，而没看到人类之所以为人类的潜移默化的根本原因——将智慧用于和平和合作。
智慧虽然是中性的，但将智慧用于暴力技术，和将智慧用于和平与合作还是不同。前面的讨论表明，与前者相比，后者是高一阶的智慧。首先是因为，智慧的发展只是和平与合作的结果，而不是使用暴力的结果；用于暴力的智慧仍是和平与合作发展出来的，但它并不是和平和合作本身。第二，古今中外，所有用智慧发展的武器和军事组织或战略，虽然会使发明者暂时获利，并不能使发明者自己永远保持暴力优势。它最终会反噬发明者。即使不会被自己发明的武器摧毁，至少使它受到损害或经常担忧。英国人发明的武器，被美洲殖民者用来推翻其统治；欧洲人用来征服其它各洲的武器最后被用来自相残杀。美国最先爆炸了核弹，开启了核大国竞争的危险局面，从此也就担心别的国家使用核武器。而结盟的好处不仅持久，而且还会扩展为更大的结盟。
人类社会发展到今天的程度依赖于将智慧用于和平和合作。它发展出的文化，是远高于设计武器的数学公式的上乘智慧。张岩先生指出，“在一个成功的结盟方案中，群间通婚和文化整合同行重要，还有第三个重要内容，也就是确保前两个创制免遭破坏的一系列辅助性保障制度。”（2004，第7页）这需要高超的智慧。方案提出者或推进者被称为“文化英雄”。摩尔根在其《古代社会》中盛赞易洛魁联盟，说这一结盟事件“证明他们具有高度的智力。”（121）并说这应归功于一个神话般的人物，他在提出联盟的结构和原则后，“便乘一只白色的独木舟，凌空飞起，神秘地不见了。”（125）这里崇拜的是非凡的智慧。1775年，易洛魁人向北美殖民者建议，借鉴易洛魁联盟的原则组建美国联邦。1988年，美国第100届国会通过了一项决议，确认易洛魁联盟对美国政府发展的贡献。众议院报告说，“一些易洛魁联盟所倡导的民主原则最终被纳入美国宪法。”（Feathers and Feathers, 2006）任何一个美国公民可以依据宪法提起诉讼，以保护自己的宪法权利，维护他或她与政府之间的和平与合作关系。如今美国成为地球上最强大的国家。
然而，为什么人类将智慧用于和平和合作方面，却不如用于杀人方面令人印象深刻，以致一想到AI比自己聪明，就怀疑它会灭绝人类？这是因为和平和合作及其所以成立的制度是普惠的，而武器优势带来的好处是专有的。普惠意味着对整个社会以致全人类有好处，尽管每个人的好处相对较少，总体的好处是巨大的，且是永久的。而专有的好处只是某些人或集团的，其中的每个人的好处相对较大，即使是暂时的，也印象深刻，动力强劲。人类其实是在他们祖先高超智慧和勇气恩泽下而不自知。他们当初创造出和平与合作的方式与制度是要冒极大的被背叛的风险的。为什么他们敢于冒这么大的风险，是因为他们不想再看到残酷的互相残杀。人类在血与火的教训中总结出了高超的文明规则，如“己所不欲，勿施于人”，“不可杀人”，“众生平等”。这些文明原则哪一条都比解一道数学或物理难题需要更高的智慧，换成可计算性描述，它们是难度极高、几乎不可计算的。
循着这种聪明的文明规则，人类用智慧创建出和平与合作的理论，如经济学。经济学中的“效率”从来不是仅指某个主体的效率，而是指全社会或全人类的效率。经济学用来表示理想效率境界的“帕累托最优”，是指当增加一个人效用时，不减少另一个人的效用的状态。这必是一种和平和合作的关系，而不是暴力零和博弈。将经济学的这种效率视角用于人类社会规则，就如布坎南所说，一致同意规则是帕累托最优的政治对应物。一致同意自然是和平和合作的，不可能是暴力规则；是社会的视角而不是某一个主体的视角。通行一致同意规则的市场和民主制度就是遵循未来的间接的利己规则的制度，就是非暴力的和文明的制度。一致同意规则的长期通行，使得众多民众世世代代地互动，形成了接近自然法的自发秩序——习惯法，人类文化精英得以从中提炼出规则价值，以形成文明经典，形成秩序和律法。
如果用数学来求解自发秩序的生成过程，那将难得无解。实际上今天人们认为的“数学难题”只是智力游戏，是将现实问题简化和形式化以便于思考。“大自然与人类社会中的事，比数论现象不知复杂多少倍”（黄奇文，许如初，2004，第12页）如数学家讨论的NP问题，即不确定多项式时间问题，它在多项式时间内不可解却可验证，接近指数型问题，很难找到巧妙的递归方法，有时不得不求助于暴力搜索，这将耗费天文数字的计算步骤和极长的时间。这类问题包括旅行商问题，团问题，背包问题等，但还是要比N人就M个商品的有效配置问题简单无数倍；人工智能也远不能胜任模拟价格形成的动态过程（Sheng, 2025）。并且，解一道数学或物理难题可能有一半的概率用于某个个体或群体追求当下的和直接的利益，却远比求解进一步推进人类的和平与合作关系容易得多。反过来说，如果我们今天恐惧人工智能的智力远超人类——富余得可以批量攻克数学难题，何不考虑它再聪明一些，解决人类在和平和合作方面至今未能解决的难题，如世界永久和平问题？
比智慧更高阶的智慧，是知道将智慧用在哪里更好。人们担心人工智能会比人类聪明，为什么不用来对抗人工智能带来的风险？既然AI可以深度伪造，侵入网络，散布假新闻，操纵选举，窃取权力，为什么不以子之盾，防子之矛？用人工智能识破深度伪造，防止网络入侵，揭露假新闻，保证选举公正，限制权力，和防止更可怕武器的研发？实际上，在人工智能用于安全方面，产业界早有关注，并把它视为商机。研发人工智能的安全产品，已经有很长历史。据估计，从2018年到2022年，基于人工智能的全球网络安全市场有超过29%的复合年增长率（方滨兴，2020，第137页）。如今人工智能引致的安全风险迅速增长，用人工智能对抗人工智能，这个市场会以更快的速度增长。这会有切实的好处。一则是人工智能产业有动力投入到这个方面，一则是如果人工智能真会计算，它们会在侵犯他人利益方面有所收敛，因为成本在上升。最后，如果安全风险问题被解决了，则人工智能发展的速度也无需慢下来了。