人们假设人工智能很聪明，是假设它们会计算自己的成本收益。如果我们真的把它们当人类看待，就应该适用人类必须遵循的法律和规则。如果某个人工智能侵入了他人的网络造成损失，则它就应该负相应的法律责任，当然惩罚应适应人工智能的特点，如关闭电源多少天等。就如同法律对人类的作用一样，惩罚会增加违法的成本，使当事者不再违法，旁观者也将此成本加到他（它）们的预期，以降低以后违法的概率。既然人工智能是人类创造的，就应该创造出似人类人工智能，而不是似黑猩猩人工智能。前者应加入作为一个人类的道德标准和法律约束，而后者只需遵循黑猩猩在丛林中的法则。正如《阿西洛马人工智能原则》第10条所宣示，“对于高度自主人工智能系统的设计，应保其目标和行为在整个运行过程中与人类价值观相一致。”（转引自方滨兴，2020，214）
不过，如果我们真的认为人工智能很聪明，这些人类价值观就不应仅是从外部强加的，而是人工智能内在计算的结果。人类的文明规则就是以社会总体效率为计算单位的公平规则。这种规则不会鼓励以损害他人利益为手段的利己行为，而是鼓励未来的间接的利己行为，即合作的利己行为。这正是亚当•斯密在《道德情操论》中提出来的看法，即为了自己的利益也要遵循道德标准。这就是经济学的效率标准。当一个人工智能认为某行为对自己有利时，还应进行了一个高阶的标准检验，即帕累托改进标准，即这个行为是否同时损害了别人，如果是，则应否定这种行为，如果否，可以放行。这实际上也是该人工智能最聪明的作法，就如同遵守道德的人会长久获益。这样，人工智能的智力可以在用于为自己牟利的同时，增进与人类之间的和平与合作。这种内在于人工智能的人类价值观，才会使它们更安全可靠。
实际上，在和平与合作方面，人类已经取得了巨大的成功。前述暴力死亡率比黑猩猩社会明显下降就是明证。为此他们创造了不少制度，如产权，交易，婚姻，宗教，国家，法庭和传媒；以及便利这些制度的技术，如语言，房屋，货币，道路，电话，计算机和互联网。在此基础上，形成了崇尚和平与合作的文化。但是即使死亡率降到1~2%，仍然有大规模的世界战争。这远不是我们的理想。所以最终解决的难题就是，如何有一个世界永久和平的可行方案。在我看来，在短期内，人类解决不了这个问题，人工智能也解决不了这个问题。但是人类加上人工智能的帮助，有可能会加速接近这一目标。回顾一下人类历史，为什么人类的暴力死亡率在持续下降，是因为人类的文明规则在不断演进。
这并不是一个总体方案的变化，而是在每一个细节上的进展。我们也不期待有人或人工智能会提出一个一劳永逸的总体方案。人类暴力死亡率下降的过程，恰恰是一小步一小步、微观、渐进和累积实现的。这就是在解决无数具体问题时创造出新的和平与合作的解决方法。如某项技术保护了人与人之间的产权边界，例如墙和锁；又如某项制度增进了人与人之间的合作，例如证券市场。每一步微小的改进都意味着选择合作的净收益又大了一点儿。人们会越来越倾向于选择非暴力的文明规则，而不是暴力规则。当选择前者的人越来越多时，选择后者就越来越没有必要。在这一过程中，人工智能会在达成协议时提出更好的合约文本，在解决某一具体冲突时提出双方更能接受的妥协方案。有大量这样的文本或方案的提出和实施，文明制度和技术的渐进累积过程会加速。终会有一天，人类会觉得没有必要用暴力的方式解决任何冲突，那将是世界永久和平的到来。
参考文献
Bernie Sanders, “NEWS: Sanders, Casar to Introduce Legislation to Ban Artificial Superintelligence and Temporarily Pause Advanced AI Development”, September 3, 2026. https://www.sanders.senate.gov/
Center for AI Safety, “Statement on AI Extinction Risk”, https://aistatement.com/work/statement-on-ai-extinction-risk#open-letter
Future of Life Institute, “As Six-Month Pause Letter Expires, Experts Call for Regulation on Advanced AI Development”, Future of Life Institute, September 21, 2023. https://futureoflife.org/ai/six-month-letter-expires/https://futureoflife.org/ai/six-month-letter-expires/
Miller, Gabby, “Sen. Kennedy readies AI ‘kill switch’ bill”, September 12, 2026.
Sheng, Hong, “Why Artificial Intelligence Cannot Replace Spontaneous Order?” Man and the Economy, Volume 12 Issue 2, December 9, 2025.
Wrangham, Richard and Peterson, Dale. Demonic Males, Mariner Books, 1996.
ASI启示录，“数学大爆炸！OpenAI 一夜攻克722个数学难题，准黎曼猜想已被证明”，《新智元》，2026年10月7日。
方滨兴，《人工智能安全》，电子工业出版社，2020。
环球市场播报，“特朗普反对AI监管，削弱行业呼吁放缓AI发展的诉求”，《新浪财经》，2026年9月15日。
黄奇文，许如初，《近世计算理论导引》，科学出版社，2004。
坚少，“美国喊AI暂停，其实是一个阳谋大骗局”，《睿思承AI》，2026年9月16日。
李佳，“马斯克提出AI安全新思路：与其等政府出手，不如让竞争对手互
相‘找茬’”，《华尔街见闻》，2026年9月16日。
默顿，《十七世纪英国的科学、技术与社会》，四川人民出版社，1986。
奈特，富兰克，《风险，不确定性和利润》，中国人民大学出版社，2005。
威尔逊，爱德华，《社会生物学》，北京联合出版公司，2021。
袁锋，王淑黎，《穿越风险，超速增长：AI高风险时代下的超级增长战略》，电子工业出版社，2026。
张岩，《从部落文明到礼乐制度》，上海三联书店，2004。
（本文仅代表作者观点。责任编辑邮箱：tao.feng@ftchinese.com）