一个将一切都理解为可支配对象的文明，最终也会将自身的存续理解为一个需要被优化的工程问题，而失去了那种使存续本身值得追求的内在价值意识。文明的自我正当化，不能建立在"我们足够强大因此应该存续"的力量逻辑之上，而只能建立在"我们所坚守的价值使我们的存续值得"的道德逻辑之上。如果人类真的要抵御AI威胁，最根本的资源不是更强大的防御系统，而是重建那个道德正当性——让文明的实际运作与它所宣称的价值之间，不再存在那道令人不安的鸿沟。
这使我们触及到一个更深层的问题：人类是否值得继续存在？这个问题接近陀思妥耶夫斯基笔下那些最令人不安的追问，接近加缪关于荒谬与反抗的哲学，也接近尼采对价值重估的呼吁。但真正的答案，或许不是证明人类"值得"——因为任何这样的证明都会是循环论证——而是认识到：文明之所以存在，是因为人类不断重新证明它值得。文明不是一个既成事实，而是一种持续的选择，一种在每一个历史时刻都必须被重新做出的道德承诺。
八、报应与机遇：在最坏的预设中寻找转机
承认AI威胁可能是人性恶的报应，并不意味着接受这种结果的必然性。恰恰相反，正是这种诚实的承认，才可能为真正有效的应对提供基础。一个将AI威胁理解为外部灾难的文明，会将全部资源投入技术性的防御；一个将其理解为人性恶之报应的文明，则会同时追问：我们需要在自身的道德结构与思维方式上做出怎样的改变，才能使这种报应失去其必然性？
这里需要同时在两个层面上展开工作。在制度层面，需要那种霍布斯与马基雅维利意义上的政治现实主义：承认人类行动者会以自利的方式行动，并以此为前提设计透明机制、责任追踪与跨越国家部落边界的权力制衡。在这个层面上，关于AI治理的国际合作不是道德倡议，而是集体生存理性的要求——就像核不扩散条约不是基于对国家善意的信任，而是基于对相互毁灭之代价的共同恐惧。但同时，在更深的层面上，需要海德格尔所呼吁的那种思维方式的转变：从将一切理解为可支配对象的技术理性，转向一种能够在力量的增长中保持道德谦逊的存在方式。这不是浪漫主义的反技术情绪，而是对那个使技术危险成为可能的深层认识论根源的直面。
被尊称为“美国心理学之父”的威廉•詹姆斯（William James）在1896年提出的“相信的意志”（The Will to Believe），主张在证据尚不足以给出确凿答案、却又必须做出抉择的关键时刻，人类有能力——甚至有责任——依靠主观的信仰与道德意志先一步做出选择；这种“相信”本身，往往就是促成所希望之结果变为主观现实的先决条件。
这一思想在这里获得了它在整个思想史中最紧迫的应用场景：在没有任何保证的情况下，相信人类有能力在这场与自身幽暗面的战争中，再一次选择那个使文明成为可能的方向。这不是乐观主义，而是一种在充分认识人性黑暗之后仍然选择行动的道德意志。
火的时代，人类通过漫长的文化积累建立了关于火的使用的社会规范。核武器时代，人类在恐惧的边缘勉强维持了某种不稳定的平衡。AI时代，时间窗口可能更短，挑战更为根本，但人类道德意志的核心任务没有改变：在力量远超道德成熟度的处境下，选择以不成熟的道德约束成熟的技术，而非以成熟的技术放大不成熟的道德。
真正重要的，也许不是我们能不能证明人类一定会选择正确，而是在没有这种保证的时候，我们是否仍然愿意选择正确。文明从来不是一种自动运行的东西。它不会因为我们已经拥有了法律、制度、知识和技术，就永远存在下去。每一代人都必须重新决定：面对诱惑时是否克制，面对权力时是否设限，面对他人的痛苦时是否保持同情，面对能够做的事情时，是否仍然追问“应不应该做”。
AI时代尤其如此。我们第一次拥有了可以大规模放大人的判断、欲望和行动的工具。它可以把人的善放大，也可以把人的偏见、自私和攻击性放大。真正决定未来的，因此不只是AI能够做到什么，而是人类愿意让它做到什么，又愿意为哪些事情划下不能越过的边界。
如果有一天AI真的成为人类文明的终点，那并不只是机器变得足够强大，更可能意味着我们把自己的力量交给了自己最不成熟的那一面；而如果人类能够避免这样的结局，也不是因为我们终于变得完美，而是因为一次又一次，有人选择了克制、选择了边界、选择了不把“能够做到”当成“应该做到”。
文明就是这样一点一点延续下来的。它从来不是人类天然拥有的东西，而是我们在每一个关键时刻都重新做出的选择。我们无法证明人类一定值得继续存在，但只要我们仍然愿意选择那些使共同生活成为可能的东西，我们就在不断给出自己的答案。
这也许就是人类真正能够拥有的希望：不是相信人性已经足够善，而是在知道它并不完美之后，仍然不放弃让自己变得更好。
注：本文仅代表作者个人观点
本文编辑徐瑾 Jin.Xu@FTChinese.com