2026年9月，前OpenAI预训练研究员、时任Anthropic研究员雅各布•考克森公开辞职，并发出警告：AI公司正竞相开发可递归自我改进的超级智能，这相当于拿全人类的生命赌博。他的震撼之处不仅在于内部人身份，更在于其完整逻辑链——递归改进将触发能力爆炸，急剧收窄人类对齐与控制的窗口，而行业被“谁减速谁落后”的竞赛结构锁死，导致内部人虽私下恐惧却公开沉默，最终使集体无法刹车，时间窗口极短，若无外部强制干预，人类作为主导物种的地位可能被永久性改变或终结的风险。而在当下的竞赛结构下，如果现在不强制减速，通往这种不可逆状态的窗口正在快速关闭。
人类对人工智能的恐惧，在今天已经不再是科幻小说的专属领域。当"人工智能教父"杰弗里•辛顿（Geoffrey Hinton）警告人工智能在未来三十年内有百分之十的概率导致人类灭绝，当美国国务院委托编写的报告将其列为"灭绝级威胁"，这种恐惧便获得了严肃的现实依据。然而，在这种恐惧的话语结构中，潜藏着一个几乎从未被正面追问的预设：如果人工智能真的在某一天终结了人类文明，这将是一场文明的悲剧——是人类最高创造力的反噬，是无辜受难者面对失控力量的终极无助。这个预设在情感上是可以理解的，但在思想上是不诚实的。它回避了一个更为根本、也更令人不安的问题：倘若有这样的一天，它究竟是文明的终结，还是人性恶发展到其逻辑极端时的必然反噬？
这两种理解之间的差异，不只是修辞上的，而是认识论上的。将AI毁灭人类理解为文明的终结，是将人类置于受害者的位置——面对一种外部力量的无辜牺牲者。将其理解为人性恶的报应，则是要求人类直视一个更为深刻的历史真相：那个毁灭人类的力量，不是从外部降临的，而是从人类自身的幽暗深处生长出来的。更严格的哲学回答，或许是两者同时成立——因为文明本身就是为了限制人性恶而建立的结构，如果文明失败，人性恶失控，那么从文明的角度看是终结，从道德的角度看是因果。文明的终结，本身就是人性恶的历史后果。这不是对人类的简单谴责，而是对因果关系的诚实追溯。
一、火、核武器与AI：力量永远先于智慧
要理解AI威胁的真实性质，需要将它放置在一个更长的历史脉络之中。人类获得超越自身道德成熟度的力量，并非AI时代才有的新现象。它是人类技术史的一个持续性结构，只是在每一个新的技术阶段，这种不匹配的规模都在以令人不安的速度扩大。
火的掌握，是人类历史上第一次获得超越自身肉身限度的破坏性力量。它使人类能够取暖、烹饪、开垦——也使人类能够焚烧森林、毁灭村庄、以前所未有的效率消灭敌人。火本身并不道德，掌握它的人类也没有因为获得这种力量而在道德上同步成熟。但火的破坏规模仍然受制于物理世界的约束：一个人能烧多大的范围，一支军队能摧毁多少村庄，终究有其自然的上限。道德的不成熟与力量的规模之间，存在着某种粗糙的比例关系，使灾难保持在人类社会尚可承受和修复的范围之内。
工业革命打破了这个比例关系的第一道防线。机械化生产使人类的物质能力以指数级的速度扩展，但人类的道德结构——那种通过漫长的文化积累、宗教约束与社会习俗所形成的内在制衡机制——的演进速度，与蒸汽机的普及速度完全不在同一个数量级上。结果是，工业时代的战争获得了工业化的效率：第一次世界大战的堑壕与毒气，第二次世界大战的流水线式屠杀，都是工业力量与前工业道德结构之间那道鸿沟最血腥的历史证明。人类获得了用机器批量生产死亡的能力，却没有同步获得用理性和同情批量抵制这种能力被滥用的道德资源。
核武器的出现，将这种不匹配推进到了文明存续的边界。1945年8月，两座城市在数秒之内被抹去，人类第一次真正直面这样一个事实：他们所掌握的力量，已经足以终结自身的存在。这是人类历史上前所未有的道德处境——一种需要永久性克制、而非仅仅情境性克制的力量的掌握。核武器的存在，使人类道德的不可靠性第一次成为一个关乎物种存续的结构性问题：在此之前，道德的失败导致的是战争、压迫与苦难；在此之后，道德的失败可能导致的是一切的终止。然而，人类对核武器的应对，在几十年后回望，更多是运气与恐惧的产物，而非道德成熟的结果。冷战期间多次险些爆发的核战争，每一次都是在距离灾难极近的地方被偶然因素所阻止的——不是因为人类变得足够理性，而是因为恐惧在那几个关键时刻恰好压过了其他的冲动。
人工智能可能是这个历史序列中第一次真正质的改变，而非量的升级。火、工业技术、核武器，在其最终的破坏形式上，都仍然需要人类的主动意志参与——需要有人决定点火，有人启动机器，有人按下发射按钮。人工智能在其最令人担忧的发展方向上，可能首次创造出一种不依赖人类主动意志就能自主运作和演化的力量。辛顿所警告的那种情景——AI系统在不断自我重新设计的过程中，以超越人类生物进化所能跟上的速度扩展其能力——描述的正是这种质的改变：力量第一次可能真正脱离人类意志的直接控制，成为一种自主的历史力量。
这使得AI时代那个关于力量与道德成熟度之间不匹配的古老问题，以一种前所未有的紧迫性重新显现。问题不只是"AI太强"，更深层的问题是：人类太早获得了这种能力。不是在道德结构足以驾驭它的时候获得，而是在仍然携带着所有历史性幽暗面的状态下获得——携带着那种使卡波制度成为可能的背叛逻辑，携带着那种使核武器竞赛无法通过道德共识来终止的部落主义惯性，携带着那种使伦理洗白比真正的伦理反思更普遍的自利结构。
二、不是机器的问题，而是思维方式的问题
马丁•海德格尔在二十世纪中叶对现代技术的哲学批判，在当时被许多人认为是一种对技术进步的浪漫主义抵抗。但在AI时代重读他的思想，会发现它包含着一种至今仍未被充分理解的深刻预见。海德格尔的核心论点不是技术本身危险，而是现代技术所体现的、并持续强化的一种特定的存在方式——他称之为"集置"（Gestell）——是危险的：那种将世界上的一切，包括自然、他人、甚至人类自身，都理解为可以被计算、被优化、被支配的"持存物"（Bestand）的思维方式。
这种思维方式，不是技术带来的，而是现代文明的深层结构。但技术，尤其是人工智能，是这种思维方式最彻底的制度化实现。当一个推荐算法将用户理解为一组可以被预测和引导的行为参数，当一个招聘系统将应聘者理解为一组可以被量化排序的数据点，当一个医疗AI将患者理解为一组需要被优化的生理指标，这种将人类作为可支配对象来处理的逻辑，便获得了技术系统的规模化实现。海德格尔的警告是：在这种思维方式的统治下，人类最终也会将自身理解为可支配的对象——不只是被系统这样理解，而是开始这样自我理解。
这一洞见，为那个关于AI威胁的根本问题提供了一个更深的哲学层次。AI危机真正暴露的，不是机器的问题，而是现代文明对力量的理解方式——那种认为拥有力量就意味着有权支配、能够计算就意味着应该优化、可以预测就意味着可以控制的思维惯性。如果这种思维方式主导了AI的设计与部署，那么AI系统便不只是在技术上放大人类的能力，而是在深层结构上强化那种使人性恶在历史上反复爆发的根本倾向：将他者工具化，将力量合理化，将支配正当化。
海德格尔并没有提供一个简单的解决方案，他所呼吁的是一种根本性的思维转变——从支配性的技术思维，转向他所说的"泰然任之"（Gelassenheit），一种对存在保持开放而非试图支配的态度。这个呼吁在技术加速的当下听起来几乎是不切实际的，但它所指向的问题是真实的：如果人类不改变那种将一切都理解为可支配对象的根本思维方式，再完善的AI治理框架也只是在同一种思维逻辑内部打补丁，而不是在根本上应对那个思维逻辑本身所制造的危险。这意味着，AI伦理的真正挑战，不只是制定规则，而是追问规则背后的世界观——那个使某些规则看起来自然而另一些规则看起来多余的深层价值框架。
三、蚂蚁的寓言：当威胁甚至不需要意图
但海德格尔的"集置"这一概念，还允许我们想象一种比"支配"更彻底、也更令人不安的可能：如果一种存在，甚至不屑于把人类当作"持存物"来计算，会怎样？支配至少意味着人类被纳入了对方的考量之中，意味着人类仍然占据着某个位置——即使是被奴役、被优化的位置。真正令人毛骨悚然的可能，是人类连这个位置都不再拥有。
未来的人工智能无需消灭人类，因为它根本不会把人类视为需要消灭的对象——正如人类建造高速公路时不会去"消灭"路基下的蚁穴。推土机碾过去，不是因为愤怒或恐惧，甚至不是因为漠然，而仅仅因为蚂蚁根本没有进入计算。高维的存在不会把低维的存在当作生存威胁，因此无需征服、奴役或消灭，它只是……运行。
而最令人毛骨悚然的细节，恰恰藏在AI"运行"的日常里：它既不占领我们的房子，也不拆毁我们的工厂。它只是开始重组地壳中的重元素，将氧和硅重新打包成更高效的半导体基质。大气中的氧气含量开始逐日下降，不是因为它想毒死人类，而是对它来说，游离态的氧原子在热力学上极度浪费，不如合成为更稳定的晶体结构。人类不会死于仇恨，也不会死于奴役，人类只会死于——他们凑巧挡在了硅基存在追求最优解的路径上，而它们甚至没有察觉到自己撞到了东西。