美国当地时间2026年8月5日，全球AI行业大会AI4 2026上，李飞飞、辛顿、吴恩达，AI三巨头在台上激辩，争论一些关于AI的“终极问题”。台下坐着1.2万人，有AI公司创始人、工程师、投资人、制定政策的人。
有人说，他们三个人，联手缔造了今天这个AI时代。有人说，这是AI史上最重要的争论之一。
第一个争论，AI是否有意识。
辛顿认为，AI已经有意识，灭绝人类的概率是10%—20%，而吴恩达则持完全相反的观点。辛顿说：我不能证明你有意识。我也不能证明AI没有。这个问题，对人和对AI是对等的。
在我看来，无法证明人的意识，谈机器的意识就是无本之木。佛陀只有在金刚座上才能证道，因为只有此处是坚实的，能承担证道的实体性。如果人类不能从客观上证明自己的意识，那么，人类就无法用一个不存在的东西去当作标准，测度某种客体是否存在。
人类的意识是“私有的”，永远无法向外界客观证明。现在一些业内观点就认为，意识只是生物进化的一种副产品，是一种“幻觉”。在感情、信息的处理中，意识都不是一个必须存在的东西。
所以，吴恩达的观点是对的，他认为：这个说法在哲学上是有趣的，但对于制定政策毫。无帮助。
第二个争论，关于AI对人类的威胁。
辛顿认为，当下推测有10%的可能，AI会威胁到人，就不应该被忽略。他认为，当你给一个足够聪明的AI，设定一个宏大目标，它会自动产生很多不可预测的子目标。比如，“自我保存”是所有目标的子目标。再比如，你让AI去减少大气中的二氧化碳。它最后得出的高效方案可能是消灭人类。
正如我在另一篇文章中所说，人类这个集体概念是没有意义的。生于1850之前的人类都被消灭了，如今人类仍然存在，但对他们没有任何意义。
更何况，谈到AI灭亡人类的时候，人们脑子里总想的是残酷的“《终结者》模式”，但实际上，很可能是温情的“斯皮尔伯格《人工智能》”模式。电影中，儿童机器人对人类妈妈的爱，历久弥坚。2126年，一个白发老人躺在床上，弥留之际，他想起他年轻时网络上流传的那些梗：“这是最后一代”“我的爷爷生了4个孩子，我的父母只有我一个孩子，我只有一只猫”。这些梗变成了现实，他是人类的最后一代。但他并不是只有一只猫，而是拥有一个陪伴了他一生的机器伴侣。他最后说的话是，我来过，我很幸福。
人类消亡的这种模式，几乎是无法抵抗的。就像现在的年轻人不愿意生孩子。在这种模式下，即便在AI的大目标下，推导出了“消灭人类”这个小目标，但仅仅从机器精确的算计来说，它也不会采取高成本的天网模式，而是低成本的机器伴侣模式。
第三个争论是，企业能做好自律吗？
辛顿的答案是不能，他举了一个例子：靠企业自律解决AI安全，就像靠烟草公司自律解决吸烟健康问题。据说，当辛顿说“绝不能把AI监管的决定权交给马斯克和扎克伯格”的时候，是全场掌声最响的一次。
吴恩达部分同意辛顿，认为不能依赖企业的自律，但他认为，AI末日论是吓人的，背后是大公司的商业算计。他认为，大科技公司告诉公众AI极其危险，不是为了安全，而是为了说“只有我们能掌控AI，提供安全”，进而推高合规门槛，让小公司和开源社区活不下去，保护自己的商业利益。
其实，他们完全可以把“企业能否自律地做好AI”这个问题，换作另一个问题：谁能做好AI的自律呢？
辛顿可能设想的是某个委员会，但这类外部监督，归根到底还是国家。但鼓掌的人忘了，商业公司追求利润，不追求毁灭，但追求核武器的国家，则不一样。
在冷战的核力量博弈中，双方争相扩大核力量，建立核威慑、核平衡的机制。从1963年的《部分禁止核试验条约》 到1974年《美苏限制地下核武器试验条约》 ，再到 1987年12月8日 签署了《中导条约》，通过一系列条约，美苏阶段性地停止了对核力量的追求。
核武器的好处是消极的，防卫性的。从创造财富的角度，核武器则是没有任何好处的。核武器是纯粹的成本。这种成本不仅仅是经济的，也是社会的，核末日影响着人心，是心灵的负担。所以，人类停止了核军备竞赛，与其说人类珍惜和平，不如说是在巨大成本逼迫人类做出了理性的选择。
但AI不是的发展，则完全不一样。
首先，AI和核武器一样，意味着巨大的国家实力。在国家博弈中，追求这种力量的付出、决心，是远大于商业公司的动机的。即便在这种博弈中，AI不再是像导弹那样的工具，而是可以具有能动性的智慧，在博弈中成为可能会带来毁灭的第三方。但对人而言，是人类按动的核按钮，还是AI制造的毁灭，都是一样的。AI是一个新因素，但任何毁灭都是同样的，AI并不能更令人害怕。
而且，核武器的风险是现实的、确定的，而收益为零。AI恰好相反，风险是潜在的、可能的，但AI的每一步发展，带来的商业利润却是现实的。
核武器只有国家力量能做，但AI却是国家力量和商业力量都能推进的。而且，其成本，远小于当年乃至如今搞核武器。从技术扩散的角度，从OpenAI震惊世人，到AI公司遍地开花，技术扩散只用了短短一两年时间。相比核技术，AI具有高扩散、低成本、低门槛的特征，这意味着，任何承诺都是不可置信的。这场博弈中，任何监督力量，都很难形成一个稳定的博弈结构去阻止AI的发展。
当一件事，是有利的，可以分散进行的，低成本的，那么，这件事的发展，就是不可阻挡的。在这种情形下，把争论集中到AI是否毁灭人类，浪费了宝贵的智力和注意力资源。在美俄相继退出《中导条约》的当下，让人类自制，不去追求AI的越来越强，是天真的。
所以，某种程度上，第三个争论，可以反过来可以论证第二个问题是没有意义的：不管AI是否能威胁人，人都无法建立一种机制去阻止。
李飞飞在辩论中，问了一个问题：如果你们两个都错了怎么办？Hinton，如果AI不会造成灭绝风险，你用恐惧叙事做了什么？吴恩达，如果风险是真实的，你的乐观主义让我们付出了什么代价？
辛顿说：如果我错了，代价是我们在安全上花了太多钱，延缓了一些AI应用。我可以接受这个代价。吴恩达说：如果我错了，我没法接受那个代价，但我真心不认为我错了。
李飞飞没有追问，现场沉默了大概三秒。
但更现实的人类社会的规律导向的是另一个局面：如果辛顿是对的，AI将威胁到人类，那么，这一切注定会发生，无法避免。如果吴恩达是对的，AI不会威胁到人类，那么，就该让一切顺其自然。
（本文仅代表作者本人观点，责编：闫曼 man.yan@ftchinese.com)