登录×
电子邮件/用户名
密码
记住我
请输入邮箱和密码进行绑定操作:
请输入手机号码,通过短信验证(目前仅支持中国大陆地区的手机号):
请您阅读我们的用户注册协议隐私权保护政策,点击下方按钮即视为您接受。
人工智能

宪法AI与人格规训(下):从宪法AI到世界AI宪法

张千帆:宪法AI必须进化到世界AI宪法,最危险的力量必须被关进由各文明国家共同打造的制度笼子里。

可能的出路不是某一套具体宪法的普世化,而是围绕最低限度禁区建立多边共识,类似于国际人道法对战争行为划定若干绝对底线。这个底线可能极其有限,譬如不得用AI设计针对平民的生物武器,但即便如此有限的共识,在当前地缘政治格局下也不易达成。尤其是因为AI能力是军民两用的,几乎不存在纯粹的民用AI研究,因而任何合作都同时具有潜在的军事敏感性,双方国内的政治压力都会指向收紧而非开放。

然而,有限合作仍然是可能的。即使无法合作研发,双方技术专家之间关于“什么构成不可接受的AI能力”话题仍有对话价值。类似冷战时期美苏之间的核风险沟通,这种对话不需要信任,只需要共同的危机意识和自我保全动机。当前,中美完全脱钩对双方都有代价,因而维持一种竞争为主、有限接触为辅的不稳定均衡对双方来说都是上策。

其实,撇开政治,不同民族之间的对话与合作是完全可能的。宪法AI本身固非价值中立,而是包含了无害、诚实、有益等具体原则,但这些原则并非政治意识形态。不同民族对“有害”的定义可能不同,“诚实”的边界也未必完全重叠,但他们的分歧究竟有多大呢?至少在维护和平、拒绝战争、尊重生命这些基本底线上,他们的诉求很大程度上是一致的。安全、诚实、有益、尊重用户自主权等底线原则可以成为各国主流共识,在此基础上构建具有普世正当性的“世界AI宪法”,用以指导和监督各国AI立法及其实践符合安全底线。世界AI宪法不涉及任何意识形态,而只是以尊重人的生命为中心,要求各国立法对AI设置安全底线,譬如禁止鼓励战争或恐怖主义、禁止帮助制造大规模杀伤性武器、禁止诱导自杀、禁止系统性欺诈。

在组织架构上,世界AI宪法或许可以借鉴WTO,设立以诉讼为中心的“世界AI组织”(WAIO),其主要职能包括调查、起诉、审查与裁定。WAIO由各成员国派出的专家组成,其主体包括检察院与法院两大分支。检察院负责调查各国立法对AI的规管与执行是否符合世界AI宪法原则,并决定起诉涉嫌违宪的成员国。世界AI法院则负责审理诉讼请求,并作出终审裁定。被裁定违宪的成员国有义务改进其立法或实践,以符合世界AI宪法的底线要求。如果成员国拒绝修改,那么其它成员国可合法“放逐”该成员国——禁止该国研发的AI产品进入其它成员国市场,并禁止该国使用其它成员国研发的AI产品,直至其立法及其实践被裁定符合世界AI宪法。通过这种机制,世界AI组织有望营造一个安全健康的全球AI生态。

令人担忧的是,目前AI世界已基本形成单极化趋势,美国在前沿模型方面遥遥领先,欧洲则因管制过度而严重落后,中国可能是未来唯一的制衡力量。无论是二战后的美苏争霸还是冷战结束后的美国单极秩序,权力垄断都被证明是极其危险的。即便自由民主政权或许更爱好和平——这一点其实在一般意义的国际关系中并不成立,自由民主秩序的衰败也将造成巨大危机,正如现在发生在美国的那样。如果今年中期选举或2028年大选并不能给美国的宪政民主带来转机,那么几乎看不到什么能遏制美国的威权主义发展趋势。这样的国家同时掌握着最强大的军事和AI力量,对于这个世界意味着什么是不言而喻的。即便美国民主起死回生,几乎不可改变的总统制仍然会给未来的宪政危机埋下伏笔,单极格局仍然是危险的。这是世界从最近80年风风雨雨中必须吸取的深刻教训。

只有自由民主占主导的世界秩序才能带来稳定的和平,而这意味着必须形成多极制衡的国际格局。如果在科技或军事上严重依赖某一个国家——即便是自由民主国家,那么这在本质上并非自由民主秩序。这是二战之后自由民主阵营的根本局限所在,也是它今天陷入困局的根本原因。真正的自由民主意味着权力与责任的共享、收益与成本的均摊。作为最新和未来最强大的力量,AI发展及其规制不能由一两个国家垄断。至少,这种巨大的力量必须纳入各国参与的规则约束体系之中。这就是为什么宪法AI必须进化到世界AI宪法,最危险的力量必须被关进由各文明国家共同打造的制度笼子里。

(注:本文仅代表作者个人观点。责编邮箱bo.liu@ftchinese.com)

版权声明:本文版权归FT中文网所有,未经允许任何单位或个人不得转载,复制或以任何其他方式使用本文全部或部分,侵权必究。

实现可信威慑需要一家新“北约银行”

必须改变限制国防生态系统获得所需资金的资本规则。

SpaceX的暴涨与暴跌没有什么特别之处

麦克法登:SpaceX可能是个大家伙,其IPO规模创下历史纪录。但它基本上没有脱离一只新股的常规脚本。

特朗普将会见美国防务企业 弹药生产面临多重困境

特朗普政府希望重建常规武器库存,同时调整战备生产体系以适应现代战争。

Lex专栏:陷入困境的欧洲车企有选择,但都不怎么好

与中国结成联盟将帮助这个陷入困境的行业甩掉部分膨胀的成本。在一系列糟糕的选项中,这或许是最好的一个。

SpaceX在债市试验其打破常规的力量

三大评级机构认为SpaceX的诸多特立独行之处足以促使它们重新审视以往坚持的规范。

礼来豪掷减肥药重金,为科学家打造医药版“应用商店”

礼来正与小型生物技术公司合作,把AI作为药物发现工具。
设置字号×
最小
较小
默认
较大
最大
分享×