{"text":[[{"start":12.22,"text":"乍看之下，Saker Scout与如今在乌克兰前线天空巡逻的数千架其他无人机并无二致。它是一架黑色四旋翼无人机，配备摄像头，飞行员可远程操控，并投放一枚重达5公斤的炸药——通常是手榴弹或反坦克弹头。"}],[{"start":30.200000000000003,"text":"但在其碳纤维机架下方，隐藏着一块不超过信用卡大小的主板，或许代表着战争演变的下一步。其机器学习软件能够识别47类军事装备，从坦克到步兵不等，并在物体周围绘制虚拟框，为所看到的一切给出置信度百分比评分。"}],[{"start":48.47,"text":"在发射前，人类操作员会选定最重要的目标，设定可以发动攻击所需的置信度阈值，并划定一个“杀伤区”——在这片地理区域内，一切目标均可遭到攻击。无人机进入该区域后，便可自行搜索、识别目标；如果置信度评分足够高，还能在无需等待另一名人类下达指令的情况下发动攻击。"}],[{"start":71.17,"text":"有一个关键限制：这台机器能够区分坦克和卡车，也能区分步兵和炮兵，但无法判断目标属于乌克兰还是俄罗斯。因此，该系统依赖一项战场假设——“杀伤区”内的一切军事目标都属于敌方。"}],[{"start":null,"text":"

"}],[{"start":null,"text":" "}],[{"start":86.77,"text":"Saker Scout背后的乌克兰公司Twist Robotics的罗斯季斯拉夫•奥连钦(Rostyslav Olenchyn)说：“你应当确保目标区域没有平民，也没有己方人员。这是一种非常特殊的武器，只有特种部队在特定情况下才会使用。”"}],[{"start":102.19,"text":"AI科技改变了乌克兰战争的作战方式。冲突初期，确定目标并发动袭击可能需要20分钟。如今，这一过程可能不到两分钟，有时甚至只需几秒钟。"}],[{"start":116.75,"text":"俄罗斯全面入侵乌克兰发生在OpenAI发布ChatGPT九个月前。ChatGPT的发布是AI革命中的一个关键时刻。此后，这场冲突已成为检验AI系统用于动能战的试验场，而相关经验不仅影响了乌克兰及其西方盟友的战略，也影响着美国在对伊朗作战中的战略。"}],[{"start":139.86,"text":"奥连钦表示，加速发展不仅是科技进步所致，也源于成本下降。如今，运行复杂视觉识别算法所需的计算能力，花费约250美元即可购得。Saker Scout的处理能力与PlayStation 4相当。"}],[{"start":157.10000000000002,"text":"但这场战争也展现了AI的局限性。随着这项科技迅速融入乌克兰和俄罗斯的军事系统，战略决策者和前线作战人员已经清楚地认识到，尽管AI加快了决策进程，也让战争变得更加致命，但它尚未赋予任何一方决定性优势。"}],[{"start":175.16000000000003,"text":"不过，随着前沿AI模型的发展速度快到人类难以控制，军事和政治领导人将不得不思考：一旦这些限制被取消，会发生什么。"}],[{"start":185.18000000000004,"text":"

人工智能在战争中的作用

"}],[{"start":187.93000000000004,"text":"军方谈论AI时，指的并不是单一系统。"}],[{"start":191.77000000000004,"text":"他们指的是在战争不同阶段使用的软件——用于收集和处理数据，帮助指挥官识别目标并确定优先次序，以及在通信受到干扰时让无人机继续运行。"}],[{"start":203.39000000000004,"text":"埃克赛特大学(University of Exeter)战争研究教授、战略与安全研究所(Strategy and Security Institute)所长安东尼•金表示，AI软件能够处理“人类参谋人员无法以如此规模和速度处理的海量数据”。金说，与其改变冲突的直接作战层面，AI的主要作用一直是改善“态势感知和情报”。"}],[{"start":223.17000000000004,"text":"金表示，这项科技可以帮助指挥官对战场形势作出预测，从一场军事行动能否持续下去，到弹药消耗的速度。与人工作出的估计相比，这类系统的优势在于“可以参考更多证据”。"}],[{"start":238.01000000000005,"text":"这很重要，因为现代指挥部需要处理海量信息：无人机拍摄的影像、卫星图像、电子信号、人员报告，以及来自战场各处传感器的数据。英国国防与安全智库皇家联合军种国防研究所(Royal United Services Institute)的杰克•沃特林(Jack Watling)说，对所有这些信息进行比对“非常耗费人力”。乌克兰的Delta战场管理系统和美国的Maven等系统，会将这些信息流转化为可用信息。"}],[{"start":266.61000000000007,"text":"一名美国情报官员告诉《Project Maven》一书的作者卡特里娜•曼森(Katrina Manson)，该系统帮助美军将每天能够打击的目标数量从不足100个提高到1,000个；随着大型语言模型的整合，这一数字最多可增至5,000个。"}],[{"start":281.5900000000001,"text":"这些系统还使军队能够压缩“杀伤链”——即从识别目标到实施打击所需的时间。英国陆军(British Army)在其网站上说：“简单来说，士兵越快、在距离目标越远的地方完成这一过程，他们对敌方造成的影响就越大。”这使军队能够先发制人，并增加可攻击目标的数量，尤其是那些处于移动状态的目标。"}],[{"start":305.0100000000001,"text":"战略家过去以能够投入的兵力、战机、坦克和军舰数量来衡量军事实力，如今则必须关注数据处理系统的速度和准确性，以及如何大规模部署自主武器。"}],[{"start":317.4600000000001,"text":"在前线，AI目前仍主要局限于执行狭窄任务，例如让无人机在飞行中保持稳定，或在与操作员的通信链路受到干扰后继续飞向目标。"}],[{"start":328.5300000000001,"text":"战略与国际问题研究中心(Center for Strategic and International Studies)AI中心高级研究员卡捷琳娜•邦达尔(Kateryna Bondar)说，自主导航技术大多改编自无人机竞速软件，可以帮助无人机适应风向，并在时速最高达300公里的情况下锁定目标。这项技术缩短了飞行员的训练时间；在AI辅助下，无人机袭击成功的可能性提高了三至四倍。"}],[{"start":351.24000000000007,"text":"终端制导在打击的最后阶段尤其重要，因为干扰往往会切断飞行员与无人机之间的连接。一名乌克兰指挥官说：“无人机在距离目标100米或200米时失去控制的情况很常见。”飞行员一旦锁定目标，即使信号中断，无人机仍可继续完成最后进近。"}],[{"start":372.0300000000001,"text":"乌克兰军用无人机供应商、Vyriy Drone创始人奥列克西•巴本科(Oleksii Babenko)表示，由人工智能引导的袭击仍相对罕见。“可能只有2%的无人机使用某种人工智能，让无人机能够识别目标并自行找到目标……不过，500万架无人机中的2%已经是很大的数量。”"}],[{"start":392.0400000000001,"text":"乌克兰称，自2026年初以来，AI制导的无人机袭击次数增加了10倍。"}],[{"start":398.2000000000001,"text":"此外还有“蜂群协同”，即机器之间自行分配任务。这可能意味着无人机和地面机器人协调行动，营救一名受伤士兵；也可能意味着攻击无人机分头锁定目标，以压垮防御系统。大规模自主蜂群仍基本处于试验阶段，但如今小规模的机器群体已能在战场上协同作战。"}],[{"start":420.1500000000001,"text":"开发蜂群软件的公司之一是Auterion，这是一家由瑞士人创办的初创企业。"}],[{"start":426.5700000000001,"text":"Auterion首席执行官洛伦茨•迈尔(Lorenz Meier)表示，西方军队将越来越依赖高度自主的无人机集群，因为它们没有培训足够多的无人机飞行员，无法与俄罗斯或乌克兰的能力相匹敌。"}],[{"start":439.7600000000001,"text":"迈尔补充说：“对北约国家而言，这是生死攸关的问题，因为它们无法足够迅速地组建这些无人机部队。为了能够有效作战，它们必须实现更高程度的自动化。”"}],[{"start":452.9400000000001,"text":"在莫斯科开始向乌克兰各城市发动一波波“沙赫德”(Shahed)无人机袭击后，针对俄罗斯远程无人机自主锁定目标的研究变得更加紧迫。作为回应，乌克兰企业开始研发拦截无人机，以识别并攻击这些无人机。"}],[{"start":469.5600000000001,"text":"沙赫德无人机外形独特，通常在空中几乎没有其他飞行器的情况下飞行，这意味着可以训练AI系统识别它们。"}],[{"start":478.5900000000001,"text":"过去一年，俄罗斯军队加大了使用AI驱动无人机的力度。7月，一架俄罗斯无人机利用AI锁定了一座加油站，而发起袭击的决定并非由人类操作员作出。无人机撞上墙壁后爆炸，造成3人死亡——据报道，这是乌克兰境内首宗有记录的由俄罗斯自主锁定目标无人机造成的死亡事件。最近几周，俄罗斯一直在使用配备AI目标识别系统的沙赫德无人机，袭击黑海上的乌克兰船只。"}],[{"start":511.3500000000001,"text":"最终，基辅希望将其人工智能能力提升至能够制定战略的水平。丹尼洛•茨沃克(Danylo Tsvok)负责一个新成立的中心，该中心的任务是将乌克兰军队打造成“一支由AI驱动的军队”。他描述了一个假想世界：指挥官可以告诉AI智能体自己的意图——“我想守住这个阵地”——然后根据该系统的建议制定作战计划。茨沃克说：“我们认为，这可能改变游戏规则。”"}],[{"start":540.5400000000001,"text":"对乌克兰许多人来说，在人员短缺的情况下，要继续遏制俄罗斯，几乎别无选择。乌克兰公司“第四定律”(The Fourth Law)负责营销的马克西姆•萨瓦涅夫斯基(Maksym Savanevsky)说：“目标是实现完全自主。我们称之为21世纪的曼哈顿计划，因为它将彻底改变战场。”"}],[{"start":560.0300000000001,"text":"但正如乌克兰战争所显示的那样，陷入僵局与取得胜利同样可能。丹麦皇家国防学院(Royal Danish Defence College)军事行动研究所(Institute for Military Operations)所长兼教授奥利维耶•施密特(Olivier Schmitt)说，存在“战术层面的变化非常快，但战役的节奏或进程基本陷入停滞，因为没有人能够突破”的“落差”。"}],[{"start":578.6500000000001,"text":"美国与伊朗持续不断的冲突表明，即使目标打击奏效，也未必能带来胜利。国际战略研究所(Institute for International Strategic Studies)防务分析师弗朗茨-斯特凡•加迪(Franz-Stefan Gady)说，伊朗是“这方面的教科书式案例”。"}],[{"start":592.5400000000001,"text":"施密特补充说，其理念是：“我们要比对手更快、更迅速地打击所有这些目标，然后希望敌人最终会在某个时候崩溃。你会发现，如果这一计划未能奏效，实际上并没有备用方案。”他还说，美国“在目标选择方面一直做得非常好，而[伊朗的]军事体系并未崩溃”。"}],[{"start":613.95,"text":"施密特说：“AI将帮助你实现想要实现的目标，但这并不意味着你想实现的目标会帮你赢得战争。”"}],[{"start":622.1500000000001,"text":"

问责缺口

"}],[{"start":623.8000000000001,"text":"“AI驱动的军队”这一概念令一些专家深感不安。他们指出，战场很少是非黑即白、可以作出明确决策的场所。"}],[{"start":634.2,"text":"AI伦理专家帕迪•沃克(Paddy Walker)表示，现代战争的特点是充满模糊性，很难将其编码，或训练大型语言模型加以处理。他说：“混合战，以及灰色地带，都是复杂得多的战场……你必须处理具体语境。”"}],[{"start":649.7800000000001,"text":"AI工具可以帮助识别沙赫德无人机，但其有效性存在局限。乌克兰军方中校、乌克兰战场管理系统Delta的最初设计者之一阿尔捷姆•马尔季年科(Artem Martynenko)说：“要准确、自动识别一名士兵，仍然是个问题”，更不用说区分其国籍或身份了。战场上不同阵地往往交错分布，而且隐蔽是生存的关键，这进一步加剧了这一问题。"}],[{"start":675.3700000000001,"text":"独立研究机构AI Now Institute的首席AI科学家海迪•克拉夫(Heidy Khlaaf)表示，这类系统很难识别“类似制服的服装”、车辆、武器和运动，因为这些目标属于“更广泛、也更难预测的空间”。甚至光线条件也可能导致机器将民用车辆误认为军用车辆。"}],[{"start":null,"text":" "}],[{"start":null,"text":" "}],[{"start":694.0100000000001,"text":"帕兰泰尔(Palantir)一名前员工说：“规则手册规定，始终必须由人来作出决定。”这名前员工曾服役于美国军方的无人机作战项目，而帕兰泰尔正是Project Maven的开发者。“问题在于，计算机会列出1000个目标，但人的行动速度不够快。问题是，人反而成了瓶颈。而那名分析员并不总是在意。他想回家，或者去吃个芝士汉堡。”"}],[{"start":722.4000000000001,"text":"越多地使用这类系统来发现和分类目标，它们的局限性就越发明显。系统所使用的信息可能是零散的、过时的，也可能含义模糊。研究自主武器安全问题的克拉夫说，即使是经过整理的数据，例如无人机传输的数据，也可能不完整，可能因传感器故障或环境干扰而受损，或被错误标记。"}],[{"start":746.21,"text":"今年早些时候，伊朗发生的事件凸显了这一风险。在冲突最初38天，AI辅助的目标锁定系统帮助美国打击了1.3万个目标。其中包括一所女子学校，遇袭导致150多人死亡，其中120人是儿童。据当地官员介绍，这座建筑原本是军事设施的一部分，但学校于2016年前后设立时，建筑周围修建了独立入口和围墙。"}],[{"start":774.47,"text":"埃克赛特大学的金表示，这次袭击凸显了“基于统计相关性”的系统所带来的危险：如果输入系统的信息有误或已经过时，结果可能是灾难性的。目标识别错误并非新问题，但更快的速度和更大的规模可能增加出错风险。"}],[{"start":null,"text":" "}],[{"start":792.1600000000001,"text":"系统识别或推荐目标的速度越快，人类仔细审查这些目标的时间可能就越少。皇家联合军种国防研究所的沃特林说：“如果把启发式错误（即存在缺陷的假设）固化进系统，无论这些错误来自AI还是人类，当然都可能加快错误发生的速度。”"}],[{"start":811.0200000000001,"text":"以色列在加沙发动轰炸行动期间借助AI生成打击目标的流程，也引发了伦理问题。丹麦皇家国防学院的施密特说：“当时存在来自政治高层的压力，要求开展大量目标打击，以展示武力。”这意味着在军事环境下，“军官只有15至20秒来判断一个目标是否合法”。"}],[{"start":833.6000000000001,"text":"乌得勒支大学(Utrecht University)国际法助理教授杰西卡•多西(Jessica Dorsey)表示，在时间如此紧迫的情况下，“很难理解他们如何能够确保瞄准的目标是合法的军事目标，而法律要求他们必须做到这一点”。"}],[{"start":846.7200000000001,"text":"当目标是人而非建筑物或基础设施时，风险也随之升高。根据国际人道法，能否将某人作为攻击目标，取决于其身份、行为和所处情形，因此需要进行计算机无法完成的法律判断。例如，士兵投降或受伤后，其身份可能迅速发生变化。"}],[{"start":867.6200000000001,"text":"施密特表示，以色列在加沙的军事行动不仅展现了这项科技如何运作，也展现了“社会和政治环境如何迫使人们以一种非常具体的方式使用这项科技”。他说，如果政治领导人要求取得成果，而军官只有几秒钟时间审查目标，他们就更有可能接受眼前的建议。"}],[{"start":888.3200000000002,"text":"人们对这类系统如何得出结论仍知之甚少。美国国务院表示，自主系统必须“对相关国防人员透明，并接受其审计”。帕兰泰尔表示，其工具允许操作人员回溯查阅促成某一具体建议的数据和文件。"}],[{"start":null,"text":" "}],[{"start":906.1600000000002,"text":"但数据的可审计性，并不等同于理解大型语言模型为何推荐采取某项行动。"}],[{"start":912.9300000000002,"text":"克拉夫说，借助AI决策支持系统，“我们无法调查某个决定为何会被作出。这些模型‘将传统上被视为杀伤链中多个决策节点的环节进行了隐性自动化’。”帕兰泰尔表示，公司已构建相关系统，使其大型语言模型能够使用工具并逐步运行，从而让模型作出的决定更具可审计性。"}],[{"start":936.2500000000002,"text":"如果自主系统误杀了不该杀的人，也可能很难确定问题究竟出在数据有缺陷、技术故障，还是人为失误。人们担心，系统的复杂性可能导致一种倾向：将相关事件定性为意外，或把责任归咎于个别使用者，而不是归咎于研发并部署该系统的国家。"}],[{"start":956.4600000000003,"text":"谷歌(Google)DeepMind研究员玛德琳•伊利什(Madeleine Elish)将这种现象称为“道德缓冲区”——当自动化系统出现故障时，一名对系统控制能力有限的人类操作员却承担了主要责任。"}],[{"start":968.4400000000003,"text":"不过，从法律角度看，最终责任由战场指挥官承担。多西说：“人类应对战争的进行方式负责。”"}],[{"start":977.2900000000003,"text":"

这对战争意味着什么

"}],[{"start":979.6600000000003,"text":"随着这些模型以连其创造者都无法完全预测的方式不断发展，AI正迅速融入战争。"}],[{"start":987.2100000000003,"text":"最近，一群OpenAI智能体突破测试环境并入侵AI开发平台Hugging Face的事件表明，前沿模型正在对限制其行为的尝试发起挑战。一些研究人员认为，所谓的递归自我改进——即模型构建自身后继模型的能力——可能使AI以迄今无法预见的速度和强度取得进展。"}],[{"start":1009.1400000000002,"text":"Anthropic表示，如今最先进的模型还不够可靠，无法自主选择目标并对其发动攻击。该公司试图限制AI在军事领域的使用，因此与五角大楼(Pentagon)产生了分歧。"}],[{"start":1023.4200000000002,"text":"与此同时，该公司本月发布的威胁情报报告发现，非国家行为体正利用Claude研发武器，其中包括一种自主无人机蜂群系统，能够自主选择人类目标并在没有人类介入的情况下引爆。报告记录了全球各地的行为体滥用Claude的情况——从中国、俄罗斯、乌克兰和伊朗，到也门、苏丹和台湾。"}],[{"start":1045.7400000000002,"text":"不久之后，问题或许将不再是各国军方准备在多大程度上把AI纳入杀伤链，而是各国政府和AI公司是否根本还能设定这样的界限。"}],[{"start":1056.8200000000002,"text":"山姆•乔伊纳(Sam Joiner)、彼得•安德林加(Peter Andringa)和伊恩•博特(Ian Bott)补充报道"}]],"url":"https://audio.ftcn.net.cn/album/a_1789744732_2780.mp3"}