当前，人工智能在军事领域大规模投入应用，正逐步由战争边缘角色变为战争主导，由此带来的一系列安全威胁和安全风险逐渐涌现。如何限制“机器杀人”，即防范致命性自主武器系统（LAWS）的失控风险，成为各国急需共同回答的现实问题。
一、人工智能军事应用带来安全风险
近几场局部冲突中，人工智能军事应用比重愈益增高，正在深刻重塑现代战争样式。一方面，其已出现在包括目标识别、情报分析、指挥控制、辅助决策在内的多个作战环节；另一方面，其已赋能包括巡飞弹、无人机、地面无人车、水下无人潜航器、各类传感器等多种武器平台。但与此同时，受“算法黑箱”等因素制约，人工智能军事应用也引发一系列安全风险和战争伦理问题。
一是决策时间被压缩易催生意外风险。由于人工智能系统加持，OODA循环（观察Observe、判断Orient、决策Decide、行动Action）的各个环节得以整体加速。过快的战争节奏极大挤压了指挥官或参谋人员在战争中的判断、验证等时间窗口，致使在战争或武装冲突环境中，更易出现过激反应，叠加“算法黑箱”固有不确定性，极易导致误判升级、危机失控等安全风险。因而，随着人工智能系统在战争决策环节的权重不断加大，决策时间被急剧压缩，系统容错边界被进一步挤压，为各类意外风险埋下隐患。
二是目标识别有误差易致错误毁伤。目前，人类对人工智能系统的内部运行机制并不完全明晰，很难完整、清晰地追随人工智能做出判断的内在逻辑。因此，一旦人工智能系统给出目标清单或作战方案，军事指挥官通常只是看到结论，而不知其具体判断依据。比如，在人工智能系统对军事目标识别过程中，很容易因战场环境变化或敌方深度伪造、数据投毒等出现错误识别，致使把民用车辆误识为军用车辆、将友军误判为敌军等。据报道，在巴以冲突初期，以色列“薰衣草”系统标记出3.7万名巴勒斯坦男性作为潜在打击目标，其错误率高达10%，造成了大量平民伤亡。
三是战争主动权让渡易加剧不可控性。近几场冲突表明，由于传感器指数级增长，指挥官或参谋人员随时都在面对海量战场数据，其只能依靠人工智能系统做筛选、压缩，从而对战场瞬息万变的形势进行研判。在此过程中，人类对战场进程的掌控其实已让渡给算法，任由算法决定哪些情报信息重要。指挥官只能看到极小部分战场信息，对于战场的理解能力显著退化，决策风险被指数级放大，危机意外升级的发生概率将显著提高。
四是战略稳定被冲击易加剧对抗升级。基辛格等在《人工智能时代与人类未来》中警告，人工智能正在摧毁冷战以来维系核和平的稳定机制。由于人工智能系统的引入，各有核国家之间“脆弱的恐怖平衡”极易被打破，致使核战争风险极大抬升。一方面，人工智能系统大幅提升对战略核潜艇、战略轰炸机等核载具的侦察追踪能力，催生先发制人打击冲动；另一方面，生成式人工智能可制造逼真虚假影像、通信记录等，炮制虚假核武器调动、导弹发射等危机信号，真伪难以在短时间内分辨真伪，极易误导决策者基于伪造情报做出错误决策。在人工智能时代，两个有核国家的危机性事件更易快速升级、滑向失控。
二、人工智能军事应用面临管控难题
当前，世界各主要国家均已认识到人工智能在军事应用的安全风险，但相较其他领域，治理进程相对缓慢，其难点主要体现在三个方面：
一是大国博弈加剧，规范共识难以凝聚。人工智能被视为新一轮军事竞争的战略制高点，各主要大国竞相加大研发部署、抢占技术先发优势，普遍秉持“不率先落后、不单方面克制”的博弈心态。虽然针对致命自主武器的磋商在《特定常规武器公约》框架内已推进多年，且2026年呼吁开启谈判的呼声持续走高，但受制于协商一致议事机制，个别大国即可直接冻结、阻滞全球规制进程。同时，个别国家另起炉灶，打造排他性小圈子，利用自身优势向外输出单边标准、塑造碎片化规则秩序，却刻意回避国际义务，严重撕裂全球治理共识，进一步加剧人工智能军事应用的立场对立与规则分裂。
二是技术属性特殊复杂，传统军控体系适配性严重不足。传统军控机制高度依赖“效用可争议、边界可界定、违约可核查”三大前提。但人工智能军事应用却恰好规避这些条件：其战时赋能价值已得到普遍验证，各国竞相布局、主动赋能，不存在天然克制的技术属性；其“自主性”贯穿从预警到打击的完整技术谱系，形态连续、边界模糊，难以通过法律定义精准切割划分。更为关键的是，自主能力根植于算法软件，军民两用属性极强、隐蔽性极高，传统军控所依赖的现场核查手段基本失效。价值技术迭代以月为单位，国际规制更新以年为周期，技术演进与制度治理的结构性时差持续拉大，形成常态化治理真空与安全风险。
三是法律伦理体系严重滞后，责任溯源面临现实障碍。现行国际人道法、战争规则体系，均以人类主观意图、行为预见、可控决策为核心前提。而人工智能算法的“黑箱”特质决定了其输出结果存在天然的不可追溯性和不确定性，一旦因算法判断偏差引发作战失误、附带损伤乃至冲突升级，研发主体、部署方与指挥人员之间难以厘清责任边界，国际社会至今仍未能形成统一归责共识。
三、国际社会应携手推进人工智能军事应用全球治理
人工智能军事应用治理难题突出，但全球规制进程并未停滞。当前，国际社会已就管控人工智能军事应用风险、守住人道底线形成初步共识。未来，应立足现有多边机制基础，稳步构建科学完备、公平有效的人工智能军事应用全球治理。
一是坚守核心治理原则。需确立人类最终有效控制的底线准则，严禁机器独立决定武器、尤其是核武器的最终使用。冷战美苏核管控实践证明，机器不得掌握终极打击权限。中国提出人类控制不可让渡原则，为全球人工智能治理提供了根本遵循。
二是搭建务实制度框架。围绕人工智能军事应用落实全流程审查、记录留存和责任追溯，厘清研发、部署、指挥控制各环节对应的责任，确保一旦出现问题能够有据可查、追责到人。中国已在《特定常规武器公约》框架下提交专门立场文件，围绕人工智能军事应用规范提出系统性主张，为国际规则构建贡献务实方案。
三是坚持多边合作路径。摒弃排他性小圈子，践行真正多边主义，依托联合国框架统筹各方诉求、吸纳发展中国家立场。通过战略对话、学界交流、军方沟通等多元渠道增进战略互信、管控技术风险。以包容协商方式稳步推进人工智能治理规则在军事领域落地成型。
作者：李喆是军事科学院副研究员、祁琪是军事科学院助理研究员
扫码下载
中文网微信