人工智能技术的军事应用风险思考

人工智能正在国家安全领域占据一席之地。虽然公众可能仍将军事领域中的人工

智能与《终结者》中的人形机器人等同起来，但有关人工智能对国家安全的影响

的讨论有了显著增长。这些讨论涵盖了学术界、商界和政府，从牛津大学哲学家

尼克·博斯特伦有关人工智能对人类生存风险的担忧，到特斯拉创始人埃隆·马

斯克担心人工智能可能引发第三次世界大战，再到弗拉基米尔·普京声明：在 21

世界，谁能领导人工智能技术，谁就能主宰世界。

在人们摈弃“革命性变革”的这种空话，去思考人工智能应用于军事领域将给世

界带来的切实影响，这究竟意味着什么？人工智能不是武器。相反，从军事层面

来看，人工智能和电力、内燃机一样，都是一种助力。因此，人工智能对军事力

量和国际冲突的影响，取决于军队和决策者对人工智能的具体应用。那么，关于

人工智能应用于军事领域的影响，其核心问题包括：评估什么是“人工智能”的

原则；人工智能与以往技术革新的不同；军事领域应用人工智能的目的；人工智

能应用的潜在限制以及军事领域人工智能应用对国际政治的影响。

人工智能的前景——包括提高从后勤服务到战场规划等事务的速度与精准度以

及提高人类决策能力——正在驱使世界各国军队加速对人工智能应用的研究与

开发。对美国军方而言，人工智能提供了一种新路径来保持其军事优势，同时无

形中削减开支、降低士兵面临的风险。对其他国家，尤其是俄罗斯和中国来说，

人工智能提供了更有价值的东西——即破坏美国军事优势的能力。国家之间对于

人工智能主导权的竞争，与经济或其他领域的竞争并无二致，但其潜在的军事也

是显而易见的。人工智能研究的速度和轨迹的不确定性，意味着人工智能的前景

极不明朗。此外，安全和可靠性方面的考量可能会限制军方选择使用人工智能的

方式。

什么是人工智能？人工智能是指，赋予机器或电脑模拟人类智能行为的能力。研

究者、公司和政府应用了多种人工智能方法，包括机器学习和神经网络等。当前

有关人工智能技术发展轨迹的研究表明，即便是在人工智能研究者之中，也有很

多人认为人工智能未来发展速度有很大的不确定性。有部分研究者认为通用人工

智能（AGI）能在数年内实现突破，但也有人认为，突破的实现可能需要几十年

甚至更久。因此，本文着重探讨“狭义”人工智能，或人工智能应用于具体问题

的解决，例如 AlphaGo Zero——一个被设计用以赢得围棋比赛的人工智能系统。

从历史的角度看，如果对科技发展持乐观态度的人是正确的，那么依据创新的速

度，人工智能将拥有对经济和社会产生广泛影响的潜力。与火箭或飞机等离散设

备有所不同人工智能可以融入各种事物。因此，就军事目的来说，人工智能是很

好的助推器。

对于军事领域来说人工智能的意义是什么？军事领域如何应用人工智能，而且为

什么这对于国际政治来说十分重要？从另一个角度看，军方相信人工智能可以帮

助解决哪些现代战争面临的挑战？以下三个人工智能潜在应用领域诠释了为何

军方会对此感兴趣。

首先，现代军队在数据方面面临的挑战与公司或政府类似——数据量大、难以快

速处理。狭义的信息处理人工智能应用程序能加速数据解析，方便于向更高层次

任务投放人力。例如，美军的 Maven 项目力求使用运算法则更快速地解析无人机

监控反馈的图像。这类军用狭义人工智能应用在商业领域也有明确的应用，并且

不单只有图像识别功能。从图像识别到公开或机密的信息数据库处理，人工智能

处理应用能帮助军方更准确快速地解析信息，从而更好地做出决策。

其次，从高超音速到网络攻击，高级军方和领导人都认为战争的速度正在加快。

无论你采取的是 OODA(观察、适应、决定、行动)循环方式，还是简单地准备在敌

方未发现自己已经到达的情况下进行打击，速度在现代战争中都是优势。速度不

仅仅是指战机或军需品迅速到位，它还关乎决策。就像遥控系统一样，飞机由人

工智能控制，摆脱了要保护人类飞行员的限制，虽然抵消了驾驶舱中人类飞行员

的诸多优点，但提高了驾驶性能和可操控性。比如在防空领域，与人类的操作相

比，以机器速度运行能够让系统在面对导弹饱和攻击时，更高效地保护军事基地

或城市。人类的反应速度此时可能不堪一击，无论他/她多能干。这已经是以色

列 Iron Dome（铁穹）系统所遵守的一个原则。

第三点，人工智能可以在战场上实施各种新的军事行动理念，比如常说的“忠诚

僚机”概念，人类飞机或坦克驾驶员也能够因此具备协调无人机的能力。战争空

间越复杂，“僚机”的运算法则越有用，这种算法能够帮助它们在人类协调控制

员无法直接引导飞机的情况下做出反应。同样的道理，机群也需要人工智能来协

作。

显然，军方有动机去研究可以提升军队效率的潜在人工智能应用。这些动机不仅

仅来自于别国军队的竞争压力，还有国内政治和官方的原因，推动着国家朝着拥

有自主武器系统的方向迈进。对于美国这样的民主政体来说，自主武器系统在理

论上为人类能够低成本、低风险地完成任务提供了潜在可能性。比如，美陆军

2017 年发布的“机器人与自主系统战略”，特别提到了自主系统可以在低成本、

低风险的情况下提升效率。

对于俄罗斯和中国这些国家来说，人工智能意味着控制。人工智能系统可以让国

家减少对民众的依赖，他们可以依靠更少、更忠诚的人来管理军队。

与联合国《特定常规武器公约》多年来讨论的“致命自主武器系统”相比，关于

人工智能在军事领域应用的探讨更为广泛。创造可使用致命武器的自主系统可能

就是人工智能在军事领域的应用之一，当然还有许多其他应用。

有效使用人工智能面临的障碍。军用人工智能面临着技术和组织的双重挑战，有

些主要是关于安全性和可靠性的担忧，因为这可能会对企业造成伤害，所以自诩

为以人工智能为基础的现代军队转型从未真正实现。这些技术挑战分为两大类：

内在可靠性和外部开发。

狭义人工智能系统的特点意味着它们经过训练用以执行特殊任务，不论是下国际

象棋还是解析图片。在战争中，根据 Clausewitz（克劳塞维茨）著名的论断，由

于迷雾和摩擦，环境会迅速地转换。如果既定人工智能系统应用环境发生改变，

系统可能会不适应。这种脆弱性因此成为了系统可靠性的威胁。在战场上对抗双

方部署的人工智能系统会使环境复杂化，超出一个或多个系统的解析力，进一步

加剧了系统的脆弱性，并增加了事故和失误的可能性。

人工智能由机器决定最佳方案并执行的特性，可能会增加预测 AI 系统行为的难

度。例如，在 AlphaGo 对阵围棋世界冠军李世石的第二场比赛中，AlphaGo 出其

不意的一招，让李世石离开赛场，并花了 15 分钟研究这招。这证明这一步是一

个人类顶级赛手不会想到的，但机器已经算出来了。这显示出人工智能改善决策

处理上的巨大潜力。军队的运作建立在可靠和信任的基础上——无论是在指挥中

心还是战场上，如果人类操作者不确定人工智能在特定环境下具体会做什么，那

可能会使计划更复杂、操作更困难并且事故更可能发生。

针对可能发生的意外进行人工智能系统编程，这种挑战也会逐步削弱其可靠性。

比如一个经编程可以玩俄罗斯方块的人工智能系统，研发人员发现，人工智能已

经能够在快要输的时候暂停游戏，以保证走好每一步，使成功的可能性最大化，

从而完成指令。这种改编，反映出人工智能系统行为的不确定性，超出了多数军

队能够容忍的范围。偏见和对数据的改编会让其可靠性的实现更加困难。可解释

性是人工智能系统面临的又一挑战。对于一个系统而言，重要的不仅仅是可靠性，

同时也必须具有能使他人信任的可解释性。如果一个人工智能系统以特定的方式

将图像分类或躲避敌方雷达，但不能说明为什么会做出这样特别的选择，那么人

类不太可能相信它。

可靠性不仅仅是人工智能系统设计的问题。战争是竞争性行为，当今军队和情报

机构试图在和平时期及战时入侵并破坏潜在敌人的行动，不管这些系统是在堪萨

斯州后台运行还是应用在战场上，有一点是不变的——这是一个人工智能系统的

世界。研究者们已经指出，图像识别算法在导致分类问题的像素级中毒数据面前

很脆弱。以开源数据为基础的算法此时可能不堪一击，因为敌方试图“毒化”此

数据，以防止别国合理使用——编制运算法则用于军事目的。这一敌方数据问题

很重要。黑客攻击也可能导致在更安全的网络中编制并运行运算法则，这也说明

了在国家安全范畴内，网络安全和人工智能有着重要的交互作用。

军队何时启用人工智能？在有关人工智能和武器的公开讨论中，常常忽视的一个

关键问题是，军方一般不会愿意使用以人工智能为基础的系统，除非它们在完成

某一特定任务方面（无论是解释图像、轰炸目标还是策划一场战斗）明显优于现

有的系统。

这些安全性和可靠性方面的问题，在敌对双方试图破坏对方的系统的竞争环境中

凸显，那么人工智能在军事领域还有什么前景？尽管军方不太可能仅仅因为这些

安全因素就停止对人工智能应用的研究，但这些安全性和可靠性问题会影响人工

智能系统的类型，也会影响它们融入“常规”军事行动计划。

军事技术整合有三个层次——开发、部署及使用。每个阶段中，人工智能能够提

升效率、降低人类士兵危险以及成本的前景都要与其面临的安全性和影响军队行

为的可靠性的挑战相抗衡。

军事层面的人工智能研究是在竞争的环境中进行的。中国大刀阔斧地全面推进人

工智能研究引发了美国极大的担忧，比如，中国在人工智能领域会超越美国。鉴

于人工智能融合的优势，很多美国军人担心其他参与者能力出众，自己因此而落

后。任何国家都不希望自己的战士、舰艇以及坦克受到敌军的威胁，也没有国家

希望敌方系统能够在战斗环境中做出反应并快速回击。

在军用系统中融合人工智能，我们才刚刚开始。人类和自动化实验室主任 Missy

Cummings 认为，尽管全球军队自主系统的研究和发展在增加，但过程是“渐进

的”，各组织机构仍“努力实现从开发到应用的跨越式进步。”

在开发阶段，测试和整合活动应揭示潜在的安全和可靠性挑战，并使其成为人工

智能军事应用的一个关键投资领域。现在，军方可能认为，在某些情况下，这些

风险是可以接受的，因为它们有落后的风险，并且相信它们能够及时纠正编程上

的挑战。从本质上讲，军方将权衡人工智能领域可靠性和能力之间的权衡，人工

智能系统可能提供更大的能力，但也存在可靠性风险。

在部署或使用人工智能系统时，军方可能会特别考虑某一特定冲突。随着冲突风

险升级，如果军方判定失败的可能性更大，那么自然会接受部署优势技术带来的

风险，但也会考虑可靠性的问题。反之，冲突风险降低，军方认为自己能够在降

低技术风险情况下取胜，那么人工智能系统的部署就会延迟，直至军方认定其可

靠，或是比现有系统可靠。

军事和商业技术发展历史说明，军事和商业技术发展的历史表明，既要谨慎，也

要有理由相信，安全和可靠性问题不会也不应该导致军事融合的停滞。1886 年，

Karl Benz 发明了第一辆汽油发动机汽车。然而在经过了一代人的时间后，汽油

内燃发动机才申请到第一批专利，而奔驰的汽车超越马车，在交通上占据霸主地

位，又花了一代人的时间。为什么这个过程如此漫长？答案是出于对安全和可靠

的考量。早期内燃机面临问题是可靠性、成本、机器缺乏标准、生产缺乏一致性

以及内燃机驱动汽车的复杂性导致故障频发。

每当新技术诞生，这个熟悉的故事就会不断重演。它们在当时能赋予人们更大的

能力，但同时也有极大的安全和可靠方面的问题。有时候，像内燃机或飞机一样，

这类问题可以解决。也有些时候，像军事用途的飞船或飞艇，安全问题如此之大，

技术永远不可能像替代方案一样可靠、有效。

AI 和战争的未来。AI 对世界的影响将远胜于军事力量和战争未来带来的影响。

自动化在未来工作中的作用会带来巨大的经济和社会效应，无论是否开发军事领

域专用 AI 应用，AI 都将是军方必然的选择。法国总统 Emmanuel Macron 最近指

出，AI 将会打破现有商业与工作模式，其规模之大，法国因此急需制定新的 AI

战略以确保其 AI 研发领导地位。尽管他向一个可能的实现的 AI 军事应用发出警

告，声称他“坚决反对”将 AI 投放战场用以杀敌。然而，法国情报部门却已经

在用 AI 来提高数据处理速度、提升数据可靠性了，他们认为这有助于法国军队

在战场上提高自身能力。

AI 的优点是，尽管存在安全性和可靠性问题，但在引领全球军队时，也能预见坐

以待毙的风险。从数据处理到蜂群概念再到战场管理，AI 能够帮助军队快速、准

确行动，同时使更少数人置身于危险之中。也或者并非如此。当前机器学习和神

经网络方法特有的安全性和可靠性问题，也意味着对抗性数据等问题，对于许多

军用 AI 来说是挑战。

美国国家安全机构的最高领导者似乎非常清楚，美国在技术变革时代所面临的风

险。国防部长 James Mattis 最近就指出，部署 AI“为时尚早”，但他现在开始

质疑 AI 是否能改变“战争的基本性质”。然而同中国相比，美国 AI 的投资相对

较小，中国 AI 国家战略正快速吸引学术界、商界和军方的投资。美国可能比一

个世纪前的英国更清醒，即广泛科技改革会影响其军事优势，但不足以保证其胜

利。当人们认为，所有科技，其核心都是民众和组织机构如何加以使用时，尤为

如此。从打败了骑士的长弓到终结了战舰独大的时代的海军航空力量，强权国家

认为自己仍处于领导地位，直到一次主场战败，历史从此颠覆。

我们不知道 AI 用于军事用途，其结果是否也会如此。AI 研究机构内部对于 AI 发

展前景及安全性和可靠性，在某种程度上，也不太确定。可能未来 20 年，国家

安全研究者们会重启 AI“时尚”。考虑到技术的广度与特定技术，如定向能相

比，以及 AI 商业能源及投资的程度，极可能发生的是，人工智能时代的出现，

在某种程度上会重塑未来全球军事。