兰德陈诉：机械思维时代的威慑

2020年1月27日，兰德公司网站公布题为《Deterrence in the Age of Thinking Machines》的陈诉，作者是黄允儿(政策研究员)和约翰M.尤尔恰克(资深信息学家)等9人。陈诉要点如下：

研究的问题

(1)在各国相互发出使用武力及其潜在结果信号的现有作法上增加机械思维和自主系统会发生什么影响？

(2)如果能以机械速度做出决议并由不冒使用国或行为者生命危险的气力做出决议，那么威慑以及态势升级将会如何变化？

(3)这些能力的提高如何削弱或增强威慑力？

(4)哪些领域可能会发生错误预计和意外结果？

全球军事人员越来越多地使用人工智能和自主系统，可能会对威慑计谋以及危机和冲突的态势升级发生影响。直到现在，威慑还只是涉及到一些人试图劝阻其他人接纳特定行动的作法。当所涉及的思维和决议历程不再纯粹只有人时，会发生些什么？当能以机械速度做出决议和接纳行动时，态势会如何变化？人工智能和自主性会如何影响各国现有相互发出潜在使用武力信号的方式？哪些领域可能会泛起错误预计和意外结果尤其是意外升级？

本探索性陈诉开端考察了人工智能和自主系统如何影响通例危机和冲突中的威慑和态势升级。研究效果讲明，由于机械的决议速度、与人类差别的明白方式、许多国家使用自主系统的意愿、我们相对缺乏履历以及相关能力的不停生长，机械决议可能导致态势意外升级或威慑动态改变。当前的计划和开发事情并未跟上如那边理与这些新技术相关的潜在不稳定或态势升级等问题的程序，而计划人员和决议者必须在所部署的系统介入冲突之前就开始思量这些问题。

重要发现

(1)凭据战事推演对人工智能和自主系统的看法

• 在举行威慑时有人值守系统可能比无人系统更好。

• 用无人系统取代有人系统可能不会被视为降低了宁静答应。

• 在冲突期间发出刻意和答应信号时，反抗者会为其系统设置差别的自主性。

• 在战事推演中，自主系统的速度确实导致了态势意外升级。

(2)对威慑的影响

• 自主和无人系统可能会对威慑的扩展以及我们确保美国对友邦做出答应的能力发生影响。

• 广泛的人工智能和自主系统可能会导致态势意外升级和危机不稳定。

• 人为和人工因素的差别组合会影响双方的升级动态。

• 在明白人类发出的与威慑尤其是态势降级有关的信号时，机械可能会变得更糟。

• 在传统威慑中，主要是一些人试图相识另一些人，而在这个新时代，威慑涉及沿着其它许多路径的明白。

• 以往自主系统意外攻击了友方目的或平民目的的案例，可能有助于深入考察更先进系统的技术事故或故障。

建议

• 就威慑理论和其它框架开展进一步事情，以明确思量人工智能和自主系统的潜在影响。

• 评估新系统的威慑升级潜力。

• 评估新作战观点的威慑升级潜力。

• 针对更多的作战和战略条理想定举行战事推演。