清研智库：详解美国网络宁静研究与生长战略的优先研发战略

（接前篇）

为了推进政府2018年国家网络战略和2021财年研发预算优先事项备忘录的目的，应对新泛起的或现有的网络宁静挑战，需要多机构协调研究，本计划确定了六个优先研发领域。这些联邦网络宁静研发优先事项不是唯一需要研发的领域；需要分外的网络宁静研发，以实现对特定机构或政府任务重要的能力。如表1所示，优先领域的希望还将增强所有四种防御能力的网络宁静。

表1优先领域及其对网络宁静的影响

优先研发战略：人工智能

《国家人工智能研究与生长战略计划：2019年更新》指出，人工智能使盘算机和其他自动化系统能够执行历史上需要人类认知和通常被视为人类决议能力的任务。鉴于全球对人工智能技术应用的兴趣和投资大幅增长，美国2017年国家宁静战略要求加大对人工智能的研发投资。2019年2月，总统公布行政下令保持美国在人工智能领域的向导职位，其目的包罗将人工智能研发作为国家目的，掩护隐私，掩护秘密，维护宁静和保障，制定人工智能技术尺度以只管淘汰网络攻击，以及造就民众对人工智能技术的信任。为支持行政下令，《国家人工智能研发战略计划：2019年更新》确定了联邦投资人工智能研发的优先领域。

人工智能对国民经济和宁静具有重大的潜在影响；因此，通过使用网络宁静实践，掩护人工智能技术不被意外使用和恶意使用是至关重要的。人工智能增强的自主系统所带来的新威胁值得认真关注。相反，人工智能技术通过自动化某些通例任务或协助人类系统治理人员，监视、分析和应对网络系统面临的敌对威胁，有望增强网络宁静。这个计划强调了人工智能和网络宁静的配合需求和洽处。

人工智能与网络宁静接口关键问题

人工智能系统设计应遵循宁静、掩护和隐私原则。虽然这些原则并不是同义词，事实上可能处于紧张状态，但有一些配合的特点可以使聚合效果得以实现：再现性、责任性、可解释性、可验证性、透明度和可靠性。现有的网络宁静观点可能需要重新制定和重新设计，以应对人工智能模型、算法和人类人工智能系统的相互作用。以下是人工智能与网络宁静接口的关键问题：

•人工智能对作战速度和规模的影响。

人工智能系统的运行速度和规模超出了人类和当前的技术能力。在人工智能可能驱动恶意运动的领域，这是一个令人担忧的问题，导致攻击者和防御者之间的接触越来越差池称，除非人工智能同样用于网络防御。一般来说，人工智能系统将使网络防御更为庞大和自动化，如果没有实施适当的控制，也可能被用来举行攻击性的恶意运动。

•人工智能的可解释性和透明性。

人工智能系统中使用的推理与人类使用的推理很是差别，对人类来说并不总是直观的。只管人工智能中使用的一些单独的算法是可以明白的，可是它们的团体行为并不总是可以明白的。因此，很难明白、解释和预测人工智能的输出和效果。评估数据某人工智能算法中的偏差，并在不损害隐私的情况下防范这些潜在偏差，将有助于建立可信的人工智能，同时也将增强人工智能的准确性、弹性、可靠性、客观性和宁静性。这就提出了一些问题，好比如何对人工智能系统中的信任举行建模和怀抱，以及这些系统的部署应该遵循什么样简直定性级别。这是网络宁静领域的关注点，例如态势感知、威胁和风险评估治理、隐私风险缓解和资源分配。

•具有人工智能组件的系统的懦弱性。

许多机械学习（ML）算法在其整个生命周期中都市受到攻击。以下类型的攻击可以在任何阶段发生：迫害数据集以降低模型质量，建立后门以允许模型建立者会见其他系统，建立导致分类错误的实例，以及对模型自己和用于训练模型的数据集举行推理攻击。虽然对AI/ML的毛病外貌还没有很好的明白，可是在AI/ML实现中必须思量到它。在这方面，人工智能系统的威胁模型差别于传统的软件和硬件。

•人工智能网络宁静系统效能评估。

人工智能正日益成为医疗和交通等日常生活的焦点技术的一部门。网络、物理、社会和经济之间的界线越来越模糊。虽然这会提高效率，但也会增加依赖性，增加自然、人为和法式性事故和威胁的风险。这就增加了系统性风险和从一个领域的威胁伸张到其他领域的连锁危害的可能性。人工智能在现有的、对当前网络宁静技术的有效性认识不足的基础上引入了更多的庞大性，例如投资某些控制措施可以获得几多宁静性，以及哪些控制措施最能降低风险。权衡基于人工智能的宁静控制、由此发生的宁静级别和面临威胁的效果之间的多维因果关系是一项重大挑战。

人工智能的研发目的

针对威胁模型模拟差别的决议支持场景，包罗与特定AI/ML实现相关的攻击者/防御者计谋，以制止由AI/ML技术造成的无休止的攻击防御循环，用于网络宁静任务，不包罗恶意软件和入侵检测，也不包罗基于特征的方法。开发使用人工智能宁静功效的自动化编排。

研究人工智能系统的行为，包罗它们在人类交互作用下的行为，以使系统可信。开发方法来验证息争释人工智能系统对人类感知和期望的效果。开发技术以革新人工智能系统发生的效果的泉源。

开发工具和技术，以相识针对机械学习系统的攻击和防御。革新形式化方法技术，在训练和部署时验证机械学习算法的宁静性和结实性。寻找密码方法，以确保训练数据的窜改弹性存储和机械学习的窜改弹性盘算，并在不泄露敏感信息的情况下实现机械学习的数据共享。开发新的基于人工智能的功效，以适应语义宁静属性。研究为人工智能应用而制造的芯片、处置惩罚器和专用设备的潜在毛病，思量到人工智能和神经形态芯片以及具有内存处置惩罚和模拟盘算功效的处置惩罚器的泛起。

开发宁静和信任的模型、界说和怀抱，用于评估人工智能网络宁静系统和基于人工智能的网络宁静控制。确保宁静和隐私在差别的抽象条理获得掩护，从高级计划和决议到低级执行人工智能系统。