人工智能——走向卓越与信任的欧洲路径

作者 | 袁俊腾讯研究院助理研究员

2020年2月19日，欧盟委员会公布了人工智能白皮书《走向卓越与信任——欧盟人工智能羁系新路径》（On Artificial Intelligence - A European approach to excellence and trust），旨在打造以人为本的可信赖和宁静的人工智能，确保欧洲成为数字化转型的全球向导者。陈诉主要分为六大部门，首先概述了人工智能，进而论述了需要使用工业和专业优势，抓住下一波数据浪潮机缘。其次重点围绕“卓越生态系统”与“信任生态系统”两方面展开，着重建构了可信赖与宁静的人工智能羁系框架。最后，还公布了《关于人工智能、物联网和机械人对宁静和责任的影响的陈诉》和《欧洲数字战略》两份附件。本文着重先容“卓越生态系统”与“信任生态系统”以及欧盟未来可信赖与宁静的人工智能羁系路径。

鉴于人工智能 的飞速生长，欧洲可以将技术、工业优势和基于基本价值观的羁系框架相联合，打造一整套人工智能生态系统，从而为欧洲社会和经济带来技术福祉。其中关键在于，人工智能必须以欧洲价值观和包罗人类尊严、隐私掩护等在内的基本权利为基础。

欧洲拥有众多研究中心、创新型企业。在机械人、制造业、服务业等领域居于领先职位。欧盟可通过强化下一代技术、数字基础设施以及数字能力的投资，增强欧洲在关键技术和基础设施方面的技术主权，建立欧洲数据池，以打造可信人工智能。

一、“卓越生态系统”（ecosystemof excellence）

1.与成员国互助

欧盟委员会将凭据白皮书的民众咨询效果，向成员国建议修订2018年4月通过的人工智能战略，和12月提出的约70项团结行动的协同计划。

2. 聚焦研究投入和创新社群

欧洲需要一个集聚研究、创新和专业知识的“灯塔型”中心，借此吸引最优秀的人才。因此将建设私营主体和羁系机构互助的卓越和测试中心（excellenceand testing centres），建立从研究到创新的一整套价值链的卓越生态系统。同时专项拨款，用于支持数字欧洲计划下设在欧洲的世界参考测试中心（world reference testing centres），而且凭据实际情况，作为2021至2027年多年期财政框架（MFF）的一部门纳入欧洲地平线（Horizon Europe）的研究和创新计划。

3. 能力方面

借助顶尖高等学府组成的“数字欧洲计划”网络，以吸引最优秀的教授和科学家，并提供全球领先的人工智能课程。

4.聚焦中小企业

欧洲投资基金将在2020年第一季度启动1亿欧元的试点计划，为人工智能的创新提供股权融资。欧盟委员会计划从2021年起通过“投资欧洲”（InvestEU）项目，大规模扩展多年期财政框架的规模。

5. 与私营机构建设同伴关系

在欧洲地平线计划的配景下，欧盟委员会将在人工智能、数据和机械人技术方面开展新的公私互助同伴关系。

6. 推动公共部门采购人工智能

在公共行政、医院、交通服务、金融羁系机构等公共部门迅速部署人工智能产物和服务。

7.数据和盘算基础设施会见

欧盟委员会已经提出40多亿欧元的“数字欧洲计划”，以支持高性能盘算和量子盘算，包罗边缘盘算和人工智能、数据和云基础设施等。欧洲数据战略进一步阐释了该优先事项，认为卖力任的数据治理实践将有助于建设信任，确保数据的可重用性。

8. 国际方面

欧盟将密切关注其他国家限制数据流动的政策，并将在双边商业谈判中通过世界商业组织规模内的行动解决相关不适当的限制。欧盟确信，人工智能国际互助必须建设在尊重基本权利的基础上，包罗人的尊严、多元化、包容性、非歧视、掩护隐私和小我私家数据。值得注意的是，生长卖力任的人工智能也可以努力推动2030年可连续生长议程。

二、“信任生态系统”（ecosystem of trust）：人工智能羁系框架

在人工智能决议历程中，面临突显的人性能力差池称和系统信息不透明等问题，欧洲公民日益渐感自身权利的维护苍白无力。此种缺乏坚实的信任基础是阻碍人工智能进一步生长的焦点逆境。因此，构建可信赖与宁静的人工智能羁系框架就成为建立“信任生态系统”的当务之急。

（一）潜在风险问题

1.基本权利面临风险，尤其是小我私家数据隐私掩护。现实社会中的运作机制将会全方位影响人工智能，人为发生新的偏见与歧视。此种偏见和歧视不来自于设计阶段，而是依托于现实社会而逐渐浮现。人工智能固有的算法黑箱、庞大性、不行预测性和部门自主性行为等，恐发生些许回溯和去匿名化小我私家数据的风险。

2.宁静责任制度的有效运转。嵌入到产物服务中的技术会引发宁静风险。例如由于识别技术缺陷，致使自动驾驶汽车错误识别了门路上的障碍物，造成相应的人身伤害和物质损失。而现在缺乏应对该风险的明确宁静条款，此种执法不确定性会使得执法机构面临逆境，即在未被明确授权下是否可以执法干预。

（二）当前欧盟人工智能立法的主要问题

一是欧盟和国家立法难以有效适用和执行。人工智能系统运作乏透明度会增加违法行为的识别难度和举证难题，包罗基本权利掩护的规模、违法归责的认定和法定索赔要件的满足等内容。

二是既有执法规范的适用规模受限。在相关欧盟产物宁静立法中，当软件作为最终产物的组成部门时，必须遵守产物宁静规则。但独立软件是否受欧盟产物宁静执法规制实属未解之难题。现在相关立法的规范客体仅限于产物而非服务，所以原则上也不得适用于人工智能服务，例如医疗服务、金融服务和运输服务等。

三是功效更新后的责任立法存在空缺。在人工智能系统的漫长服务周期内，需要不停更新软件、硬件和算法，尤其对需大数据频繁喂养的机械学习来说更是如此。纵然技术嵌入产物之际不存在缺陷，但事后更新会发生新的风险隐患。遗憾的是，既有产物宁静执法只规制上市时存在风险的产物，致使现行立法一定规模内失灵，无法实时规制问题产物。

四是产物供应链中差别运营者之间的责任分配不明确。一般来说，欧盟产物宁静立法将责任划分给产物生产商，包罗所有组件的生产者。但若人工智能产物宁静事件是由生产者之外的第三方引起的，则需降低差别运营者之间执法责任分配的不确定性。

五是旧有宁静思维亟需转换。人工智能恐引发立法现在没有明确的诸多风险。例如源自于网络威胁、小我私家宁静隐患和失去毗连而导致的风险等。此类风险可能是设计之初留存的，也可能是事后软件升级造成的，亦或深度学习自我进化发生的。欧盟应秉持新的宁静看法，转换旧有思维，充实借鉴包罗网络与信息宁静局（ENISA）在内的种种机构的执法履历，以评估人工智能潜在的宁静风险。

三、构建可信赖与宁静的人工智能羁系框架

未来人工智能羁系框架应当以“风险进路”为焦点，在告竣既定目的的同时制止不成比例的企业肩负。因此要从高风险的人工智能应用与非高风险的人工智能应用两大方面予以类型化羁系。

人工智能应用的高风险应满足：第一，在某一可能会发生重大风险的领域，在该领域中的人工智能应用应被认为是高风险的。例如医疗保健、运输、能源和部门公共领域。第二，只有在相关领域不妥地使用而且发生了重大风险，该人工智能才会被认为是高风险的。例如，医疗保健是人工智能应用的高风险领域，但医院预约系统的缺陷通常不会造成重大风险引起立法干预。

为了有效应对种种高风险的人工智能应用，应当思量如下几项需求。

1.训练数据需宁静度高、无歧视和掩护隐私

宁静度高：确保人工智能系统的训练数据在产物或服务的后续使用中连续宁静。例如人工智能系统在足够广泛的数据集上举行训练，涵盖所有可能的应用场景，包罗突发状态下危险情形的制止等内容。

无歧视：接纳合理措施确保人工智能不生成歧视效果。例如广泛接纳具备足够代表性的数据集，确保差别性别、种族和肤色等可能引发歧视的要素被涵盖其中。

掩护小我私家隐私：在人工智能产物和服务使用期间，切实遵守GDPR要求的小我私家数据和隐私掩护。

2. 留存人工智能训练相关的数据集与测试文件

准确记载数据集和测试：鉴于人工智能系统的庞大性、内部运行的不透明以及难以快速验证是否合规等情况，要确保留存与算法、编程有关的测试记载。准确记载特定情形下高风险人工智能应用测试的数据集，详细形貌数据集的主要特征和选择方式。

留存资料文件：留存有关建设、测试和验证人工智能系统的训练方法、使用流程和相关技术的资料文件，包罗预先制定的宁静措施和制止歧视偏见的应对方案等。

3. 应用高风险人工智能时提供须要信息

系统信息：为了提升人机信任，打造卖力任的可信AI，需要人工智能系统实时、主动提供关于高风险人工智能应用的须要信息。例如系统努力提供自身的应用规模、能力水平和设计局限，特别是涉及到系统的预设目的、预计发挥效用以及相应的准确水平等。

明确通知：当小我私家在与人工智能系统而非与人交互时应推行通知说明义务。系统可以凭据差别场景提供客观、简明且易于明白的准确信息。

4. 人工智能系统应稳定地、准确地运行

稳定准确：必须确保人工智能系统在整个产物或服务的生命周期中，技术成熟稳定，准确反映出相应的运行水平。

可再现：确保人工智能系统生成的效果事后可再现、可复盘。

抵御能力：在整个技术生命周期内，人工智能需要有一定能力自行处置惩罚系统错误或下达的前后矛盾的指令。同时劈面对外部果然入侵的严峻态势，或者精妙地利用数据或算法的隐蔽情形，人工智能要具备一定水平的坚韧的抵御能力，接纳暂时性措施阻挡既有侵害。

5. 人为监视

人为监视有助于确保人工智能系统不会侵蚀人类的自主性。只有确保人工适当到场到人工智能高风险应用当中，才气实现可信赖、合伦理和以人为焦点的人工智能目的。人为监视人工智能系统可以接纳如下形式。

其一，只有事前人为监视且批准后，人工智能系统输出的效果才气生效。例如拒绝社会福利保障的申请这种关乎到弱势群体切身利益的事项，只能人为操作。

其二，人工智能系统效果输出立刻生效，但事后需人工审查。譬如人工智能系统可自行拒绝信用卡的申请，但稍后必须举行人工复查。

其三，人工智能系统运行时随时监控，遇到突发事件实时干预。例如自动驾驶中驾驶员突觉操作系统不太宁静，可立即使用停止按钮。

其四，在早期设计阶段，预先对人工智能系统附加操作限制。好比当室外能见度较低时，一旦无人驾驶汽车的传感器不再敏捷或需保持宁静车距，则驾驶系统自动停止。

6. 远程识别生物特征数据后收集和使用

现在，欧盟多国已经广泛在公开场合与商业场景中应用人脸识别系统，通过远程识别人脸，对公民的生物特征数据举行收集和使用。为相识决在公开场合大规模使用人工智能引发的社会担忧，而且防止欧洲单一数字经济市场碎片化，欧盟委员会将提倡一场广泛的公共辩说，讨论此种情形下可能的合理的使用情形，以及接纳何种措施确保相关行为合乎比例原则和须要原则。

7. 开展事前一致性评估

针对高风险人工智能应用的事前一致性评估，需要纳入未来的人工智能羁系框架机制中。而该一致性评估机制需考量如下因素。

第一，谨记并非所有事项都可事先举行一致性评估。好比，应用高风险人工智能时提供须要信息这一场景，就无法先前开展评估验证。

第二，思量到部门人工智能系统会不停进化和深度学习。这将有须要重复地、定期地评估人工智能系统的生命周期、运转状态。

第三，针对训练数据，以及用于测试人工智能系统的训练方法、使用流程和相关技术的资料文件，要客观地、专业地开展一致性验证与核实事情。

第四，所有市场运营者均需强制举行一致性评估。为了减小中小企业的肩负，可以建立类似数字创新中心等机构。

--END--

我悦目吗？