西欧相继出台AI新规，整治“蛮荒的西部”

文｜学术头条

欧盟委员会 (European Commission) 克日公布《人工智能白皮书》，计划制定一套人工智能的新法例，以掩护公民免受滥用人工智能技术的伤害。

同时，欧盟表现新法例将偏重于透明度和监视，以区别该地域与美国和中国的做法。有趣的是，西欧委员会将现在 AI 生长的现状比作「蛮荒的西部」，并表现将重点关注「高风险」案例。

AI 现状：蛮荒的西部？

如今，人脸识别已经成为一些执法机关追踪嫌犯时最强有力的武器；另有些医疗机构正通太过析人的脸部特征，来诊断某些稀有遗传疾病……但它对公民隐私权组成的威胁，也前所未有。

相较指纹等其他生物特征，人脸识此外最大差别就在于，它能远距离发生作用，而无需直接接触。这意味着，政府、公司等机构和小我私家可能未经当事人同意、甚至完全不知情的情况下读取并搜集其数据，进而非法使用。

事实上，人脸不仅仅能讲明身份，让人以为美或丑，还泄露许多其他信息。有研究讲明，通过大数据和算法，有相当或许率能通过人脸特征来测算一小我私家的智力水平、性取向，甚至政治倾向……

因此，一旦这种技术被不恰当地使用，就有可能发生严重结果——例如，保险公司或可更准确判断一小我私家的康健状况，从而制定出包赚不赔的保单价钱；雇主可能会雇佣或拒绝一些特定的雇员，以满足其偏见；一些政府则可能越发主动有效地对某些特定人群举行追踪、监控甚至迫害；在人种多元的国家，脸部特征数据的运算效果还可能造成对某些族群人士的不公正认知……

另有人认为，人脸识别会反过来影响人们的现实来往和信任关系。如果都知道自己的脸部特征会对自己将在社会上遭遇怎样的看待发生重大影响时，人们就会被训练成「演出大师」。长此以往，整个社会将陷入庞大的信任危机之中。

再好比，近几年来，基于 AI 技术的 Deepfake 视频在网络上有泛滥之势，该技术能够生成传神的假视频或音频片段，许多时候足以乱真。这些传神的视频让人们发出「技术无所不能」的赞叹，同时，也引发了更多的人对技术滥用和不行控的担忧，甚至是恐惧。

Deepfake 的泛起实现了「以假乱真」的合成技术

与恶搞娱乐和公益相比，Deepfake 更多地显示了技术的「阴暗獠牙」。使用 Deepfake 伪造的演讲视频已经对马来西亚和加蓬的政治丑闻发生影响。

据 Deepfake 检测软件的 Deeptrace Labs 的一份陈诉称，现在在线的 Deepfake 视频中有 96％是非自愿拍摄的「换头」色情片，片中人的脸往往被换成了女性名人的脸。这已经超出了恶搞的领域，触及违法的边缘。

禁用人脸识别？

凭据欧盟公布的白皮书内容，在未来的五年中，欧盟委员会将专注于数字化的三个关键目的：为人民服务的技术；公正竞争的经济；开放、民主和可连续的社会，白皮书还提出一系列人工智能研发和羁系的政策措施，并提出建设「可信赖的人工智能框架」。

近年来，欧洲一直在寻求在技术政策方面强调公正和伦理。

欧洲内部市场和服务专员蒂森·布雷顿（Thierry Breton）表现，新法例将与《一般数据掩护条例》(General Data Protection Regulation) 相媲美。这部影响深远的数据隐私法于 2018 年生效，也被称为史上最严数据掩护法，对侵犯网民隐私的违法企业，罚金最高可达 2000 万欧元（约合 1.5 亿元人民币）或者其全球营业额的 4%，以高者为准。法例出台不久，Facebook 和谷歌等美国企业也都成为 GDPR 法案下的第一批被告。

凭据新规，欧盟将建议克制在公开场合使用面部识别技术，而且提到这些系统的运行将需要人的监视和审计。作为建议的一部门，欧盟还希望成员国任命相关部门监视人工智能政策规则的执行情况。

固然，这些划定吓坏了硅谷的公司。纵然 GDPR 这样的法例只针对欧洲，也往往具有全球影响。布雷顿表现:「与 GDPR 一样，我们有自己的规则，我们将在这里执行。他们将确保我们在欧洲珍视的小我私家和基本权利获得尊重。」

欧洲是世界上最大的工业大陆，只管人工智能等转型技术被称为关键技术，但人们普遍认为欧洲落伍于美国，美国的生长由财力雄厚的科技巨头主导。现在，通过欧盟引入有关人工智能和面部识别等技术数据收集透明度的规则，将领先迈出重要一步。

欧盟科技主管玛格丽特•维斯特格 ( Margrethe Vestager ) 在之前的新闻公布会上指出，该规则将涵盖自动驾驶汽车和生物识别 ID 等用途。欧盟以外想要在欧洲部署其技术的公司，可能需要接纳详细步骤，例如使用欧洲数据集重新训练面部识别功效。欧盟希望积累在制造业，交通运输，能源和医疗保健等领域收集的数据，以掩护民众利益，并加速欧洲自己的初创公司。

同时，欧盟将提议每年花费近 220 亿美元用于构建可以用作 AI 开发基础的新数据生态系统。该计划假设欧洲拥有大量的政府和工业数据，而且希望提供羁系和财政激励措施以汇总这些数据，然后这些数据将提供应同意遵守欧盟法例的 AI 开发人员。

谷歌：支持政府羁系，但制定规则应审慎

谷歌 CEO Pichai 克日在布鲁塞尔举行的 Bruegel 智库组织的一次集会上说：「我认为政府和羁系法例应尽早解决此问题，并出台治理的框架划定，这是很重要的。」

「现在这样做可能会立竿见影，但也可能要等候一段时间才气收效，届时我们才气真正思量如何使用它。使用这种技术取决于政府制定的门路。」

Pichai 表现，羁系机构在起草规则时应审慎行事。欧盟委员会在该问题上公布的建议将在很大水平上决议人脸识别技术未来在欧洲的运气。

微软：不应一刀切

相比之下，微软总裁 Brad Smith 对此表达了两点差别的看法，他认为，面部识别技术在某些情况下是可以造福社会的，好比非政府组织可以使用它来寻找失踪的孩子。

Smith 说：「我真的不愿意讨论让人们禁用某项技术，人脸识别技术可以让久此外家人团聚。」

他还说，如果能有一个合理的选择，让我们能用「手术刀」，而不是「切肉刀」来解决这个问题，那就不要一刀切都禁了。

现在重要的是首先确定问题所在，然后制定规则，确保该技术不会用于大规模监视。他认为，最终要让一项技术变得更好的方法只有一种，就是多用，而不是禁用。

Faceboo：呼吁增强羁系

Facebook 首席执行官马克·扎克伯格（Mark Zuckerberg）克日还专门到访布鲁塞尔与 Vestager 会晤并讨论拟议的法例。扎克伯格在《金融时报》周末揭晓的看法文章中再次呼吁增强对 AI 和其他技术的羁系，以资助建设民众信任。

「我们需要更多的监视和问责，」扎克伯格写道。「人们需要感受到，全球技术平台是对某人的回应，因此羁系应该让企业在犯错时负担责任。」

据相识，民众有 12 周时间就这些划定揭晓评论，欧盟委员会将在今年晚些时候正式提出立法。

前进还是倒退？

白皮书标志着一个新历程的开始，这一历程可能引导针对人工智能系统及其企业的新立法。「这将使大规模（对人工智能的）监控正当化，」独立研究员斯蒂芬妮·黑尔博士说。

黑尔博士认为，委员会应暂停使用面部识别技术多年，以便就如何或是否可以合乎道德地使用这类系统征询专家的意见。

而实际上，一些英国警员已经在公共场所使用面部识别系统。英国警方使用人脸识别摄像头监控威尔士足球角逐的人群时，一些球迷捂着脸抗议。这项技术存在争议的一个迹象是，甚至一个相近警员局的卖力人也表现阻挡这项技术。

南威尔士警方在卡迪夫体育场外部署了装有人脸识此外货车，作为恒久试验的一部门。在这个试验项目中，警方实时扫描球迷，并拘留因已往行为不端而被列入黑名单的任何人。维权人士和球队支持者在卡迪夫市和斯旺西城之间的角逐前举行了抗议，他们戴着口罩、头套或围巾。

「这与风险不相称，」威尔士足球支持者协会主席文斯·阿尔姆说，该协会资助组织了这次抗议运动。「球迷们以为他们似乎被选中当做试验品。」

英国拥有世界上最高密度的监控摄像头之一，几十年来，英国宁静部门一直在公开场合使用摄像头，可是在 2001 年 9 月 11 日之后，英国还遭遇了海内恐怖袭击。

伦敦大学学院 (University College London) 的迈克尔•维尔 (Michael Veale) 表现，这份白皮书是一个「错失生长时机的计划」。「它过于专注于伶仃的系统，而没有思量周围的情况、商业模式、它的用途，以及推感人工智能的经济和政治体系。」

Veale 博士增补说，包罗 GDPR 在内的现有执法为防止滥用面部识别提供了掩护，可是他认为，与其制定新的执法，不如把重点放在执行这些执法上。

他小我私家已经向羁系机构提交了针对科技公司的「几起」投诉，但他还没有被见告任何由此导致的行动。

数字权益组织 Access Now 的丹尼尔•洛伊弗 (Daniel Leufer) 也在 twitter 上发帖称，这份白皮书在面部识别和人工智能生物识别方面的内容「令人失望」地单薄。

也有些人对现在在人脸识别方面缺乏详细的建议表现接待。

法国格勒诺布尔阿尔卑斯大学 (Grenoble Alpes) 的西奥多•克里斯塔基斯 (Theodore Christakis) 是法国国家数字委员会 (French National Digital Council) 的成员。他在采访中表现：「欧盟委员会需要更多时间来研究如此庞大的问题，并在这一领域审慎推进，这似乎是合理的。」

AI 未来何去何从？

凭据一份新的政府陈诉，英国将不会设立专门的人工智能羁系机构，但需要对公共部门的使用和道德规范给予更明确的说明。

这份名为《人工智能与公共尺度:公共生活尺度委员会》的陈诉称，政府「在开放性上失败了」，人们对「人工智能黑箱」的担忧在很大水平上是错误的。

陈诉指出:「公共部门组织在使用人工智能方面不够透明，而且很难发现政府现在在哪些领域使用了机械学习。」

该陈诉主张，「所有公营机构在提供公共服务前，应揭晓声明，说明使用人工智能是否切合有关法则及规例；不需要特定的人工智能羁系机构，但应建立羁系保证机构，以确定羁系领域的空缺，并就与人工智能相关的问题向个体羁系机构和政府提供建议」

IT 服务提供商 Insight 的技术计谋师亚历克斯·吉兰 (Alex Guillen) 在陈诉公布后评论称，「首先，公共部门需要记着，现在人工智能和机械学习等技术的最有效使用，是为了提高而不是取代人类。资助公共部门的事情人员做出更明智的决议，以改善公共服务。然而，无论人工智能如何应用于公共部门，它都需要被看成雇员看待——并给予须要的培训和信息，以完成其事情。」

Guillen 增补说，「与任何依赖数据的技术一样，垃圾输入意味着垃圾输出。从警务中的面部识别，到资助国民保健服务 (NHS) 诊断和治疗病人，人工智能需要正确的数据和正确的治理，以制止造成比解决更多的问题。否则，任何执行都市受到道德问题和数据偏见或歧视指控的困扰。」

在美国，一些政界人士对人脸识别软件的准确性和越来越多的使用也表现担忧。一些人脸识别技术错误地识别了女性和有色人种，公民自由和隐私团体对如何收集这些项目的数据表现担忧。

但与欧盟的审慎作风差别，美国白宫在 2020 年 1 月 7 日提出 10 条人工智能羁系原则，要求制止联邦机构对人工智能应用的过分干预，强调羁系的灵活性。

其中，灵活性原则指出，大多数情况下，试图划定死板的人工智能应用规则是不切实际且无效的，因为人工智能将以预期的速度生长，机构需要对新的信息和证据做出反映。

熟悉此事的官员告诉《国防一号》(Defense One)，美国国防部 (Defense Department) 也将很快制定一套详细的规则，以治理如何开发和使用人工智能。2019 年 10 月，美国国防创新委员会 (DIB) 公布了一份规则草案，名为「关于人工智能的道德使用的建议」。

「国防部已经进入接纳人工智能原则的最后阶段，这些原则将在美国军方全面实施。」五角大楼团结人工智能中心 (Joint Artificial Intelligence Center) 讲话人阿罗·亚伯拉罕森中校 (Lt. Cmdr. Arlo Abrahamson) 说。

DIB 的指导目标和附带的实现目标，远远超出了谷歌、Facebook 和微软等科技巨头公布的有关人工智能的简短而基本上是肤浅的愿景声明。一些人工智能和武器领域的伦理学家和学者对美国国防部接纳人工智能的消息表现接待，但他们增补称，这方面另有进一步的事情要做，人工智能在军事上使用的风险和担忧仍将存在。

参考资料：

欧盟拟在公开场合禁用人脸识别五年，防止滥用. (n.d.). Retrieved February 24, 2020, from https://www.secrss.com/article/16692

EU plans new rules for AI but experts seek more detail. (2020, February 19). BBC News. https://www.bbc.com/news/technology-51559010

Pentagon to Adopt Detailed Principles for Using AI - Defense One. (n.d.). Retrieved February 24, 2020, from https://www.defenseone.com/technology/2020/02/pentagon-adopt-detailed-principles-using-ai/163185/?oref=d-channelriver

UK govt 'failing on openness' around public sector AI – but specific regulator not the answer—AI News. (n.d.). Retrieved February 24, 2020, from https://artificialintelligence-news.com/2020/02/11/uk-govt-failing-on-openness-around-public-sector-ai-but-specific-regulator-not-the-answer/

更多精彩内容，关注钛媒体微信号（ID：taimeiti），或者下载钛媒体App