戴口罩的人脸识别“侵监犯权”？全球人工智能治理需要对话

新冠肺炎疫情期间，海内人工智能企业实现了戴口罩人脸的高识别率，却因为被质疑“侵监犯权”不能在一些西方国家举行宣传。今天上午举行的《全球人工智能治理年度视察2019》公布会上，商汤科技战略拓展总监杨向荣先容的情况引起专家热议。上海市科学学研究所所长石谦研究员表现，这与关于强制性戴口罩的争议一样，都体现了中西方文化差异。

上海学者主导撰写的《全球人工智能治理年度视察2019》正是为了增强各国专家交流，通过中西方执法、伦理、技术等层面的对话钻营共识，推进人工智能治理领域的全球互助。

图灵奖、诺奖得主到场撰写

据石谦先容，《全球人工智能治理年度视察2019》是全球首份由全球业内顶级专家配合到场撰写的人工智能治理陈诉，也是首份由我国智库提倡、全球到场的人工智能治理陈诉。清华大学战略与宁静研究中心主任傅莹、图灵奖获得者约翰·霍普克罗夫特、诺贝尔宁静奖获得者伊莱克利·伯利兹、欧洲议集会员伊娃·凯利、美国人工智能协会2021主席杨强、美国人工智能协会2020主席弗朗西斯卡·罗西等50位来自全球人工智能治理的研究重镇或重要组织机构的专家到场撰写。

“我们判断，2019年之后的未来几年，将是全球人工智能治理体系形成的关键期。”上海市科学学研究所科技与社会研究室主任王迎春说。《全球人工智能治理年度视察2019》显示，治理主体去年全面到位，重要国际组织和国家、地域政府连续公布准则。除了团结国组织的相关运动，经济互助与生长组织（OECD）、二十国团体（G20）等国际组织纷纷将人工智能治理列入重要议题。欧盟委员会人工智能高级专家组公布了《人工智能伦理指南》和《人工智能政策与投资建议》，为欧洲人工智能治理勾勒了一个全面蓝图。中国科技部、美国国防部公布的人工智能伦理指南，新加坡推出的人工智能治理框架等也受到广泛关注。

2019年，人工智能治理规则的执法效力在增强，“硬法”逐渐增多。在美国，加利福尼亚州要求把所有试图影响加州住民投票或购置行为的自动在线账户公然标识为“机械人”；旧金山等地出台执法，克制人脸识别应用，对这种应用比力普遍的技术举行了直接规制。

戴口罩人脸识别“低调”出口

作为海内一流的智能视觉企业，商汤在“走出去”历程中遇到了中外治理差异的问题。新冠肺炎疫情发生后，这家企业增强技术研发，到达了很高的戴口罩人脸识别率。在办公楼宇，他们开发的收支口通行模块无需上班员工摘下口罩，即可完成人脸识别考勤，露出50%鼻梁时的通过率到达85%。这种模块还能识别口罩，上班员工只有戴上口罩，设备才会予以放行。“不外，我们在一些国家是不能宣传戴口罩人脸识别率的，外国人质疑说，戴上口罩还要识别人脸？这是侵监犯权。”杨向荣说。

公布会上，这一情况引起了专家热议。在不少专家看来，疫情期间戴口罩很有须要，而在上班考勤等场景中，人脸识别是应用广泛的先进技术，所以提升戴口罩的人脸识别率是一种很有价值的技术革新，不应该将它与人权挂钩。石谦认为，“这体现了文化差异，和疫情期间许多西方人不愿戴口罩，认为强制戴口罩‘侵监犯权’是同样原理。”

企业成为人工智能治理重要主体

文化差异是各国、各地域人工智能治理差异的重要原因之一。与文化差异相关的另有执法法例、伦理规范上的差异。杨向荣表现，商汤有团队专门研究各国和各地域的执法法例，以规避进入当地市场后的潜在风险。“好比，我们进入欧盟市场前，就要研究欧盟在人工智能、数据隐私等方面的执法、政策等规范性文件。我们还在团结国可连续生长框架下，努力到场团结国是务，因为人工智能也是全球可连续生长的一个重要领域。”

上海市科学学研究所副研究员李辉认为，商汤的努力作为讲明，企业正在成为越来越重要的人工智能治理主体。2019年，海内外一些企业主动通过技术研发、尺度制订等手段，防止人工智能技术被非法分子滥用。

在美国，谷歌公布了一个数据集，资助相关机构检测合成声音，预防语音造假；脸书和人工智能同伴等组织提倡了“深度造假”视频检测角逐，促进假视频检测技术水平的提升。在中国，商汤设立了人工智能伦理委员会，探索与欧盟委员会、OECD等组织的相同互助，推动全球跨政府之间告竣人工智能治理和伦理方面的原则协议；作为中国人脸识别国家尺度组的组长单元，商汤正在牵头或到场制订一系列国际尺度、中国尺度和海内行业尺度，以规范人脸识别等视觉智能技术的生长和应用。