迄今最全面研究发现：即使顶级人脸识别算法，依然存在偏见

　　今朝，人脸辨认体系在法律、领土节制和其他社会应用规模的行使正在敏捷增添。之前就有几项学术研究表白，人脸辨认算法在风行的贸易系统存在种族和性别成见。

　　最近，美国联邦当局一项新的研究证实了这些早期功效。按照美国国度尺度与技能研究院(NIST)的研究，天下上很多顶尖的面部辨认算法都存在年数、种族和民族成见。研究表现，今朝市场上出售的算法辨认某些特定人群的错误率是辨认其他人群的100倍。

图 | 领土警员搜查护照(来历：麻省理工科技评述)

　　NIST暗示，他们的“尝试数据”表白，年数、性别和种族等特性会影响“大大都”算法的精确性。该小组测试了来自99个组织的189种算法，这些算法为环球大大都面部辨认体系提供支持。

　　据《华盛顿邮报》报道，立法者称该研究功效“令人震惊”，并号令美国当局从头思量行使该技能来掩护领土安详的打算。

　　“令人震惊”的研究功效

　　NIST研究了今朝在美国当局应用中行使的四组面部数据: 美国住民的面部照片;申请移民福利人士的申请照片;申请签证职员的申请照片，以及穿越领土进入美国的申请照片。

　　总的来说，数据库包罗了 1827 万张图片，涉及 849 万人，是迄今为止最全面的评估。

　　这项研究测试了“一对一”辨认和“一对多”搜刮。“一对一”就是把或人的照片与数据库中统一小我私人的另一张照片举办匹配，它一样平常是用于解锁智妙手机或法律部分搜查护照;“一对多”则是将某小我私人与一个更大数据库中的单个记录匹配，这常常被警员部分用来在观测中辨认怀疑犯。

　　在一对多的搜刮中，非裔美国妇女最常被错误地辨认，而亚洲人、非裔美国人、印第安人和平静洋岛民在一对一的搜刮中常常被错误辨认。儿童和晚年人的错误辨认率也相对更高。在某些环境下，亚裔和非裔美国人被错误识此外概率是白人的 100 倍。一样平常来说，中年白人男性的精确率最高。

　　人脸辨认还没做好筹备

　　研究功效进一步证明，天下上很多最先辈的面部辨认算法仍不具备在法律和国度安详等要害规模行使的前提。NIST 的研究是迄今为止最全面的评估，观测功效对这些体系是否应该继承云云普及地行使提出了疑问。

　　NIST 研究测试的算法是这些组织自愿提交的。但向内地警方和联邦观测职员贩卖Reko面部辨认软件的亚马逊并没有提交相干算法。此前就有研究对亚马逊面部辨认体系的精确性提出了忧虑。

　　2018 年 7 月，美国国民自由同盟(AmeriCAN Civil Liberties Union)测试了亚马逊的面部辨认体系，功效体系将28名国集会会议员辨认成了罪犯。人工智能研究职员号令亚马逊遏制贩卖其“有缺陷”的体系。但亚马逊声称，它的软件不是 NIST 的测试可以等闲说明的（尽量拥有相同产物的科技公司提交算法是没有题目的），其股东也抵抗了要求限定Reko贩卖的呼声。

　　要尊重人们的安详和隐私

　　专家暗示，这些算法中的毛病可以通过行使更多样化的实习数据来镌汰。譬喻，研究职员发明，亚洲国度开拓的人脸辨认算法示意更好，在亚洲人和白人之间的错误率不同很小。

　　然而，纵然办理了算法成见，也不能办理面部识此外全部题目，由于这项技能的行使方法没有尊重人们的安详和隐私。

　　Joy Buolamwini 是一绅士工智能研究职员，他在客岁接管采访时暗示，他一向在研究面部识此外成见题目。“成长面部辨认技能并将其兵器化有什么甜头？技能应用不能离开其社会影响，”他说。

　　此刻，必要政策拟定者来找出禁锢这些技能的最佳方法。NIST还催促人脸识此外开拓者举办更多的研究，以镌汰这些成见。

（编辑：河北网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!