美海关宣布人脸识别将代替安检!算法偏见问题仍在

2020-10-13 10:34 来源:智东西

本周美国海关及边境保卫局宣布将在更多机场中实行“简化到达”计划,即通过人脸识别验证乘客身份,加快安检速度和防止非法入境。

ec8ad15abedf4330bfec5461bc203c4b.jpg

美海关宣布人脸识别将代替安检!算法偏见问题仍在

这与特朗普在三年前定下的目标相关:2017年3月,特朗普总统发布行政命令,要在2021年前,在美国最繁忙的20个机场实现所有旅客“100%人脸识别”。

尽管这将带来更高的乘机效率,但从此前美国民众对数据隐私的重视程度来看,人脸识别算法所涉及的数据安全、种族偏见等问题,将是持续受到关注和讨论的焦点。

一、计划已启动四年,逾5300万乘客参与

美国海关及边境保卫局(U.S. Customs and Border Protection,以下称美国海关)在本周宣布扩大其“简化到达”(Simplified Arrival program)计划,即通过人脸识别来验证航班乘客的身份。在底特律和休斯顿机场的人脸识别设备安装完成后,“简化到达”计划还将被部署到旧金山国际机场和诺曼·米内塔·圣荷西国际机场。

早在2016年,美国海关就开始筹划该计划:耗资10亿美元启动生物识别出入境计划(Biometric Entry-Exit Program)。通过与达美航空、捷蓝航空等航空公司的合作,美国海关可以访问其舱单以及来自入境检查、美国签证和美国国土安全部的照片,用于建立人脸识别数据库。

机场的照相亭会拍摄实时照片,并将其与数据库中的照片进行比较,尝试识别匹配。如果数据库中没有照片可匹配,系统则会将实况照片与护照和旅行证件上身份证的照片进行比较。

按照美国海关的说法,国际航班旅客会在检查点停留拍照,如果没有在数据库中找到匹配照片,则还需经历传统的安检流程。

美国海关表示,迄今为止,已有超过5300万乘客参加了生物识别出入境计划,自2018年9月以来,该计划已经阻止了近300名冒名者非法进入美国。

但包括“简化到达”在内的一系列有关生物识别的项目仍然存在信息不完整、隐私安全和潜在歧视等问题。

二、数据库还不完整,信息安全、算法偏见存在隐忧

美国政府问责局(Government Accountability Office,下称GAO)审计发现,美国海关数据库中的信息不总是完整的,并于2019年11月联系了美国海关的信息运营商,解决有些机场的标志牌过时、丢失或遮挡等导致无法找到安装设备的位置的问题。

此外,美国海关在收集如脸部图像等生物特征数据后,后续对数据的安全保障也令人担忧。通过“简化到达”获取的美国公民照片将在12小时后删除,而大多数外国公民照片将被存储在国土安全部的数据库中。

去年6月,外包公司Perceptics的违规行为导致包括乘客和车牌在内的超过184000张照片泄露。美国海关也承认了数据泄露,但称没有在暗网上发现相关图像。另据美国国土安全部9月份的监察长报告,其中至少有19张照片在网络上流传。

但毫无疑问的是,数据库中的相关数据已经泄露,且美国国土安全部9月份的监察长报告指出,其中至少有19张照片在网络上流传。

虽然目前尚不清楚美国海关的人脸识别系统在多大程度上对某些群体产生偏见,但在2019年5月至2019年6月进行的测试中发现,系统错误地识别了0.0092%离开美国的乘客,而通过美国海关的国际旅客日均超过200万,如果错误率乘以乘客总量,错误识别人数会更加惊人。除了系统本身的误判,其他由于相机故障、参数设置不正确以及其他因素,离境乘客照片中仅80%符合识别要求。

结语:美国多城已禁人脸识别,“算法公平”仍需努力

尽管美国海关“简化到达”计划存在一定争议,但美国运输安全管理局(the U.S. Transportation Security Administration)已经宣布,它也将开始在其他机场进行试点,通过身份证照片识别乘客,以达到美国联邦政府的目标:在2021年前对包括美国公民在内的出入境旅客达到“100%识别”。

随着黑人平权运动蔓延,美国越来越多的城市和州对人脸识别技术及其应用可能会带来的种族偏见感到担忧。

加利福尼亚州的奥克兰市、旧金山市和马萨诸塞州的萨默维尔市禁止执法人员使用人脸识别技术等功能。纽约最近也通过了一项在学校中暂停使用生物识别技术至2022年的规定。在俄勒冈州的波特兰,除了机场在其他公共场合禁止使用人脸识别技术。

虽然在机场、火车站等交通枢纽使用人脸识别技术加快安检流程是大势所趋,但如何保障识别过程中数据安全,以及维持人脸识别算法的“中立性”将会是决策者和研究人员共同探讨的问题。

责任编辑:潘一大