5 月,旧金山对脸部辨识技术发出禁令,禁止在-机关和执法机关使用,成为全球首座对脸部辨识技术发出禁令的城市。
不过,美国社会对脸部辨识技术的反对不只旧金山。近期,加州奥克兰市正在考虑推行与旧金山类似的法律,同时,马萨诸塞州也正考虑中止脸部辨识,直到这项技术再提高。
问题来了:美国越来越多城市在禁止或暂停使用这技术,究竟是为何?
有缺陷的脸部辨识技术
客观来说,美国脸部辨识技术一直走在前端,并在商用层面已有动作。亚马逊早在 2016 年就推出脸部辨识软件 Rekognition,类似的产品还有 Google 云 Vision API、IBM Watson Visual Recognition 和微软 Face API。
尽管如此,目前的脸部辨识技术还无法百分之百准确。2018 年,纽约时报文章就指出,如今非常热门的 AI 应用脸部辨识,针对不同种族的准确率差异很大。对黑人女性的错误率高达 21%~35%,而白人男性的错误率则低于 1%──这在美国可说是非常政治不正确。
另外值得一提的乌龙事件是:亚马逊 2016 年推出影像辨识 AI 系统 “Rekognition”,曾将 28 名美国国会议员辨识为罪犯,让美国社会一片哗然,也对脸部辨识充满质疑。
中国科学院自动化研究所的张晓波博士曾表示,照明、姿势、装饰等都会对机器脸部辨识产生影响,对于非合作情况下的脸部影像采集,遮挡问题非常严重。
特别是监控环境,被监控对象可能戴眼镜、帽子等,使撷取脸部影像不完整,影响后续特征撷取和辨识,甚至导致脸部侦测算法无效。
虽然脸部辨识算法大小随着脸部数据库增加而减少,但如何在大规模应用环境维持或提高脸部辨识算法辨识率,也是非常重要的问题。
你的脸到底属于谁?
安全性方面,脸部辨识技术也面临广泛的质疑。
比如说,由于脸部辨识的资讯储存仍然基于电脑可辨识的语言,即数位或特定程式码。随着这些资料价值提高,骇客攻击的风险也会越来越高。
脸部辨识技术背后的支撑是资料,如果这些隐私资料被窃取,你的脸可能就不属于自己,变成属于任何人。
同时如前面提到,脸部辨识技术对不同种族有不同准确率,无论论文作者研究还是厂商实验,都明确发现女性深色人种辨识误差率更高。种族歧视为美国社会非常敏感的话题,如果脸部辨识技术的相关法律还未完善,那么,脸部辨识技术依然处于争议。
更大的争议在于,美国社会群体对“被监控”的反感和忧虑。
亚马逊及其他科技公司也与美国警方合作,将脸部辨识技术应用于监控和警察穿戴的相机镜头。包括俄勒冈州等众多美国州立-已成为 Rekognition 的客户。
亚马逊脸部辨识软件 Rekognition 能即时辨别、分析和追踪,能在几秒钟将收集的资讯和数据库成千上万个影像比对。执法机关已将技术应用于搜寻失踪人口和辨识恐怖攻击嫌犯。
然而,美国公民自由联盟(American Civil Liberties Union,ACLU)曾上书-:亚马逊应该停止提供美国-强大且“危险”的脸部辨识系统。
上书后不久,将近 20 家亚马逊的股东机构寄信给 CEO Jeff Bezos,担忧亚马逊 Rekognition 用于执法部门带来的问题和影响。
股东写到:
亚马逊股东担心这类-监视设施技术,不仅可能对全国用户和其他利益相关者构成隐私威胁,而且可能提高公司面临的实质性风险,为公司股价带来负面影响,并为股东增加金融风险。
股东还担心,Rekognition 可能违反女性、有色人种、移民及其他边缘化群体的民权,这些人特别容易成为警方关注的目标。
不仅亚马逊股东认为 Rekognition 会对隐私造成侵犯,美国民众也有类似看法。将脸部辨识技术应用于前端监控摄影机,可能会打破隐私及实用性之间的平衡。
假设美国警方有若干台这类安防摄影机,同时拥有可疑人员的“黑名单”照片库,那么其他任何人如果与这些可疑人员有些相像,一旦进入警察的安防摄影机范围,都有可能遭警务人员盘问。大多数美国人不希望生活在那样的世界里。
不仅亚马逊 Rekognition 陷入争议,美国海关和边境保护计划同样因为应用脸部辨识技术而颇受非议。
这项计划透过云端脸部生物辨识系统辨识旅客。这种资讯比对服务旨在取代人工海关,将需要出示纸本证件的流程改为自动辨识。
此脸部辨识系统旨在快捷。且美国海关和边境保护局(U.S. Customs and Border Protection,0CBP)认为,比对护照照片和脸部时,电脑比人类更准确。40 天内,系统已在华盛顿杜勒斯机场协助发现 3 名冒名顶替者。
但这项技术可在不知情的情况下使用,脸部辨识系统收集的不可变资料,也就是脸部资讯。这引起人们的担忧。如果某人资讯一直存在系统里,系统便可以一直追查这个人的行踪。
甚至 CBP 未征询大众意见,就在机场施行,突破了美国法律的界限。
CBP 强调,这技术不是为了监视,实施也符合法律规定。美国公民可选择结束该计划,照片不会长期保留。不仅如此,CBP 还声明,证明有许多法律允许收集生物特征资讯。
但隐私法专家指出,虽然 CBP 列举的法律适用非公民,但都没有明确提到涉及公民的情况。且乔治城大学隐私与技术法律中心 2017 年发表的报告称:过去 14 年可明显的看出,美国公民在该计划的相关法律一直处于缺席状态。
CBP 尚且面临质疑,更不必说其他美国-部门了。
一个社会群体接纳和融入新技术,并不一定都一帆风顺;尤其对美国注重政治正确和隐私至上来说,脸部辨识应用面临越来越严重的尴尬局面。
可以想见的是,脸部辨识在美国也许会有越来越多反对声浪,但究竟是好事与否,尚未可知。
(本文由 雷锋网 授权转载;首图来源:shutterstock)
延伸阅读:
- 旧金山禁警方用脸部辨识技术,开全美先例