社群媒体平台正在泄露你的隐私。
一张自拍照就能辨识出姓名、电话、住在哪里，这对脸部辨识技术来说，可能不是什么难事。换句话说，只要能取得照片资料，脸部辨识技术就能轻松取得个人敏感资料。
如今，我们在社群媒体大量曝光，取得照片资料也很容易。之前美国脸部辨识公司便建立约有 30 亿张影像的超大容量脸部数据库，均从 Facebook、Venmo、YouTube 等社群媒体取得。
无处不在的脸部辨识技术和未经授权取得资料已对个人隐私造成严重威胁。面对这些威胁，芝加哥大学 Sand Lab 团队提出新思路──或许可为照片穿上“隐形斗篷”！
脸部辨识的克星 Fawkes
Fawkes 已让旷视、微软、亚马逊等公司的脸部辨识算法失灵。Fawkes 正是为照片添加防辨识“隐形斗篷”的 AI 软件，经侦测，已在最先进的脸部辨识技术取得 100% 胜率。
先看一组图片。
相信很难看出两组照片有任何差别。其中一张经过 Fawkes 处理，并能误导任何脸部辨识算法。
研究人员介绍，Fawkes 软件对脸部影像进行画素级的细微变更，肉眼几乎无法察觉。任何扫描这些影像的算法都会将这些“高度失真”的图片视为完全不同的人。
且 Fwkes 处理速度很快，单张影像仅需几分钟。
如此说来，经过 Fawks 快速处理的影像，可在不改变原貌的基础上，随意分享至各大社群媒体，不必担心照片被随意取得或用于非法途径。
据了解，Fawkes 名称取自 Guy Fawkes Mask（盖伊‧福斯克面具）。此面具形象是英国插图画家大卫·劳埃德（David Lloyd）以 16 世纪英国阴谋家盖伊·福克斯的脸为原型创造，最早出现在漫画《V 怪客》。研究人员表示，透过 AI 技术巧妙地、不可察觉地变更照片以欺骗脸部辨识系统。
研究团队表示，希望 Fawkes 广泛部署使用，以降低个资泄露的风险。因此，Fawkes 完全开源，任何人都可下载使用，Windows 和 Macs 系统均有支援。据统计，已下载超过 10 万次。
Fawkes“隐形斗篷”如何做到
目前 Fawkes 软件升级到 V0.3 版。V0.3 更新目标选择算法，比 V0.1、V0.2 显著降低伪装后拍摄伪像的可能性。技术论文已经开放，论文将在 8 月 12~14 日举行的 USENIX 安全研讨会正式发表。
论文说明，研究取得以下几个关键发现。
- 以肉眼无法察觉的扰动变更影像的特征空间显示。
- 不管追踪器（Tracker ）如何训练模型，影像伪装都可为用户辨识提供 95% 以上保护。
- 使用微软（Azure Face API）、亚马逊（Rekognition）和 Face++ 的最新脸部辨识侦测，Fawkes 模型 100% 成功。
论文明确说明结果，可看到整个系统分为用户影像和模型验证两阶段。
前者是基于 Fawkes 算法生成用户影像的伪装版，后者是透过追踪器（Tracker ）从网络资源检索伪装影像，并使用它们训练未经授权的脸部辨识模型。最终可发现模型汇出影像与初始影像并不相同。
Fawkes 算法整个系统的关键，研究人员利用特征撷取器 Φ 和目标影像 T，处理初始影像伪装，这些目标影像 T 均来自可公开获得的资料集（均大于 500K）。
为了确保伪装影像视觉上与初始影像相似，研究人员采用 DSSIM 衡量两者差异，实验结果表示，DSSIM 均小于 0.007（DSSIM 是衡量用户感知影像失真程度的方法）。
此外，研究人员认为，透过提高用户特征撷取器的鲁棒性来达成可携性。这目标需要透过对抗训练完成。训练采用扰动资料训练模型，可使输入目标影像不那么敏感。具体来说，对每个特征撷取器使用 PGD 攻击（广泛用于对抗训练的方法）生成对抗范例，然后将更新后的特征撷取器用于 PubFig 和 FaceScrub 资料集，生成用户伪装影像。
结果表明，每个健壮的特征撷取器都会产生隐形斗篷（Cloaks），且这些隐形斗篷几乎完美移转到追踪器的模型。可看到追踪器使用其他特征撷取器时，隐形斗蓬的保护成功率均大于 95%。
最后为验证影像实际的伪装效果，研究人员将经过 Fawkes 处理的影像泄露给基于云端的脸部辨识系统，包括微软 Azure Face、亚马逊 Rekognition 和 Face++。
这些都是顶级脸部辨识系统，广泛用于美国和亚洲企业、警察、私人实体及-。结果来看，Fawkes 对影像的保护率达到 100%。
- This Tool Could Protect Your Photos From Facial Recognition
- Cloak your photos with this AI privacy tool to fool facial recognition
（本文由 雷锋网 授权转载；首图来源：shutterstock）
延伸阅读：
- 美国药局零售巨头秘密使用脸部辨识系统达 8 年，重点针对有色人种
- 研究：戴上口罩，大部分脸部辨识算法就失效
- 拥有 30 亿张图片的脸部辨识新创遭骇客入侵
