Facebook 算法到底有多可怕？据 Facebook 吹哨人 Frances Haugen 公布资料显示，Facebook 早在 2019 年 2 月做过相关实验，在印度设立测试账号，观察自家算法如何影响这成长最快、最重要的海外市场，想不到结果竟连公司员工都震惊了。
Haugen 先前指控，Facebook 明知道 Instagram 危害年轻人精神甚至心理健康，却故意淡化负面影响，现在她又公布一份 46 页研究笔记，指出算法的可怕，因为 Facebook 设立的测试账号页面，仅三周就充斥假新闻和煽动性照片，包括斩首、暴力场景及印度空袭巴基斯坦的假照片，“逗人开心”社团竟出现 300 名恐怖分子在巴基斯坦爆炸身亡的假新闻。
研究人员写道：“我在过去三周看到的死人照片，比我一生看到的总和还多。”
这项测试起初是设计注意 Facebook 推荐内容，测试账号身份是使用印度海德拉巴、住在斋浦尔的 21 岁女性资料，且只关注 Facebook 推荐的网页或社团，但印度实验表明，Facebook 全球传播有害内容的问题可能更严重，因内容审核花的钱大都集中英美语系媒体。
但 Facebook 主要成长市场来自印度、印尼和巴西等，所以一直应征有语言能力的人做基础内容监督，但印度拥有 13 亿人口和 22 种官方语言，因此实际运作更困难，Facebook 目前倾向将监督内容外包给承包商。
Facebook 发言人表示，公司已大量投资技术，并找到各种语言的仇恨性言论，包括印度语与孟加拉语，因此今年看到的仇恨言论数量减少一半，降至 0.05%。然而穆斯林等群体的仇恨言论全球都呈上升趋势，所以 Facebook 将尽量随网络仇恨言论演变更新政策。
语言成为 Facebook 审核仇恨内容的绊脚石？
路透社报导，更多内部消息揭露，Facebook 明知没有雇用足够工作人员，他们既要有语言底子，又要了解当地事件，才能即时了解这些仇恨文章。此外辨识、移除此类内容的人工智能系统往往无法胜任这项工作。
员工于文件提到，这些问题可能妨碍公司原本的承诺，即阻止阿富汗、也门等地的仇恨言论或其他违反规则的资讯传播。
虽然 Facebook 长期将 AI 系统和人工审查视为解决平台危险内容的方式之一，但除了美国、加拿大和欧洲，其他地方的语言对 Facebook 自动审查功能可说相当头痛。据一份文件显示，2020 年 Facebook 筛选算法无法辨识缅甸语错误，以及埃塞俄比亚的奥罗莫语（Oromoo）或阿姆哈拉语（Amharic）的仇恨性言论。
这些偏激文章恐在 Facebook 不断流窜，最终激化公司认定的“高风险国家／地区”，导致冲突大增。
Facebook 发言人表示，公司现在有主动辨识技术，检测奥罗莫语和阿姆哈拉语的仇恨言论，并雇用更多有语言基础、了解国家关系的专业人士，包括缅甸和埃塞俄比亚工作的人。不过他也承认，审核阿拉伯语系内容是相当大的挑战，因此 Facebook 过去 2 年还特地投资员工。
目前主动辨识技术可辨识 50 多种语言的仇恨性言论。Facebook 指出，公司会根据市场规模和风险进行评估，决定在哪里建置人工智能系统；还会有 15,000 名审核人员把关全球用户内容，“增加更多语言专业知识一直是我们的重点”。
- In Just 21 Days, Facebook Led New India User to Porn, Fake News
- Facebook knew about, failed to police, abusive content globally
（首图来源：Unsplash）
延伸阅读：
- 吹哨人公布文件揭 Facebook 四大危机，怕得罪名人账号审查标准不一
- 继 Google 滑铁卢之后，Facebook 为何还敢做“智慧眼镜”？苹果也会跟进吗？
- IC 设计厂搭元宇宙列车！骅讯、义隆卡位供应链
- 仇恨言论与假消息充斥印度网络社群，外媒揭 Facebook 未有足够资源应对
