华尔街日报、纽约时报在内的新闻媒体取得大量的 Facebook 内部文件,这些是由 Facebook 前产品经理 Frances Haugen 收集,并向媒体举报。新闻媒体不断从这些内部文件挖掘,其中更发现印度做为 Facebook 最大的市场,但过去这些年却充斥了仇恨言论、错误讯息以及暴力活动,而 Facebook 却未针对印度部署足够资源加以应对。
纽约时报报导举出其一案例,Facebook 研究人员在 2019 年 2 月建立新的账号,以了解做为居住在印度喀拉拉(Kerala)的民众体验 Facebook 的感受;在接下来的 3 周内,这个账号遵循一个简单规则,即是按照 Facebook 算法产生的所有推荐来加入群组、观看影片以及前往网站浏览页面。
然而结果却是动态消息(News Feed)充斥了仇恨言论、错误讯息以及暴力活动,这些全都记录在 Facebook 内部报告里,测试体验的动态消息几乎不断出现极端分化的民族主义内容、虚假消息、暴力和血腥内容,Facebook 研究人员甚至写道“我在过去 3 周内看到的死者图片比这一生所看过的还要多”。
这分内部报告是 Facebook 员工撰写的数十项研究与备忘录的其中之一,反映这个社群平台对印度的影响,在没有充分了解当地文化与政治的潜在影响下进入这个市场,并且未能部署足够资源以防一旦问题发生立即采取行动。根据一份描述 Facebook 资源分配的内部文件显示,Facebook 用于对虚假消息进行分类的全球预算中,有多达 87% 是用于美国,所以只有 13% 用于其他国家,然而北美用户仅占 Facebook 的 10% 比例。
印度拥有超过 13 亿人口,有着很深的社会与宗教分歧,并且屡屡为此爆发冲突伤亡。此外,印度用户使用多达 22 种语言,这也对 Facebook 进行内容审查带来极大的挑战;而且许多人民的数位素养有限,缺乏面对网络社群应有的同理心、思辨力以及相互尊重的观念。
Facebook 发言人 Andy Stone 指出媒体取得的一些报告内容是包含提供讨论的调查线索,并非完整的调查,也不包括个别政策建议。他表示 Facebook 为找出跨越多种语言的仇恨言论,在技术上已进行大量投资,且在自家这样的全球性平台上这类内容正在减少。
Andy Stone 也表示“针对穆斯林在内的仇恨言论,于全球呈现扩大趋势”,并补充 Facebook 正在加强执法,并且随着仇恨言论在网络上的演变而更新平台政策。
实际上,印度当地的 Facebook 用户超过 3 亿,WhatsApp 用户更超过 4 亿。Facebook 在 2020 年宣布投资 57 亿美元扩大印度当地业务,并且协助推动新兴数位经济。Facebook 于印度的管理高层是直接向首席执行官祖克柏(Mark Zuckerberg)的核心领导团队汇报业务进展,以此强调印度市场对这家公司的重要性;Facebook 于当地设有办公室、进驻员工,这与许多发展中国家的规划有所不同。
- In India, Facebook Grapples With an Amplified Version of Its Problems
- Facebook Services Are Used to Spread Religious Hatred in India, Internal Documents Show
(首图来源:Unsplash)