我们都知道生活中常使用的 Google、Facebook 这类网络服务，会无时无刻搜集你我的资料，但如果这些数据会进一步影响你的思绪、行为，那么是不是就有如探讨人性黑暗层面与科技冲击的英国影集《黑镜》的场景，令人感到恐惧不安呢？
最近 Google 一支内部影片《自私的账本》（The Selfish Ledger）外流，当中描述透过个人不断累积的数据资料，进一步影响用户目标、思绪、行为，甚至可以借由引导群体行为的改变，来改善气候、贫困、疾病这类棘手的全球问题，而这种使用数据的手法，真的会是我们的未来吗？
记录个人资讯的“数据账本”
先前闹得沸沸扬扬的剑桥分析滥用个资事件，以及将于 5 月生效的欧盟通用资料保护协议（GDPR），都让握有大量用户数据的公司，在处理攸关隐私的数据、资料时更加谨慎小心。
最近一支名为《自私的账本》（The Selfish Ledger）的 Google 内部影片外流，影片是 2016 年由 Google X 实验室（Google X）主管 Nick Foster 制作，影片标题是致敬英国演化生物学家理查‧道金斯 1976 年的知名作品《自私的基因》，书中描述一种演化的想像，认为物种的进化是为了提升“整体适应度”，将自己好的基因尽可能多传给整个群体，目的是要让整个群体朝进化稳定策略（evolutionarily stable strategy）前进。
▲ Google 内部外流影片《自私的账本》（The Selfish Ledger）。
这支将近 9 分钟长的影片中，先由生物学家拉马克（Jean-Baptiste Lamarck）的演化理论谈起，概念是生物会将经过“内部编码”的基因传给下一代，借此来形塑生理特征。影片描述，当今大众使用手机，其实就是一个不断改变自我的过程，这些行为数据会累积成一“账本”，一旦这种档案被建立，数据就能改变一个人的行为，甚至还能在用户之间转移，这个概念就跟上面提到的演化理论相呼应。
以完成目标为导向，连缺漏的数据也能补
回想一下，我们平常用手机的状况，任何适用的习惯都会变成数据纪录，从数据就能看出一个人的行为、决定、喜好之间的关联，影片观点认为，记录我们个人资讯的“数据账本”，就像是“拉马克式表观基因组”（Lamarckian epigenome），是一个关于我们自己、不断演化的一种呈现方式。
如果数据不仅单纯记录，而是给予一个明确的目标，建立丰富的数据账本，是不是有可能透过影响群体，进一步改变世界呢？
例如，假使你的目标是要减肥，系统一旦侦测到你用手机叫外送，就会优先推荐你购买健康食物，让你吃得更健康、保护环境、支援地区小店等，来反映 Google 本身的价值；或是用手机叫车时，也能透过数据引导用户，尝试更环保的交通方式。
▲ 系统在叫车时推荐共乘服务 Uber Pool、叫外卖时推荐在地小农的香蕉。（Source：影片截图）
不过比较可怕的是，即便系统缺少关键数据，也能透过影响用户行为来填补，例如延续刚刚的减重目标，系统一直没能掌握体重资料，为了填补这个空白，数据账本会开始搜寻可以测量这项数据的装置，像是数据账本就会一直推荐你去购买体重计，甚至透过 3D 打印，直接做一台体重计给用户，借此取得体重数据，增加对用户的理解。
▲ 缺少体重资料，数据账本就会推荐用户去购买体重计。（Source：影片截图）
数据累积，就像是不断演化的基因
这套概念中，数据账本是“目标导向”，影片想像的未来，数据账本能不断学习、填补空白知识，从决策建议、行为改变都会由受目标驱动的数据账本执行。
制作影片的 Nick Foster 认为，“借由代代相传的用户数据，新用户可从上一代行为和决策受益”，因此这套系统就像不断演化的基因，借由挖掘人类行为模式数据，像基因组一样排序，就能对未来的行为做出更准确的预测，甚至理解人类面对抑郁、健康、贫困背后的原因，再透过影响用户的日常行为，让所有人类的行为模式更加完善。
▲ 制作影片的 Nick Foster 认为，“借由代代相传的用户数据，新用户可以从上一代行为和决策受益”。（Source：影片截图）
能做到这样的未来，是因为 Google 拥有接收庞大用户资料的权限，影片没有对隐私问题多着墨，当数据账本喂养的胃口越来越大，无形之中将影响你我的决策、行为、思绪，宛如影集《黑镜》的场景，这才是让人看了这部影片后，感到恐惧、不适的原因。
这样的概念真的会实现吗？Google 发言人表示：
我们知道影片让人很不安，但这正是影片的目的，这是设计团队多年前的思想实验，采用“思辨设计”（speculative design）的技巧探索令人不舒服的想法和概念，目的在激起讨论及辩论，影片跟目前或未来研发的任何产品都无关。
从 Google 专利，看见数据账本影子
话虽如此，但 Google 现在提供的服务，某种程度也在左右你我的决策，像是 Google Maps、Google Assistant、Gmail，都是透过分析用户数据，根据所在位置、过往喜好，推荐用户路线、餐厅、分类信件等。
另外，Google 在 2015 年申请的一项专利也很有“自私的账本”（The Selfish Ledger）的影子，这款专利名称为“检测及纠正用户行为的潜在错误”，这套系统会根据 Google 所掌握的用户资讯，纠正用户的行为。例如，你正在开车前往参加一场晚宴，系统已从 Gmail 掌握活动时间、地点，一旦行径方向错误，手机就会发通知提醒用户，在你完全没有开导航、Google Maps 的情况下，就能修正用户行为。
尽管 Google 强调这支影片跟任何旗下产品都无关，但从概念也不难窥见 Google 使用数据的野心，这种让人感到不安、被数据影响行为决策的未来，尽管不会现在就实现，但也提供了人们对照，提醒数据使用确实存在的黑暗面。
这部影片扁平的旁白配音、重复循环的钢琴伴奏配音，加上冷色调的画面，让人有如看《黑镜》番外篇，成功营造一股让观众不安的气氛，不仅资讯让人感到恐惧，影片拍摄手法也成功跟主题相扣，难怪 Google 发言人会说：“我们知道影片让人很不安，但这正是影片的目的。”
- A leaked internal Google video shows a creepy vision of how data could be used to direct human decision-making
- GOOGLE’S SELFISH LEDGER IS AN UNSETTLING VISION OF SILICON VALLEY SOCIAL ENGINEERING
- Google’s Hypothetical ‘Selfish Ledger’ Imagines Collecting All Your Data to Push You to Change Society
（本文由 数位时代 授权转载；首图来源：pixabay）
