据外媒 The Verge 报导，近日，Google 旗下 AI 研发公司 DeepMind 宣布成立一个 AI 新部门，主要负责研究 AI 带来的伦理问题和社会问题，如自动化带给未来经济的影响等。
据了解，新部门的主要目标是帮助技术人员将伦理应用于实践，帮助社会预测 AI 的影响，并对其影响给予引导，确保 AI 造福人类。2016 年，DeepMind 开发的 AI 系统在围棋棋盘上打败世界顶尖选手，因而名声大振。
DeepMind 为新部门命名为 DMES（DeepMind Ethics & Society：伦理和社会）。新部门将于 2018 年开始就这些课题目标去研究。目前，该部门已有 8 名全职员工。不过，按照 DeepMind 的计划，该部门的员工规模将在一年时间内增至 25 名左右。
为了壮大团队，DeepMind 还从外部学术机构和慈善机构聘请一些顾问，为新部门提供咨询服务，包括哥伦比亚大学发展学教授 Jeffrey Sachs、牛津大学 AI 教授 Nick Bostrom、气候变化活动专家 Christiana Figueres。
DMES 联合主管 Verity Harding、Sean Legassick 在公告部落格表示，这些专家不只精通专业技术，还可以带来多样化的思考。同时，他们还表示，DMES 将帮助 DeepMind 探索和了解 AI 带给现实世界的影响。“如果 AI 技术要服务于这个社会，那么，必须经受社会的优先事项和关注重点的重塑。”
据了解，新部门届时还将与有着类似研究目标的学术团体合作，如纽约大学 AI Now Institute 和剑桥大学未来智慧研究中心（Leverhulme Centre for the Future of Intelligence）等。
事实上，2014 年 DeepMind 被 Google 收购时曾承诺要建立一个“AI 伦理委员会”。与新部门不一样，该委员会主要用以监管公司所有 AI 研究活动。不过，自收购以来该伦理委员会并没有多大作为。特别是 2016 年，DeepMind 与英国国民健康服务局（NHS）合作时，受到大众的大肆批评，这让其进一步认识 AI 伦理问题的重要性。
2015 年，DeepMind 和伦敦 3 家医院达成合作，处理其中 160 万名患者的诊疗数据。2017 年，该行为被英国数据监督机构判定为非法，因为该公司没有通知个人他们的数据已被使用。DeepMind 后来表示，他们低估了“NHS 的复杂性和患者资料的规则”，并聘请新的独立伦理审查员来监督未来任何交易。
虽然 DMES 的成立主要是基于 DeepMind 考虑和重视 AI 带来的伦理问题，但目前为止，该公司的内部伦理审查员依然笼罩着神秘面纱。据了解，新部门将与 DeepMind 产品部门并行营运。未来，新部门聘请哪些审查员、多久进行一次会议、主要讨论哪些要点、又有哪些形式……关于这些问题，只能在未来慢慢寻找答案。
- DeepMind launches new research team to investigate AI ethics
（本文由 雷锋网 授权转载；首图来源：DeepMind）
