欢迎光临KOTOO财情




国外父母开始用 AI 审查保母了,但似乎不太可靠

2024-11-27 225

找保母是棘手事,因为要从几面之缘判断一个陌生人能否照顾不具自理能力的老人或小孩从来都不容易。

现在,人工智能要来帮我们做决定了。

柏克莱大学的创业团队 10 月正式推出 Predictim,一种帮助父母筛选保母候选人的服务。

Predictim 会扫描一遍保母候选人的 FacebookTwitter Instagram 等社群网络账号内容,做成一份包括“嗑药、欺凌/骚扰”等可能性评估的《安全报告》。

(Source:Predictim)

每个人最重视的都是孩子及所爱之人的安全。我们的目标是透过向父母提供所需工具来缓和这种焦虑,并为他们所爱之人找到最值得信任和可靠的护理者、钢琴教师、家教等。

Sal Parsa 说,他和 Joel Simonoff 联合创立的 Predictim 显然想将这项服务延伸从保母至任何一切和信任相关的私人雇用服务。看“大饼”前,我们不妨先了解一下用过服务的家长怎么看。

父母喜闻乐见,但也心存疑虑

社群网络能体现一个人的个性,但为什么她(的欺凌指数)是 2 分而不是 1 分呢?

Jessie Battaglia 对《华盛顿邮报》说。她是一位 29 岁的母亲,她用 Predictim 测试了一下 1 岁儿子的保母。

这个一次 24.99 美元的服务告诉她,她很满意的保母在“欺凌、骚扰、态度不好和不尊重人”方面拿到 2 分,5 分为最危险。这下子让原本心满意足的她担心起来,却无法亲自检查到底是什么因素导致保母“得高分”。

另一位母亲也遇到类似情况。在她看来,这个服务的问题在于,她无法判断算法究竟是搜寻到候选人在社群网络参考一些电影台词或歌词等流行文化用语,还是真的找到能反映候选人有欺凌倾向的发言。

同时 Battaglia 儿子的保母 Malissa Nielsen,也就是被打了“2 分”的 24 岁女孩,对这个服务很不满:

电脑并没有情感,又怎能评判所有事情?

Nielsen 每周去一次教堂,一句粗话都不说,现在正在攻读早期教育专业,以后还希望开一家幼稚园。她明白父母想多了解照顾孩子的人,但也对自己有信心,所以沟通后同意让两个聘请她的家庭看她的社交账号,但并不知道他们会用算法评测。

需要说明的是,欧美当保母的大多都是年轻人。你可以说社群网络记录了很广泛的个人资讯,但发表的内容包含很多“哏”或讽刺的话,算法会不会误解?

鉴于算法评测过程就是“小黑箱”,没有人确定是什么影响算法判断。

这也是为什么 Parsa 说这份测试应该是辅助资料,“结果可能准或不准反映保母的真实个性。”

薛定谔猫的信任和难以察觉的歧视

看到这里,你也许会说“别用就好啦!”但换位思考,如果需要请陌生人当保母,有这种工具帮你侦测,你能否忍住?据保母中介平台 Care.com 调查50% 父母最后没为孩子找保母就是因为找保母的过程压力太大,难以掌控。

一旦走上“我先测试看看,再判断准不准确”,就会走进“薛定谔猫的信任”领域。

如果你要用这工具,但保母不愿意给社交账号授权,那你会怀疑他们是否有隐情(即便人家只是重视隐私);如果你很喜欢这个保母,却像 Battaglia 莫名测出“2 分”,你也控制不了怀疑和担忧,即使这个分数准确度无从断定。

此外,不少人工智能领域专家更担心的是,这类别的算法很可能会默默增强各种歧视问题,亚马逊的人工智能算法引擎之前就爆出性别歧视:它不喜欢女性应征者。

由于亚马逊的招聘算法最开始的训练素材是公司过去十年来的履历,由于科技业原本就是由男性主导,所以算法也学到这个不成文定律,主动给含有“女性”关键词的履历评低分。

现在,亚马逊放弃了招聘算法,但新创公司 Fama 为上百家员工人数超过 1 千人的公司提供服务,评估员工和潜在雇员的社交账号资讯。稍微好点的是,Fama 会整理一份“问题发言”连结报告,公司可自行判断审查。

从这个角度来看,Fama 像“筛选”,Perdictim 则是“判断”。但没有“问题推文”出处以二次审查,对父母而言问题也没想像中大。

住在旧金山的 Diana Werner 是两个孩子的母亲,她认为 Perdictim 能为找保母的父母“买个安心”,并相信保母也应该分享社交资讯让父母分析。

有背景调查固然好,但 Perdictim 还能深度剖析一个人。(在我家附近,肯定)100% 父母都想用这个服务,我们都想要完美的保母。

(本文由 爱范儿 授权转载;首图来源:Unsplash)

延伸阅读:

  • 亚马逊发现招聘用人工智能系统歧视女性,决定弃用
2019-03-11 16:31:00

标签:   资讯头条 kotoo科技资讯 kotoo科技 kotoo科技资讯头条 科技资讯头条 KOTOO商业产经 新闻网 科技新闻网 科技新闻 Kotoo科技新闻网 Kotoo Kotoo科技新闻网 科技新闻 科技新闻网 新闻网 KOTOO商业产经 科技资讯头条 kotoo科技资讯头条 kotoo科技 资讯头条 Kotoo Kotoo科技新闻网 科技新闻 新闻网 KOTOO商业产经 科技资讯头条 kotoo科技资讯头条 kotoo科技 kotoo科技资讯 资讯头条
0