伪AI的崛起,机器人的背后其实都是真人?
953
2018-07-11 17:46
文章摘要:英国《卫报》网站上的一篇文章指出,“很多AI公司实际上在背后使用的都是人工,那些所谓的机器人会话实际上也是真人用机器的口吻来与客户进行对话”,我们不妨来看看该文的观点。

我们常常听到许多供应商声称自己的AI技术十分神奇,甚至可以帮助客户将业务效率提升至若干倍以上。但在实际上,这些AI技术的作用可能却相当有限,有时还会起到反作用。这让人们不禁怀疑起这些所谓的AI技术是否是真的AI技术,不久前,英国《卫报》网站上的一篇文章甚至指出,“很多AI公司实际上在背后使用的都是人工,那些所谓的机器人会话实际上也是真人用机器的口吻来与客户进行对话”,我们不妨来看看该文的观点。

首先,无论是创业公司还是大型供应商,建立其一套由AI驱动的服务是十分困难的。所以,一些创业公司发现,让人像机器人一样行动比让机器像人一样行动要便宜和容易得多。

“利用真人来做这项工作可以让你跨越过技术和业务发展的挑战”,ReadMe CEO Gregory Koberger说道,他表示他就遇到了很多这样的“伪AI”,他说道,“这实际上是把AI与人类连接在了一起”。

《华尔街日报》(Wall Street Journal)上周刊登的一篇文章也重点说明了这一问题,这篇文章指出,Google授权数百名第三方应用开发者对人们的收件箱进行访问。在Edison Software公司的案例中,AI工程师通过访问数百名个人用户的电子邮件信息以进行这些用户身份的修改,进而改进“智能回复”功能。该公司并没有表明,这些工程师是否是在遵守隐私政策的前提下查看的用户身份。

在文章中,《华尔街日报》强调,这些第三方开发者并不是第一批这样做的人。2008年,提供语音邮件转短信服务的Spinvox就被指责在海外呼叫中心中使用了真人而不是机器人来完成工作。

2016年,彭博(Bloomberg)指出,在X.ai和Clara这样的公司中,员工对假装成聊天机器人从而进行日历安排服务的工作表示厌烦。这份工作让他们如此厌恶,以至于员工甚至表示他们希望被真正的机器人所取代。

在2017年,业务费控管理供应商Expensify承认,在自身“SmartScan Technology"服务中,至少有一部分收据其实是由人工记录的。这些收据的扫描结果被贴到了亚马逊的Mechanical Turk众包劳动工具上,通过该工具,低薪员工阅读并誊写这些数据。

“我想了解,那些SmartScan用户是否知道他们的数据是由MTurk员工输入的”,Rochelle LaPlante,他就是一名“誊写者”,并且在Twitter上倡导“零工经济”。“我会查阅用户的Uber数据,上面有他们的全名、收获和投递地址”,LaPlante说道。

其实,就算是在AI领域中投入巨资的Facebook,其实也依赖人工来为其虚拟助手Messenger M进行服务。

在某些情况下,公司确实会使用真人来对AI系统进行训练并提升它的准确性。一家名为Scale的公司就利用一部分云员工为它的自动驾驶汽车和其他AI系统提供培训数据。比如,他们将会查看相机或传感器的反馈数据,并在系统中为汽车、形容和骑自行车的人贴上标签。有了足够地较准,AI将学会如何识别这些物体。

但在其他一些情况下,公司则会假装他们在AI中已有所突破,并告诉投资者和用户他们已开放出了一个可扩展的AI技术,但同时这背后依靠的还是人工。

心理学家与Woebot(一种进行心理健康支持的聊天机器人)的创始人Alison Darcy将这种现象描述为“绿野仙踪设计技术”。“在你模拟某件事的最终体验时,很多AI背后其实依赖的都是真人而不是算法”,Darcy补充道,她认为建立一个良好的AI系统需要“大量的数据”,有时在投资前设计师想要知道客户是否有足够的服务需求。

Darcy认为,这种方法不适用于像Woebot这样的心理支持服务。她说道,“作为心理学家,我们受到到底的准则的约束,而不欺骗人是其中最重要的道德原则之一”。 研究表明,当人们认为自己是在和机器人交谈时,他们往往会透露更的信息,因为寻求心理健康方面的帮助会带来耻辱感。

来自于南加州大学的一个研究小组对一个叫Ellie的虚拟治疗师进行了测试。他们发现,当退伍军人得知Ellie是一个AI系统时,他们更更容易透露出自己的症状。

LaPlante不认同于这种公司用真人员工来假装AI额做法,“对我来说,这是不诚实和欺骗的感觉,这两种感觉都不是我想要的”,他说道。

“从工作者角度来说,我们会感到自己被推到了幕布之后。我不希望我的劳动力会被一家不告知用户真相的公司利用”。 这种道德困境也存在于AI系统是否会模仿人类行为上。最新的例子就是Google Duplex,这是一个机器人助手,它甚至可以在电话沟通中加入“ums(嗯)”和“ers(呃)”这样十分贴近于人类的表述方式。

在经历了强烈的反对之后,Google表示其AI会向与之对话的人表明身份。

Darcy说道,“在他们的演示版里,处于低强度对话中,这可能会有一种欺骗性的感觉”。虽然像餐桌预订这样的功能不会对人们造成太大的冲击与影响,但同样的技术在其他一些人售中可能更具有操控性。比如,如果他们能够模仿具有带动效应的名人,会发生什么?

Darcy说道,“AI已经让人产生了很大的恐惧感,在缺乏透明度的情况下,它并不能真正帮助怎么进行对话”。

不知各位看官对此有如何看法,可能这些“伪AI”的出现很可能还是在于AI自身能力的不足,如数月前腾讯AI同传在博鳌论坛上的“故事”,当时,该AI翻译助手频频出错,让腾讯不得不又催翻译公司帮忙找真人同传。所以,我们不要被厂商鼓吹的AI所迷惑,AI确实是具有很大前景的新技术,但目前它仍难以离开真人。

原文标题:The rise of 'pseudo-AI': how tech firms quietly use humans to do bots' work

作者:Olivia Solon

链接:https://www.theguardian.com/technology/2018/jul/06/artificial-intelligence-ai-humans-bots-tech-companies?utm_source=wanqu.co&utm_campaign=Wanqu+Daily&utm_medium=website

翻译与编辑:张飞逸

由人称T客团队发起并出版的《渠道招募宝典》已经启动,将于8月份向全国1000多家渠道推送,希望有渠道需求的厂商抓紧参与进来。附《渠道招募宝典》两种参与方式Sample:

一、重点参与

幻灯片2.JPG

二、基本信息入册

幻灯片6.JPG


版权声明:

凡本网内容请注明来源:T媒体(http://www.cniteyes.com)”的所有原创作品,版权均属于易信视界(北京)管理咨询有限公司所有,未经本网书面授权,不得转载、摘编或以其它方式使用上述作品。

本网书面授权使用作品的,应在授权范围内使用,并按双方协议注明作品来源。违反上述声明者,易信视界(北京)管理咨询有限公司将追究其相关法律责任。

评论