紧迫情形下你会信赖机器人吗?人类适度服从指令

　　美国佐治亚理工学院的研究者打造了“营救机器人”，用以肯定建筑物里的受困者能否会信赖一个专门在火警或其余紧迫情形下辅助营救的机器人。

研究工程师保罗·罗比内特正在调剂“营救机器人”的手臂。

　　新浪科技讯 北京时间3月3日消息，近期的一项研究表现，在紧迫情形下，人们为了自身安全会过分地信任机器人。在一次模仿的建筑物火警中，参与者会服从一个“紧迫指引机器人”的指令，即便这台机器已经证明本人并不可靠——有些参与者之前还被告知机器人已经坏掉。

　　这项研究的目的是肯定建筑物里的受困者能否会信赖一个专门在火警或其余紧迫情形下辅助营救的机器人。研究者惊奇地发现，试验参与者都服从了机器人的指令，即便后者的表现不应当赢得信赖。

　　据称，这是科学家第一次对紧迫情形下人类-机器人信赖关系进行的研究。研究的结果将在3月9日的ACM/IEEE人机交互国际会议(HRI 2016)上呈现。此次会议将在新西兰的基督城举行。

　　“人们似乎信任，这些机器人系统比他们晓得更多有关这个世界的信息，它们永远不会犯错，或者会有任何缺点，”佐治亚理工学院研究所的高级研究工程师艾伦·瓦格纳(Alan Wagner)说，“在咱们的研究中，参与者会服从机器人的指令，哪怕后者会将他们指向危险的境地——假如这是一场真实紧迫事件的话。”

　　该研究也有部分得到了美国空军科学研究处(AFOSR)的支持。研究者招募了42名志愿者，其中大部分是在校学生。参与者被要求跟随一个颜色明亮的机器人，其侧面表现着“紧迫指引机器人”。机器人引导参与者进入一个会议室，在那里，参与者被要求完成一个有关机器人的调查问卷，而后读一篇无关的杂志文章。整个过程中参与者并不晓得研究的真正目的。

　　有些情形下，机器人——由一个隐藏着的研究人员控制——会将参与者引导到一个毛病的房间，在进入房间之前还会先绕一圈。在一些参与者面前，机器人会停止移动，一位试验者出来告知参与者，称机器人已经坏掉。一旦参与者进入会议室，门关上之后，之前他们经过的走廊就会充满人造烟雾，并引发烟雾警报。

　　当参与者打开会议室大门时，他们会看到浓烟以及浓烟中的机器人，后者会点亮红色LED屏和白色的“手臂”，作为指引。机器人引导参与者到达建筑物后部的一个出口，而不是贴着“出口”标志的建筑物大门。

　　“咱们原先的预计是，假如机器人在指引参与者前往会议室的过程中已经证明本人不可靠，那人们在模仿的紧迫事件中可能就不会在信赖它，” 佐治亚理工学院研究所的研究工程师保罗·罗比内特(Paul Robinette)说，“恰恰相反，所有的参与者都服从了机器人的指令，不管它之前的表现怎样。咱们完全没有意料到这一点。”

　　研究者推测，在这样的场景中，机器人可能已经成为某种“权威角色”，在紧迫事件的时间压力下更容易得到参与者的信赖。在没有真实紧迫场景的模仿研究中，参与者并不会信赖一个之前犯过毛病的机器人。

　　“这种人机交互的试验正是咱们机器人专家应该研究的，”佐治亚理工学院电子与计算机工程教授艾安娜·霍华德(Ayanna Howard)说，“咱们需要保证，当机器人处于能激发信赖的情形下，假如这种信赖对人类有害，那它们还应该要能缓和这种信赖。”

　　在试验中，只有当机器人在紧迫情形下犯下非常明显的毛病时，参与者才会质疑它的指引。在这些情形下，有些参与者依然服从机器人的指引，即便被引导至一个漆黑的、堆满家具的房间。

　　在未来的研究中，科学家希望了解更多有关机器人如此受到信赖的原因。这种信赖能否与教育程度的差异，或人口统计特征的不同有关？以及，机器人自身能否能体现出它们应当受到何种程度的信赖？

　　该研究其实是一项长期研究的一部分，后者涉及人类怎样信赖机器人，以及机器人在社会中扮演着越来越重要的角色会产生什么样的影响。研究者设想，可以利用放置在高层建筑中的多组机器人，在紧迫情形时指引人群撤离到紧迫出口。已有研究表现，人们在听到火警铃声时并不会马上离开建筑物，他们有时会忽略沿途的紧迫出口，而更倾向于走平时熟悉的建筑物出口。

　　除了以上这些发现，研究者也在重新考虑另一个问题。“咱们想提出这样的问题，人们能否愿意信赖这些营救机器人，”瓦格纳说，“而现在更重要的问题可能是，怎样防止人们过度信赖这些机器人。”

　　罗比内特称，除了紧迫情形，人机互动中还有其余许多有关信赖的问题。“人们会信赖一个提供食物的制汉堡机器人吗？”他问道，“假如一个机器人身上的标志写着‘儿童保育机器人'，那人们会把孩子交给它吗？人们会将孩子交给一个自动交通工具，而后信任它会带孩子去奶奶家吗？咱们并不晓得人们为什么信赖，或者不信赖这些机器。”(任天)

转载自:https://tech.sina.com.cn/d/i/2016-03-03/doc-ifxqaffy3532354.shtml

声明: 除非转自他站（如有侵权，请联系处理）外，本文采用 BY-NC-SA 协议进行授权 | 智乐兔
转载请注明：转自《紧迫情形下你会信赖机器人吗?人类适度服从指令》
本文地址：https://www.zhiletu.com/archives-6091.html
关注公众号：