专家建议把人类代价”植入”机器人:防备人工智能

　　10月20日，在美国加利福尼亚州拉古纳比奇举办的一场科技大会上，感情机器人“佩珀”和一位与会者拍手。（路透社）

　　参考消息网11月2日报道 外媒称，跟着人工智能技术越来越先进，人们愈发担心，机器人可能变成一种威胁。据加利福尼亚大学伯克利分校计算机学教授斯图尔特·拉塞尔说，这种伤害是能够避免的，假如咱们能够解决如何把人类代价变成可编程的代码。

　　据美国石英财经网站11月1日报道，拉塞尔说，在机器人领域，“品德哲学将是一个非常重要的产业部门”。他指出：“跟着机器人从事更加庞杂的任务，咱们绝对有必要把咱们人类的品德转化为人工智能语言。”

　　比如说，假如机器人在房子里做杂务——预计未来几十年将会出现这种场面——的话，你可不想机器人把宠物猫放进烤箱里，给饥肠辘辘的孩子们做顿大餐。拉塞尔说：“你会希望给那个机器人预先载入一大套人类代价。”

　　人们已将基本的人类代价编入了一些机器人的顺序。玛丽女王大学计算机学教授彼得·麦克欧文说，可移动机器人就被编入了与人类保持适当距离的顺序。

　　他说：“这是机器人行动可被视为体现某种代价的一个极为简略的例子。假如机器人在你和别人说话时靠近你们的私人空间，你就会认为，这不是一个有教养的人会做的事情。”

　　创造更庞杂的、具备品德规范的机器人是可能的，但条件是咱们要找到把人类代价设定成明确规矩的方法。

　　麦克欧文说：“这种代价设定工程要有研究人类代价的专家参与进来，其中包括哲学家、心理学家、人种学家以及外行人士。就像你把专业知识转化成一套规矩一样，你能够将这个讨论组提供的信息转化成一系列规矩。”

　　此外，机器人还能够选取根据有关人类行动的大套数据制成的模型来学习人类代价。

　　麦克欧文说，只有在顺序员不负责任的情形下，机器人才会成为一种伤害。

　　他说：“就机器人违反人类代价这一问题，人们最担心的是，假如人类因为没有进行充分测试而没有给机器人正确编程的话，机器人就不会有充分的安全保障，它们就会有方法去打破某种禁忌。”

　　简略的方法是，当出现特殊情形时，给机器人编入让人去检查机器人行动能否正确的顺序。

　　麦克欧文说：“假如机器人不确定一种动物能否适合被放进微波炉时，它能够停下来，发出哔哔的信号声，以请求人给出指示。”

　　把人类代价编成顺序最困难的一步是，要确定什么才是咱们认为的品德行动，以及如何制定一套品德规矩。假如咱们有了答案，那么机器人对人类就会是有益的。

转载自:https://tech.sina.com.cn/d/i/2015-11-03/doc-ifxkhcfk7569711.shtml

声明: 除非转自他站（如有侵权，请联系处理）外，本文采用 BY-NC-SA 协议进行授权 | 智乐兔
转载请注明：转自《专家建议把人类代价”植入”机器人:防备人工智能》
本文地址：https://www.zhiletu.com/archives-5121.html
关注公众号：