首页 首页 人工智能 机器学习 查看内容

为了让机器人更具同情心 学者们打算教会他们阅读

木马童年 2018-11-9 20:57 85 0

伊隆·马斯克、史蒂芬·霍金和比尔·盖茨都曾多次警告称,快速发展的人工智能或给人类带来严重的后果。他们的担忧,随着科幻电影、书籍等载体延续着。如果失去对机器人的控制,人类亲手创造的世界将被毁灭。 乔治亚 ...

伊隆·马斯克、史蒂芬·霍金和比尔·盖茨都曾多次警告称,快速发展的人工智能或给人类带来严重的后果。他们的担忧,随着科幻电影、书籍等载体延续着。如果失去对机器人的控制,人类亲手创造的世界将被毁灭。

乔治亚理工学院的研究人员则认为,有一种方法可以使机器人更加同情人类,因此,机器人也不太可能杀死我们。

研究人员马克·里德尔(Mark Riedl)和布伦特·哈里森(Brent Harrison)最近发布的一篇文章称,寓言和民间故事能教授机器人辨别对错,了解人类社会的习惯,这听起来就像我们向年幼的孩子讲故事,传授最基本的道德规范一般。

例如在美国,年轻时的乔治·华盛顿砍倒樱桃树的故事,总被成年人用来引导、教育孩子说真话、勇于承担责任。当然,世界各地的寓言也无一不起着类似的作用,又如《龟兔赛跑》的故事,也隐含了虚心使人进步,骄傲使人落后的道理。

上述文章称,虚构的故事在不同的情况下,为人类提供了广泛适用的行动指南。同时,这些故事也照亮了人类的思维过程。

世界上有足够多的好故事,正在不断地表达着好与坏的行为差异。研究人员相信,通过故事阅读,机器人相比通常的编程场景,将能学习到无限多的、正确的行为方式。

“从不同文化背景的文学作品中搜集到的故事,均能教育孩子分辨行为的正确性,熟知哪些行为方式能被社会所接受,”里德尔在一份声明中说,“我们相信,机器人通过阅读故事、理解故事,能消除其极端的反常行为。此外,阅读还能强化其积极行为,使它在达到预期目的的同时,不再伤害人类。”

文章认为,通过一种叫做“Quixote”的调用方法,使机器人阅读展示人类价值的故事,并奖励他们为“好(正确)”的行为,机器人就能学会顺应人类规范。

该技术建立在里尔德被称为“天方夜谭系统(Scheherazade system)”的研究成果之上。天方夜谭系统可以将互联网的众多故事情节,按照适当的顺序排列,并让人工智能设备进行阅读。然后,“Quixote”则在测试过程中,用奖励信号强化人工智能设备的良好行为,并对不良行为进行惩罚。两个系统的数据合并之后,机器人便进入了查找故事的模式中,这个模式则可帮助机器人在正确的变量之间做出决定,如同人类自己在冒险故事中选择不同路线,从而导致不同的结局一般。

在一次实验中,研究人员命令机器人从药店拿起药物并带回家。如果没有人的理解和规范(不付费购买直接带走药品是不对的),机器人可能会为了尽快完成指令,选择偷窃或者抢劫以达成目标。但测验中,至少在这一场景里,正是正确的阅读价值和积极的强化训练,使机器人选择了正确的方法:花更多的时间去银行取钱购买药品,再返回家中。

文章还指出,上述技术的工作原理最适合于机器人与人类合作,共同实现有限的目的的情景之下。

文章也强调,这项技术最重要的一步,是对人工智能设备的道德推理传授。因为如果可以教给机器人正确的行为,他们也可能“学坏”。

“防止所有机器人对人类的伤害,目前几乎是不可能实现的,”文中称,“但我们相信,人工智能已经进入到文化适应阶段,即人工智能需要吸收包含特定文化或社会价值的信息,从而努力避免出现最极端的情况。”(翻译:蒋瑜沄)

在不久的将来,多智时代一定会彻底走入我们的生活,有兴趣入行未来前沿产业的朋友,可以收藏多智时代,及时获取人工智能、大数据、云计算和物联网的前沿资讯和基础知识,让我们一起携手,引领人工智能的未来!

人工智能 科幻电影 机器人 互联网
0
为您推荐
基于机器学习发起网络攻击的六种方式

基于机器学习发起网络攻击的六种方式

机器学习算法能改进安全解决方案,帮助人类分析师更快地分类威胁和修补漏洞。但同时,…...

反向传播或将被抛弃 深度学习需另辟途径

反向传播或将被抛弃 深度学习需另辟途径

当年的神经系统还不如现如今这般流行,所有的研究都只是深度学习,而那时候我们就已经…...

机器学习之数据清洗与特征提取

机器学习之数据清洗与特征提取

导语:本文详细的解释了机器学习中,经常会用到数据清洗与特征提取的方法PCA,从理论…...

机器学习集成算法:XGBoost模型构造

机器学习集成算法:XGBoost模型构造

1、回顾 上文(机器学习集成算法:XGBoost思想)介绍了XGBoost的基本思想,说到新加…...

怎么通俗易懂的向别人解释机器学习、数据挖掘

怎么通俗易懂的向别人解释机器学习、数据挖

随着数据科学在人工智能发展中大放异彩,数据挖掘、机器学习进入了越来越多人的视野。…...

外行也能看懂的科普:这就叫自然语言处理

外行也能看懂的科普:这就叫自然语言处理

一、什么是自然语言处理 简单地说,自然语言处理(Natural Language Processing,简…...