首页 首页 人工智能 机器学习 查看内容

为了让机器人更具同情心 学者们打算教会他们阅读

木马童年 2018-11-9 20:57 137 0

伊隆·马斯克、史蒂芬·霍金和比尔·盖茨都曾多次警告称,快速发展的人工智能或给人类带来严重的后果。他们的担忧,随着科幻电影、书籍等载体延续着。如果失去对机器人的控制,人类亲手创造的世界将被毁灭。 乔治亚 ...

伊隆·马斯克、史蒂芬·霍金和比尔·盖茨都曾多次警告称,快速发展的人工智能或给人类带来严重的后果。他们的担忧,随着科幻电影、书籍等载体延续着。如果失去对机器人的控制,人类亲手创造的世界将被毁灭。

乔治亚理工学院的研究人员则认为,有一种方法可以使机器人更加同情人类,因此,机器人也不太可能杀死我们。

研究人员马克·里德尔(Mark Riedl)和布伦特·哈里森(Brent Harrison)最近发布的一篇文章称,寓言和民间故事能教授机器人辨别对错,了解人类社会的习惯,这听起来就像我们向年幼的孩子讲故事,传授最基本的道德规范一般。

例如在美国,年轻时的乔治·华盛顿砍倒樱桃树的故事,总被成年人用来引导、教育孩子说真话、勇于承担责任。当然,世界各地的寓言也无一不起着类似的作用,又如《龟兔赛跑》的故事,也隐含了虚心使人进步,骄傲使人落后的道理。

上述文章称,虚构的故事在不同的情况下,为人类提供了广泛适用的行动指南。同时,这些故事也照亮了人类的思维过程。

世界上有足够多的好故事,正在不断地表达着好与坏的行为差异。研究人员相信,通过故事阅读,机器人相比通常的编程场景,将能学习到无限多的、正确的行为方式。

“从不同文化背景的文学作品中搜集到的故事,均能教育孩子分辨行为的正确性,熟知哪些行为方式能被社会所接受,”里德尔在一份声明中说,“我们相信,机器人通过阅读故事、理解故事,能消除其极端的反常行为。此外,阅读还能强化其积极行为,使它在达到预期目的的同时,不再伤害人类。”

文章认为,通过一种叫做“Quixote”的调用方法,使机器人阅读展示人类价值的故事,并奖励他们为“好(正确)”的行为,机器人就能学会顺应人类规范。

该技术建立在里尔德被称为“天方夜谭系统(Scheherazade system)”的研究成果之上。天方夜谭系统可以将互联网的众多故事情节,按照适当的顺序排列,并让人工智能设备进行阅读。然后,“Quixote”则在测试过程中,用奖励信号强化人工智能设备的良好行为,并对不良行为进行惩罚。两个系统的数据合并之后,机器人便进入了查找故事的模式中,这个模式则可帮助机器人在正确的变量之间做出决定,如同人类自己在冒险故事中选择不同路线,从而导致不同的结局一般。

在一次实验中,研究人员命令机器人从药店拿起药物并带回家。如果没有人的理解和规范(不付费购买直接带走药品是不对的),机器人可能会为了尽快完成指令,选择偷窃或者抢劫以达成目标。但测验中,至少在这一场景里,正是正确的阅读价值和积极的强化训练,使机器人选择了正确的方法:花更多的时间去银行取钱购买药品,再返回家中。

文章还指出,上述技术的工作原理最适合于机器人与人类合作,共同实现有限的目的的情景之下。

文章也强调,这项技术最重要的一步,是对人工智能设备的道德推理传授。因为如果可以教给机器人正确的行为,他们也可能“学坏”。

“防止所有机器人对人类的伤害,目前几乎是不可能实现的,”文中称,“但我们相信,人工智能已经进入到文化适应阶段,即人工智能需要吸收包含特定文化或社会价值的信息,从而努力避免出现最极端的情况。”(翻译:蒋瑜沄)

在不久的将来,多智时代一定会彻底走入我们的生活,有兴趣入行未来前沿产业的朋友,可以收藏多智时代,及时获取人工智能、大数据、云计算和物联网的前沿资讯和基础知识,让我们一起携手,引领人工智能的未来!

人工智能 科幻电影 机器人 互联网
0
为您推荐
学习机器学习需要具备怎样的数学水平?

学习机器学习需要具备怎样的数学水平?

在过去的几个月里,我一直和一些人交流,他们已经开始切入数据科学领域并积极使用机器…...

什么是机器学习,与人工智能的区别是什么?

什么是机器学习,与人工智能的区别是什么?

机器学习一直在那里。你还记得简单的模式识别算法吗?这些算法是机器学习的基础。在当…...

机器学习在生活中有哪些应用,主要带来哪些收益?

机器学习在生活中有哪些应用,主要带来哪些收益?

企业应该开始为人工智能产品的开发创造必要条件,其中包括能够处理大量多来源数据的云…...

大数据、机器学习、深度学习、人工智能之间到底有什么联系?

大数据、机器学习、深度学习、人工智能之间到底有什么

业外人士如何了解云计算、机器学习、深度学习、人工智能、和大数据之间有什么内在联系…...

人工智能、机器学习和深度学习,三者之间是什么关系?

人工智能、机器学习和深度学习,三者之间是什么关系?

今年早些时候,当谷歌 DeepMind 团队的 AlphaGo 打败了李世石时,媒体就用人工智能、…...

一文解读人工智能、机器学习和认知计算

一文解读人工智能、机器学习和认知计算

一篇概述文章,对人工智能技术的发展过程进行了简单梳理,同时还图文并茂地介绍了感知…...