首页 首页 人工智能 查看内容

跟机器人谈道德,不是对牛弹琴?

木马童年 2019-2-13 12:35 9 0

人工智能时代的全面到来可能距我们只有一步之遥。这一方面是好消息,长久以来,机器帮助我们更好、更快、更安全地完成工作,而且费用更低。而说到坏消息,这就是近期那些技术领袖一再提醒我们的地方——智能机器的危 ...

人工智能时代的全面到来可能距我们只有一步之遥。这一方面是好消息,长久以来,机器帮助我们更好、更快、更安全地完成工作,而且费用更低。而说到坏消息,这就是近期那些技术领袖一再提醒我们的地方——智能机器的危险性可能远超核武器,特斯拉CEO埃隆·马斯克(Elon Musk)如是说。

本周,比尔·盖茨也表达了相似的看法。“我对超级智能的存在深表关切,”盖茨写到。“起初,机器会帮助我们完成大量的工作,但这些都还算不上超级智能。如果我们能够处理得当,倒也相安无事。但是,几十年之后,这些智能会进化到相当强大的程度。我赞同埃隆·马斯克的看法。我不明白为何一些人丝毫没有感到担心。”

正如盖茨所言,如果我们能够处理得当,倒也相安无事。但是,处理得当具体所指为何?其中的关键之一就是机器的设计依据其自身行为作出,同时理解它们与现实世界的联系。这是因为如今的人工智能形式代表了某种笛卡尔哲学的二元论——计算机意识与计算机躯体完全分离。

跟机器人谈道德,不是对牛弹琴?

“有人觉得以往将代理人与环境分离的做法越来越没有吸引力……但是在提高自身智能水平这方面,机器人可能远远胜过人类,一旦它们具备这种能力,会将人类远远甩在后面,”贝利亚·法伦斯坦(Benja Fallenstein)和纳特·索尔思(Nate Soares)在一篇为机器智能研究中心撰写的论文中这样写道。“在自身智能积累到一定程度引致‘智能激增’后,机器将会进化成与最初完全不同的形态,例如,它们可能将自身分散于许多不同的计算机中,而不再是传统框架下履行代理人职责的单一实体形态。”

上述假设构成了复杂的问题,且没有明确方案:我们应该如何构建及使用机器人才能使世界变得更加美好,即便在它们拥有自主行为能力时?可能上述问题的真正重点在于:一个更加美好的世界是什么样子?因为如果我们构建的机器反映的是如今人类的价值体系,它们可能很快就落后于时代。下面是MIRI研究员卢克·穆豪瑟尔(Luke Muehlhauser)及尼克·博斯特伦(Nick Bostrom)在去年的一篇论文中所写的部分内容:

“想象一下古代希腊人正面临从人类到机器控制的过渡阶段,他们将自身的价值观作为机器的终极目标进行了编码。从我们的观点来看,这会导致灾难的发生,因为我们相信自己较古代希腊人拥有更高尚的道德标准(例如奴隶制的废除),但是可以推定我们离完美还很远。”

因此,我们需要允许道德的持续提高。一种方案就是让机器具有一种可以理解我们价值观的算法——我们了解的更多,就会更加充满智慧,就能够进一步将我们的人性升华,诸如此类。哲学家对价值理论体系的研究已经开展了数十年之久,他们的研究成果也许可以作为富有成效的方案应用在机器道德方面。

技术领袖纷纷表示,我们弄清这些答案的时间已经所剩无几。我们再次回到盖茨的意见上来:“在接下来的30年里,人工智能将会得到突飞猛进的发展。视觉和语言的理解和翻译程度都将达到非常高的水准。采摘水果或转移病人这种任务对机器人已经毫无难度。一旦机器人的视觉和移动能力达到特定水平,它们将会出现在范围更加广阔的领域内。”

依据MIRI的说法,采摘水果的机器人还不至于会取代人类。但是,人类对于预测人工智能的未来这方面相当不在行。数十年来,人类一直在预言人工智能的崛起,但我们从来没有像现在这样接近过。

在不久的将来,多智时代一定会彻底走入我们的生活,有兴趣入行未来前沿产业的朋友,可以收藏多智时代,及时获取人工智能、大数据、云计算和物联网的前沿资讯和基础知识,让我们一起携手,引领人工智能的未来!

人工智能 智能机器 超级智能 智能 计算机 机器人
0