数智资源网
首页 首页 人工智能 查看内容

AI如何设计才能人类利益最大化?

木马童年 2019-4-11 19:20 116 0

曾为现代互联网早期协议和架构设计做出贡献的Vint Cerf,用一个寓言来解释为什么在人工智能等新兴技术出现后,勇敢的领导力至关重要。 想象一下,你住在一个被群山环绕的山谷底部的小社区里。在远处的山顶上有一块巨 ...

曾为现代互联网早期协议和架构设计做出贡献的Vint Cerf,用一个寓言来解释为什么在人工智能等新兴技术出现后,勇敢的领导力至关重要。

想象一下,你住在一个被群山环绕的山谷底部的小社区里。在远处的山顶上有一块巨石,它已经存在了很长时间,从未移动过,所以就你的社区而言,它只是景观的一部分。然后有一天,你会注意到那块巨石看起来不稳定,如果它滚下山,会摧毁你的社区和里面的每个人。事实上,你也许意识到,也许你一生都忽视了它的移动。那块巨石一直在一点一点地移动,但是你从来没有仔细观察每天发生的细微变化,比如它投下的阴影发生了微小的变化,它和下一座山之间的视觉距离,以及它与地面摩擦发出的几乎察觉不到的声音。你意识到,自己一个人无法独自跑上山去阻止巨石的移动,你太渺小了,而巨石又太大了。

但是随后你意识到,如果能找到一颗鹅卵石,并把它放在正确的位置,它会减缓巨石的动量,稍微扭转移动的趋势。但仅仅一颗鹅卵石无法阻止巨石摧毁村庄,所以你要求整个社区加入你的行列。每个人手中都拿着鹅卵石,爬上了这座山,并为此做好了准备。显然,是人和鹅卵石产生了所有的作用,而并不是那块巨石。

安全有益的技术不是希望和偶然的结果,它是勇敢的领导力和专注持续合作的产物。但是目前,人工智能社区充满着各种目的的竞争。

人工智能的未来——也就是人类的未来——已经被九大科技巨头所控制。这些科技巨头正在开发框架、芯片组和网络,资助了大部分研究,获得了大部分专利,并且在这个过程中以不透明或不可见的方式挖掘着我们的数据。其中六家科技巨头在美国,我称他们为G-MAFIA:谷歌、微软、亚马逊、Facebook、IBM和苹果。剩下三家在中国,也就是BAT:百度、阿里巴巴和腾讯。

为了满足短视的期望,这九大科技巨头分别面临着来自美国华尔街和中国北京的巨大压力,即使我们可能会为未来付出巨大的代价。我们必须授权并鼓励九大巨头改变人工智能的发展轨迹,因为如果没有我们的大力支持,他们不能也不会自己去做。

接下来要做的就是一系列鹅卵石,它们可以让人类走上通往未来的更好道路。

九大巨头的领导者都承诺,他们正在开发和推广人工智能,以造福人类。我相信这是他们的本意,但是履行这一承诺是非常困难的。首先,我们应该如何定义“造福”?这个词到底是什么意思?这又回到了人工智能社区内部的问题。我们无法让所有人都同意“造福”,因为这个宽泛的说法实在太模糊了,无法引导人工智能社区。

例如,受西方道德哲学家Immanuel Kant启发的人工智能社区,学习如何将权利与义务系统预先编程到某些人工智能系统中。杀人是不好的,救人是好的。如果人工智能控制着汽车,并且它唯一的选择是撞上一棵树并伤害司机,或者撞上一群人并杀死他们,那么这种逻辑就会存在问题。僵硬的解释不能解决更复杂的现实环境,因为在现实环境中,选择可能会更加多样:撞上一棵树并杀死司机;撞上人群并杀死八个人;撞到人行道上,只杀死了一个三岁的男孩。在这些例子中,我们如何定义“好”的最佳版本?

同样,框架对九大巨头来说也很有用。他们不需要精通哲学,他们只是要求一种更慢、更认真的方法。九大巨头应该采取具体措施来收集、培训和使用我们的数据,雇佣员工,以及在工作场所传达道德行为。

在这个过程的每一步,九大巨头都应该分析自己的行为,并确定他们是否正在造成未来的伤害,他们也应该能够验证自己的选择是否是正确的。这样的要求需要有关于偏见和透明度的明确标准。

然而现在,并没有单一的基线或标准来评估偏见,也没有人在寻求克服目前人工智能中存在的偏见。以我自己在中国的经历,这种没有把安全放在速度之上的机制,会产生令人担心的后果。

此外,透明度也没有标准。在美国,G-MAFIA和美国公民自由联盟、新美国基金会以及哈佛大学伯克曼·克莱因中心都在人工智能上进行了合作,旨在提高人工智能研究的透明度。这些合作伙伴发布了一系列非常棒的建议,帮助引导人工智能研究朝着积极的方向发展,但是这些原则并不能以任何方式实施,而且在G-MAFIA的所有业务部门中也没有被遵守。BAT也同样如此。

12下一页>
互联网 人工智能 阿里巴巴 华尔街 人工智能研究
0

最新评论(0)