《西部世界》科学顾问：如果机器人有了情感，人类就完了

                                                                                                   

本文由微信公众号工业智能化（ID：robotinfo）整理自《科学》发布，转载请注明！
最近HBO终于放出了《西部世界》第二季，这一季加入了杀戮、间谍、拥有自我意识的人工智能等元素。在第一季当中，西部世界主题公园中的人形机器人开始拥有自我意识，揭竿而起反抗作为主人的人类。在第二季，HBO请了斯坦福大学神经科学家大卫·依格曼（David Eagleman）担任节目的科学顾问。
依格曼最近在接受《科学》杂志采访时谈及了人类应该怎样看待AI的反抗。
为了方便读者阅读，采访内容经过了编辑。
您是怎么参与到这部剧中的？
有一次我和这部剧的一个编剧闲聊时，我问他他们的科学顾问是谁。他告诉我他们没有请科学顾问，于是我便自告奋勇加入了这部剧。后来我去了洛杉矶，与制作人和编剧开了一个6到8小时长的会议，我们讨论了自由意志和机器人拥有自我意识的可能性。
我还给他们展示了我发明的一些技术。几天前，我作了一次TED演讲，介绍了一个带有振动马达的马甲。


David Eagleman展示他的震动马甲在第二季中观众会看到这个马甲，现在我不能透漏太多。实际当中的马甲会随着声波振动，帮助聋人「听到」声音。但是在《西部世界》当中，这个马甲有着不同的用途，它可以让穿戴者接收重要的数据流。
你们还讨论了什么？
我们还讨论了人类大脑的特殊性，以及我们能否将大脑的重要特性复制到另一承载体上。当然，答案是未知的。大自然的神奇之处在于细胞，例如神经元。一旦我们理解了神经系统的编码，我们就能在更好的承载体上构建神经系统，这样系统就可以以更加简单的方式执行相同的算法。这是这一季讨论的问题之一。
这里有一个类比的例子：几百年以来人类梦想像鸟类一样飞行，于是他们开始制造可以扇动翅膀的设备。最终人类发现了飞行的原理，发明了比鸟类飞得更远、更快的固定翼飞机。也许，我们可以在现代的计算设备上构建更好的大脑。
这部剧有没有让你对智能产生什么新的看法？
这部剧让我思考机器人需要达到什么程度的智能才会让人类相信它是有意识的。人类非常热衷于给一切东西赋予人格。在上一集中，聚会上的机器人轻易地做到了让人类相信它们是人类，只是因为它们可以按照某种方式弹奏钢琴，脱下眼镜擦拭镜片，或者作出一个搞笑的面部表情。一旦机器人通过图灵测试，我们可能就会意识到要骗过人类并不是很难。
我们能否让机器人拥有和人一样的行为，但没有《西部世界》和其他科幻作品中出现的自私和暴力行为吗？
我认为可以，但愿我是对的。人类的很多行为都有进化的作用有关，比如为了生存、交配和食物竞争，这塑造了人类的心理特征。而机器人没有进化的历史，它们的心理特征一定与人类不同。机器人更多的是充当代理的角色，它们不一定需要拥有某种和人类一样的情感，如果它们有了情感，人类就完了。这一切都归结到这样一个问题：机器人是否应该拥有自我意识——内在经验。
在《西部世界》和《银翼杀手》中，编程者为了增强机器人的人性赋予了机器人生动的记忆，这样的背景故事有必要吗？
人类拥有记忆，这样我们就可以利用自身经验避免重复的错误。但是，近几十年的神经科学研究表明，记忆可以帮助人类模拟未来。记忆可以使我们记录下对未来可能发生的事进行建模时所需要的元素。
著名的健忘症患者亨利·莫莱森（病人HM）无法形成新的记忆，关于他还有一点人们常常忽视：他无法自我模拟未来可能发生的事。如果你对一位患有严重健忘症的病人说，“假设你下月要去夏威夷度假，想象一下你站在沙滩上的画面”。他们会回答“我脑中一片空白”。在理论上，赋予机器人生动的记忆的一大好处是可以操控它们对未来的设想。
剧中的机器人有没有哪些瞬间让你感觉行为特别像人类？
在我的书《Incognito》中，我将大脑描述为一个由对抗神经元组成的团队，这些对抗神经元给大脑发送不同的指令。如果我给你一块草莓蛋糕，你的大脑中的一部分想吃掉这块蛋糕，另一部分则告诉你“别吃，吃了会发胖”。人类可以说是内心充斥着很多不同声音的机器，正是因为这一点，我们才说人类是一种有趣、微妙和复杂的生物。
在《西部世界》剧组的编剧工作室里，我指出在第一季的最后一集，其中一个名叫Maeve（机器人）的接待员（host）踏上火车逃离西部世界，但是最后她决定返回西部世界寻找她的女儿。此时，Maeve身心俱疲，不知所措。如果机器人只拥有一种「内心声音」，它们就会缺少很多人类才拥有的情感，例如后悔、彷徨等。如果是这样，剧情就没那么有趣了。


工业智能化马云都关注的微信大号每天为你奉献工业智能知识政府及企业高管已关注