《人类简史》作者：算法胜利，自由意志将终结 （附新书《未来简史》卫报书评）

来源：FT Magazine，The Guardian译者：张冬君 胡祥杰  闻菲
【新智元导读】Yuval Noah Harari是畅销书《人类简史》的作者，他的新书《人类上帝：未来简史（Homo Deus： A Brief History of Tomorrow）》将于9月出版。本文是他发表在《金融时报杂志》(FT magazine)上的文章。人类千百年来一直在追求自由意志，但是计算机算法的强大，很可能会让人丢掉“听从自己内心”的自由，转而把更多事情交由机器决定。最终，人们可能会授权算法来替他们做生命中最重要的决定，比如与谁结婚。本文的第二部分，是《卫报》为《未来简史》写的书评，想预先浏览书的精华，这是一个不错的机会。


Harari提出了一种赫胥黎式的反乌托邦主义。他指出了三大方向： 1.人类将失去他们的经济和军事用途，经济系统将不再有价值。2.对系统来说，人类整体将具有价值，但个体将没有价值。3.然而，系统将在一些个体身上发现价值，“但他们将成为一个超人的新物种，而不是普通大众”。Harari说的“系统”，指的是生物科学和信息技术以当前极快速度发展下去产生的新的社会。过去，社会是建立在宗教和科学的交易之上，但是这次，人文主义将被“数据主义”取代。数据主义认为，宇宙是由数据流组成，而实体或现象的价值由其对数据处理的贡献决定。
千百年来，人类认为权力来自神。然后，到了现代社会，人文主义才逐渐将权力从神转移到人。1762年，卢梭在《爱弥儿》一书中总结了这场革命。在寻找生命中的行为准则时，卢梭发现它们存在于“我的内心深处，由天性决定，没有任何东西可以抹去。我只需要问自己我想做什么；我感觉是好的东西就是好的，我感觉是坏的东西就是坏的。”卢梭这样的人文主义者使我们相信，我们自己的感觉和欲望是意义的最终来源，我们的自由意志具有最高的权力。 现在，一个新的转变正在发生。正如神的权力由宗教神话合理化，人的权力由人文主义思想认可，现在，高科技“大师”和硅谷“先知”正在创造一个全新的教条，让算法和大数据的权力合理化。这种新颖的教条可以称为“Dataism（数据主义）”。在数据主义的极端形式下，数据主义世界观的支持者将整个宇宙看作是一个数据流，认为生物几乎等同于生化算法，相信人类的宇宙使命是创建一个包罗万象的数据处理系统，然后融入其中。 我们正在变成一个巨大的系统中的微小芯片，没有人真正理解这个系统。每天，我都从电子邮件、电话和文章中吸收无数的数据，处理数据，并通过更多的电子邮件、电话和文章传输新数据。我真的不知道我在这个庞大的系统中处在什么位置，我的数据又是如何与数十亿人或计算机产生的数据连接。我没有时间去找出原因，因为我忙于回复电子邮件。这种不间断的数据流引发着新发明和破坏的产生，但是没有人计划、控制或理解。


但是，这也不需要人去理解。你需要做的就是更快地回复电子邮件。就像自由市场资本主义者相信市场这只看不见的手一样，数据主义者相信数据流这只无形的手。随着全球数据处理系统变得全知和全能，连接到这个系统就成为所有意义的源泉。新的格言会这样说：“如果你经历了某件事，把它记录下来。如果你记录了某件事，把它上传。如果你上传了某件事，分享它。”

数据主义者还认为，有了足够的生物特征数据和计算能力，这个包罗万象的系统就能比人类自己更好地理解人类。一旦这种情况发生，人类将失去他们的权力，而像民主选举这样的人类活动将会过时。 在Michael Gove宣布他在英国脱欧后竞选首相失败时，他解释说：“在我政治生涯中的每一步，我都问自己一个问题，‘应该做的事情是什么？你的内心告诉你什么’”为什么Gove这么努力支持退欧，为什么他必须与昔日盟友Boris Johnson竞选英国首相，因为这是他的内心要他这样做。

Gove不是唯一一个在关键时刻听从自己内心行动的人。在过去几个世纪，人文主义一直将人的内心视为权力的最高来源，不仅仅是在政治上，更是在各个领域。从出生开始，我们就一直听到各种人文主义的口号：“听从自己的内心，做真实的自己，相信自己，按照自己的心做你觉得正确的事情。”



在政治上，我们认为，权力取决于普通选民的自由选择。在市场经济中，我们认为顾客永远是对的。人文主义的艺术认为，美丽取决于观察者的眼光。人文主义的教育教导我们为自己而想。人文主义的伦理提醒我们，如果觉得某件事好，我们应该去做。 当然，人文主义的道德经常会碰到麻烦，比如，我觉得好的事情会让你觉得不好。例如，在过去十年的每一年里，以色列的LGBT团体都会在耶路撒冷的街头游行。游行之日是这座充满冲突的城市独特、和谐的一天，因为这一天，犹太教徒、穆斯林和基督徒突然有了一个共同点——他们都反对同性恋游行。最有趣的是这些宗教狂热分子反对游行的理由。他们不会说：“上帝禁止同性恋，所以你们不能举行同性恋游行。”相反，他们对每一个麦克风和电视摄像机说：“看到同性恋游行穿过耶路撒冷圣城，这伤害了我们的感情。正如同性恋群体希望我们尊重他们，他们也应该尊重我们。”你怎么看待这个问题都不要紧，更为重要的是你要理解，在一个人文主义社会，伦理和政治辩论是以违反人类情感的名义进行的，而不是以神的诫命为名。 然而，人文主义现在正面临着一个生死存亡的挑战，“自由意志”的理念也受到威胁。关于我们的大脑和身体如何工作的科学表明，我们的情感不是人类独有的精神品质。相反，它们是生化机制，所有的哺乳动物和鸟类用它们来通过快速计算生存和繁殖的概率作出决策。 与流行的观点相反，情感不是理性的对立面，它们是理性演化的结果。当狒狒、长颈鹿或者人看到狮子时会产生恐惧，这是因为生化算法计算相关数据，并得出结论认为死亡的概率很高。同样地，性吸引的感觉产生是因为，另一种生化算法计算出附近的一个个体有很高的概率能交配成功。这些生化算法已经经过了数百万年的进化。如果某个古代祖先的情感犯了一个错误，那么决定这些情感的基因就不会传给下一代。 尽管人文主义错误地认为我们的情感反映了某种神秘的“自由意志”，但到现在为止，人文主义还是带来很好的现实影响。虽然我们的情感没有什么神奇之处，但仍是世界上最好的做决策的方法，没有哪个外在系统能比我自己更能理解我的感受。即使是天主教或苏联克格勃间谍组织监视我每一天每一分钟，它们也缺乏必要的生物知识和计算能力来计算决定我的欲望和选择的生化过程。因此，人文主义告诉人们听从自己的内心这一点是正确的。如果你要在听从圣经还是自己的情感之间做出选择，那最好还是遵从自己的情感。圣经代表了古代耶路撒冷几个牧师的观点和偏见，而你的情感代表了历经数百万年进化的智慧，它们已经通过自然选择最严格的质量控制。 然而，随着教会和克格勃让位给谷歌和Facebook，人文主义就失去了它实际的优势。因为我们现在受到两股科学潮流的影响。一方面，生物学家正在破译人体的奥秘，尤其是大脑和人类情感。与此同时，计算机科学家正在给予我们前所未有的数据处理能力。当你把两者结合起来，你就有了一个外部系统，能监视我的情感并且比我自己更能理解我。一旦大数据系统比我更了解我自己，权力就会从人类转移到算法。然后，大数据就会让“Big Brother”（指大型监控）成为现实。 这在医疗领域已经发生。你生命中最重要的医疗决定将不再是基于你对疾病或健康的感觉而做出来的，甚至也不是你的医生告诉你的预测，而是比你还了解你自己的计算机做出的计算。女星安吉丽娜·朱莉就是一个例子。 2013年，朱莉做了基因测试，证明她携带有突变的BRCA1基因。据统计数据显示，携带这种突变基因的女性患乳腺癌的概率为87%。尽管当时朱莉没有得乳腺癌，她也决定在患病前接受双乳切除手术。她并没有感到自己生病了，但她明智地决定听从计算机算法。“你可能没有感到有坏事发生，”算法说，“但是你的DNA中有一个定时炸弹在滴答作响。而现在，你必须作出决定！” 医疗领域正在发生的事情也在越来越多的领域里出现。它从简单的事情开始，比如，决定要购买或阅读哪一本书。人文主义者如何选择一本书呢？他们会去书店，漫步在过道之间，翻阅一本书并阅读前几句，一直到他们对某本书有特别的感觉。而数据主义者会使用亚马逊。当我进入亚马逊的虚拟商店，会弹出一个消息告诉我：“我知道你在过去喜欢哪些书，品味相似的人往往也喜欢这本或那本新书。”



这仅仅是开始。许多设备，如亚马逊的Kindle，能在用户阅读时不断地收集用户数据。你的Kindle可以监视你在一本书的哪些部分读得快哪些部分又读得慢，你在看到哪一页时休息了，看到哪一句时弃书了。如果Kindle升级后具有面部识别软件和生物传感器，它还会知道每个句子是如何影响你的心跳速率和血压。它会知道是什么让你笑，是什么让你难过，是什么让你生气。不久后，在你阅读书的同时，书也在阅读你。虽然你很快就会忘记读过的大部分内容，计算机程序却永远不会忘记。这些数据最终使亚马逊能为你准确挑选你喜欢的书。它还将允许亚马逊准确地知道你是谁以及你的情绪点。 借此可以推论得出，最终，人们可能会授权算法来替他们做生命中最重要的决定，比如与谁结婚。在中世纪的欧洲，牧师和家长有权决定你的伴侣是谁。在人文主义社会，我们把这个权力交给了我们的感情。而在数据主义社会，我将让谷歌来选择。我会说，“嘿，谷歌。约翰和保罗都在追求我，他们两个我都喜欢，但是两种感觉不一样。我真的很难理清楚。鉴于你知道的所有信息，你建议我怎么做？” 而谷歌会回答：“嗯，我从你出生那天就了解你了。我已经阅读过你所有的邮件，记录了你所有的电话，还知道你最喜欢的电影、你的DNA，以及你心脏的所有历史生物信息。我有你每次约会的精确数据，我可以向你展示你每次与约翰或者保罗约会时的心跳速率、血压和血糖水平的实时图表。而且，我了解他们就像我了解你一样。基于这些信息和我的高级算法，以及几十年来关于数百万对恋爱关系的统计数据，我建议你和约翰在一起，因为从长期来看，有87％的可能你和他在一起更满意。



“事实上，我非常了解你，我甚至知道你不喜欢这个回答。因为你给外貌太多的权重，而保罗比约翰更帅气，所以你内心希望我的回答是'保罗'。外貌当然重要，但是并不像你想象的那么重要。你的生化算法在总体评估潜在伴侣时，给外貌的权重是35％。而我的算法是基于最新的研究和统计，认为外貌对恋爱关系的长期成功只有14%的影响。因此，尽管我把保罗的外貌考虑进来，我还是要告诉你，你和约翰在一起更好。” 谷歌将不必变得完美。它不需要在所有时间里都是正确的。它只需要平均比我好就行。而这也不是那么难，因为大多数人并不怎么了解自己，而且大多数人常常在生命中最重要的决定上出现很大的错误。

数据主义的世界观对政治家、商界人士和普通消费者非常有吸引力，因为它带来突破性技术和巨大的新权力。虽然害怕失去我们的隐私和自由选择，但当消费者必须选择是保留自己的隐私还是获得更好的医疗时，大多数人都会为了健康而选择后者。 对于学者和知识分子而言，数据主义承诺实现科学界一个数百年的梦想：一个包罗万象的理论，统一了从音乐学、经济学到生物学的所有科学学科。数据主义认为，贝多芬的第五交响曲、股市泡沫和流感病毒只是三个数据流模式，可以用相同的基本概念和工具来分析。这种想法是非常吸引人的。它给所有的科学家一种共同语言，在学术分歧上建起桥梁，能跨越学科界限发表见解。 当然，像以前无所不包的教条一样，数据主义也可能建立在对生命的误解之上。而且，数据主义没有回答“意识的难题”。目前，我们在数据处理方面解释意识还差得很远。为什么当数十亿大脑神经元彼此传递信号时，就会出现喜爱、恐惧或者愤怒的主观感受呢？对此，我们一无所知。
但即使数据主义对生命的理解有误，它仍然能征服世界。以前的许多教条，尽管有错误，却都获得了巨大的声望和权力。如果基督教和共产主义可以做到，那为什么数据主义不能做到？数据主义拥有大好的前景，因为它正在所有科学领域里蔓延。一种统一的科学范式可能很容易成为一个无懈可击的教条。

如果你不喜欢这样，你想远离算法的能力范围，那就只有一条忠告可以给你：认识你自己。最后，这将是一个简单的经验问题。只要你有比算法更大的洞察力和对自己的理解，你的选择仍然是更好的，你还会有一定的权力留在手中。如果算法将接管一切，那主要是因为大多数人几乎不了解自己。



Yuval Harari 的新书《未来简史》（Homo Deus ： A Brief History of Tomorrow）将于近期发行，以下是《卫报》发表的书评，主要从社会学，即自由民主体制演进的角度，探讨生物科技和前沿技术，尤其是AI会对社会产生的影响。

《卫报》：《人类简史》作者新作《未来简史》预言AI将带来更多不平等。 ----忘掉意识形态吧，自由民主的最新威胁来自技术和生物科学。 历史学家、畅销书《人类简史》的作者Yuval Harari 称，人工智能和基因技术的进步将会把人类带入到一个不平等的、由精英统治的世界。这种威胁有多真？


1967年，BBC著名的里斯讲座（Reith Lecture）请到剑桥大学社会人类学家Edmund Leach主讲，他在演讲的开始说道：“人类变得像上帝一样，这难道不是我们接近理解自己的宿命的时候了吗？科学让我们成为环境和命运的主宰，不过，我们并没有因此感到愉悦，反而充满了深深的担忧。” 虽然这已经是半个多世纪前的话了，但是，Leach的这句开场白对于今天的社会也非常适用。他说这句话时，离互联网建立、人类基因解码都还差得很远，所以，他所说的，“人类正变得越来越像上帝”，与现在人类所拥有的分子生物学和计算能力相比，实在是太微不足道了。在历史上，人类以科学为基础的文化是最强大的，并且关于它的研究、探索、发展和提升是不间断的。但是，最近，随着人类的独创性开始被分散，相关的忧虑也在不断升级。 Leach 在 Reith Lecture 上的演讲题目是《A Runaway World》（一个消失的世界），同样也捕捉到了我们的这个时代的潮流。或多或少地，我们对一个看起来注定会失控的世界的焦虑是在逐渐增加的，这在很大程度上（但不完全）是由于，信息科技和我们的生命科学带来的可能性。但是，我们会从“向来如此”这样的想法中寻求安慰：在George Eliot时代，人们因为蒸汽机而感到恐慌，也曾因为电力、电报和电话的出现而感到激动。 人会安慰自己，是因为人类都经历过了这些技术浪潮，所以同样也会经历当下的这个。人类会混过去的。 但是，在过去5年多的是时间里，这种谨慎、实用主义的乐观开始消退。关于信心的丢失，有好几个原因，其中一个是技术急剧、飞速地变化。另一个是社会中的新力量在全面开火，特别是信息科技和生命科学，这些技术的潜在影响力比蒸汽和电力要深远得多。另外，第三，我们已经开始在这些领域中看到进展，使得我们被迫重新调整自己的期待。 一个经典的例子就是人工智能，其定义是让机器人完成一些需要人的智能才能完成的任务。正如我们中大部分人所记得的那样，AI要达到这种水平，专家们的一半预测都认为至少还需要20年。也许现在仍是如此，但是在过去的几年间，我们看到，机器学习、强大的算法、巨大的处理能力和所谓的“大数据”已经可以让机器做一些让人印象非常深刻的事，比如，实时语言翻译、在复杂的城市环境中安全地开车。要知道，即时是在10年前，这些也还被认为是不可置信的。 反过来，这也导致了一个新的推测，那就是“智能爆炸”的可能性和既有风险，这是由发明具有循环自我改进能力的机器带来的。这种可能性在1965年首先由英国译解密码者IJ Good提出，他写道：“第一个超智能机器就是人类需要的最后一个发明，前提是机器要能够足以温顺到告诉人们如何控制它。”50年之后，我们发现现代的思想家，比如Nick Bostrom 和Murray Shananhan正在严肃地思考这个问题。 所以，现在社会中有一种意识，认为我们正在接近另一个“历史终结”的时刻，但是这次有一些不一样。正在科学家Francis Fukuyama 在他1989年发表的著名文章中写到，苏联的解体意味着东西方的意识形态之争的结束，西方的自由民主的普适性成为人类管理的最后形式。”在那样的历史条件下，他敢这么说，是很大胆，但却不值得赞赏。Fukuyama可能不知道的是，对自由民主来说，新的挑战最后会是物质化，其根基不在于意识形态，而在于生物科学和信息技术。 这一点，就是YuvalNoah Harari的新书《未来简史》（Homo Deus ： A Brief History of Tomorrow）的核心主题。这本书很容易让人联想到他的上一本书《人类简史》（Sapiens: A Brief History of Humankind），书中呈现了人类历史的整个跨度，从智人的出现一直到21世界的政治和技术革命，后来，该书成为了畅销书。 大多数写新兴技术的作家都过于关注技术本身，对于塑造技术的社会的角色着墨甚少。这一部分原因是，对这些感兴趣的人（比如工程师）是决定论者：他们相信，技术驱动历史。并且，从本质上来说，Harari也是一个决定论者。“在21世纪早期”，他在一篇引人注意的文章中写道，“进化的列车又一次被放到了铁轨上，这很可能是离开智人这一阶段的最后一班列车，错过了的人永远也不会有第二次机会。为了能在这趟火车上有一个位置，你需要理解21世纪的技术，特别是生物技术和计算机算法的能力。”
他接着写道：“这些东西比蒸汽和电报更加有力，也不会主要被用来生产食品、纺织物、汽车和武器。21世纪的主要产品将会是身体、大脑和思想，此外，知道如何为身体和大脑编程的人和不会的人之间的鸿沟将会比迪金斯笔下的英国和Madhi笔下的苏丹之间的差异更大。在21世纪，坐上进化火车的人，会获得创造和变革的能力，而余下的人则有面临灭绝的风险。”
这看起起来好像是决定论者打了鸡血。而这些并不荒谬，因为Harari 把科学和技术的故事置于一个历史分析的背景下， 对自由民主的是如何演进的进行研究。他提供了一个精彩的解释，关于自由民主的秩序是如何被人类在过去半个世纪中创造的令人震撼的知识和工具所颠覆的。 所以，也许最后你不同意他的观点，但是你至少可以看看他是如何论证的。 从某种程度上来说，这是一个关于进化和现代性本质的故事。Harari说，人类相信宇宙秩序，他们的世界由万能的上帝把控，上帝以一种秘密的、人类难以理解的方式行使权力。一个人能做的就是屈服于这些吓人的权力，服从那些声称自己是上帝和人类之间代理人的牧师。 但随后产生了科学。Harari指出，现代性的历史就是科学与宗教之间的斗争。理论上说，科学与宗教都在追寻真理，但却是完全不同的真理。宗教的核心在于秩序，而不断演化的科学却主要关乎力量——从理解事情为何发生、如何发生当中产生的力量，这股力量使我们能够做到很多事情，比如治愈疾病、征战、生产粮食。



最后，科学至少在地球上的某些地方取得了胜利：相信世界上存在超越万物力量的信仰被挤到了社会边缘，甚至遭到唾弃。随着科学发展，我们的确获得了权力，而在现代社会以前，这些权力被认为只有神明才拥有（Edmund Leach 的观点）。但如果就像尼采说的那样，上帝已死，那人类该从哪里找寻意义？“现代社会，”Harari 写道，“承诺给我们前所未有的权力——并且实现了这一承诺。但代价是什么呢？为了换取权力，现代社会要求我们用意义做交换。人类如何应对这一冰冷的要价？……道德、美、怜悯如何在一个拥有上帝、天堂和地狱的世界存在？” Harari 指出，答案就在一种新的宗教里：人文主义——“将智人的生命、幸福和力量神圣化”的信仰系统。诠释现代社会特色的那笔交易，也成了人文主义与科学之间的盟约，后者负责为实现前者明确的目标提供方法和手段。 Harari 认为，这种盟约注定在本世纪破灭，而由此会带来人类生死存亡的危机。生物科学和信息技术不可避免的影响之一，便是破坏并最终消灭人类赖以为生的基础。而鉴于自由民主是建立在对人文主义目标的崇拜之上（就像美国国父所说的那样，“生来平等”的公民“生存、自由和追求幸福的权利”），然后我们新的力量会把自由民主摧毁。 为什么？因为现代社会是围绕个人主义、人权、民主和自由市场建立起来的，而这每一个支柱都在遭受21世纪科学和技术的侵蚀。人文主义者高呼的个人主义正遭到生命科学的冲击，“自由个体不过是生化算法交织成的童话”。同样的，人类拥有自由意志。人类能够自由地做出选择，但其可能的范畴却由另外的事物决定。越来越多地，这种范畴正在由谷歌、亚马逊等大公司所施行的“监控资本主义”外部算法所决定——最终，互联网公司将在你意识到之前就明白你想要什么。 在这里，Harari提出了一种赫胥黎式的反乌托邦主义。他指出了三大方向： 1.人类将失去他们的经济和军事用途，经济系统将不再有价值。2.对系统来说，人类整体将具有价值，但个体将没有价值。3.然而，系统将在一些个体身上发现价值，“但他们将成为一个超人的新物种，而不是普通大众”。Harari说的“系统”，指的是生物科学和信息技术以当前极快速度发展下去产生的新的社会。过去，社会是建立在宗教和科学的交易之上，但是这次，人文主义将被“数据主义”取代。数据主义认为，宇宙是由数据流组成，而实体或现象的价值由其对数据处理的贡献决定。
就个人而言，我并不赞同他有关数据主义的想法：我们当前对“大数据”的迷恋来源于技术官僚的意识形态，而这个意识形态最终将在自己的荒谬重压之下崩溃。
但其他两个方面，Harari理解得很深刻。第一，我们坚信自己不可能被机器所取代，这一信念可能是幼稚的，因为我们认为自己拥有意识，而机器没有意识，这不是因为机器可能拥有意识，而是因为Harari的反乌托邦成为现实并不需要机器具备意识。机器只要拥有超级智能便可以了：智能是必要的;意识是一个额外的选择，大多数情况下存在与否并不重要。因此，意识并不是AI发展的搅局者。
第二，我敢肯定，他对于生物科学的潜力的预估是准确的。就连《经济学人》杂志最近都刊登了封面文章《骗过死亡：可以延长你寿命的科学》。但是，由遗传技术带来的新可能性将是昂贵的，并且只供少数精英使用。因此，医药为多数人带来良好的卫生保健、对整个人口进行“升级”的时代已经走到尽头。即使是现在，富人也活得更长，生活更健康。而再过几十年，这种差距将扩大称一个无法逾越的鸿沟。 《未来简史》是一本了不起的书，充满了关于我们认为我们对我们自己和我们的历史所知道的洞见和分析。有些情况下，（在我看来）它关于信息技术的影响的预测有些幼稚。但是，它真正的价值在于，在科技这个大背景下，对自由民主如何演变进行猜测。