《未来简史》第九章-大分离

全文朗读

　　上一章简单回顾了近来的科学发现对自由主义哲学有何伤害，现在则该来审视这些发现对实际生活有何影响。自由主义推崇自由市场和民主选举，是因为自由主义相信每个人都独一无二、各有价值，而且每个人的自由选择就是权威的本源。但在21世纪，有三项“务实”的发展，可能会让这种信念成为明日黄花：
　　1.人类将会失去在经济和军事上的用途，因此经济和政治制度将不再继续认同人类有太多价值。
　　2.社会系统仍然认为人类整体有其价值，但个人则无价值。
　　3.社会系统仍然会认为某些独特的个人有其价值，但这些人会是一群超人类的精英阶层，而不是一般大众。
　　让我们仔细审视这三个威胁。第一，科技发展将使人类不再具备经济和军事上的用途：这一点虽然不会从哲学层面推翻自由主义，但在实际生活中，很难想象民主制度、自由市场和其他自由主义制度如何能承受这记打击。毕竟，自由主义之所以能成为意丨只形态的主流，并不只是因为它的哲学论证最合理，更是因为它赋予每个人价值，这一点在政治、经济和军事上大有好处。在现代工业战争的大规模战场、现代工业经济的大规模生产线上，每个人都很重要。只要能拿起步枪或是扳动拉杆，每双手都有价值。
　　1793年春天，欧洲各王朝派出军队，希望将法国大革命扼杀于襁褓之中。巴黎革命分子则宣布全国总动员，发动第一波全面战争。8月23日，法国国民公会（NationalConvention)下令：“从现在起到一切敌人被逐出共和国领土时止，全法国人民始终处于征发状态，以便为军事服务。动员是普遍的。18岁至25岁的未婚公民或无子女的鳏夫应首先参军，青年人则去打仗；已婚男子则制造武器和运送粮食；妇女则制造帐篷、衣服和服务于医务；儿童则将旧布改成绷带；老年人则至广场鼓舞战士们的勇气，宣传痛恨国王和共和国的统一。”1
　　法国大革命最著名的文件《人权和公民权宣言》（TheDeclarationoftheRightsofManandoftheCitizen)认定所有公民拥有同等价值，享有平等政治权利。但与国民公会所下的命令两相对照，足堪玩味。在这历史上的同一时刻，一方面宣告普世人权，另一方面下令不分男女老幼全国总动员，难道真是巧合？虽然学者对于两者究竟有何确切关系还多有争辩，但在接下来的两个世纪中，一种维护民主的常见论点认为让公民拥有政治权利是件好事，因为民主国家的士兵和工人会比独裁政权中的士兵和工人表现更好。据称，让人民享有政治权利，就能增强动机和进取心，而这在战场上和1：厂里都大有益处. 哈佛大学校长查尔斯.艾略特（CharlesW.Eliot，任期为1869—19〇9年）曾于1917年8月5日在《纽约时报》发文：“民主军队的战斗力高于用贵族方式组织、独裁方式统治的军队……由民众决定立法、选举公务员、解决和平与战争问题的国家，比起靠世袭或全能的神所委托的独裁者，前者的军队战斗力也要更强。”2
　　第一次世界大战后，基于类似的理由，妇女获得了各项权利。各国意识到女性在这场全面工业战争里扮演重要角色，认为有必要在和平时期也赋予女性政治权利。因此在1918年，美国总统伍德罗•威尔逊支持女性拥有投票权，向参议院表示，在第一次世界大战中，“若不是因为有女性在各个领域提供服务，美国或其他任何参战国家都不可能赢得胜利；而且这里指的不只是我们一般习于见到的女性工作领域，而是所有过去属于男性的工作领域。如果不让女性享有尽可能完整的权利，我们不仅会失去民众的信任，更是咎由自取”3。
　　但到了21世纪，不论男女，大多数人都可能不再具有军事和经济上的价值。两次世界大战投入大量人力的时代已经过去，21世纪最先进的军队，主要靠的是尖端科技。现在的战争需要的不再是人数无上限的炮灰，而是精挑细选少数训练精良的士兵，甚至人数更少的特种部队超级战士，加上几个知道如何生产和使用先进科技的专家。由无人机和蠕虫病毒组成的高科技部队，正在取代20世纪的人海战队，而指挥作战的将军也将越来越多关键决定交给算法处理 有血有肉的战士除了行事难以预测，还容易受到恐惧、饥饿和疲劳的影响，思考及行动的速度也越来越无法赶上现代战争的步调。从古巴比伦的尼布甲尼撒二世到现代伊拉克的萨达姆•侯赛因，虽然科技已有各式进展，但战争仍然处于人类的步调:>讨论得花上几小时，一场战役得花上几天，战争得拖上几年。但网络战一场战争的时间可能只有几分钟。在网络指挥中心值勤的中尉发现有异常状况后，就算立刻致电上级，上级再立刻上报白宫，最后还是只能一声哀叹，因为等到总统接到消息，这场战争早已一败涂地。只要短短几秒，计划精密的网络攻击就能够1上全美电网断电，破坏航空管制中心，造成核电厂和化学工厂大量事故，干扰警察、军队和情报通信网络，甚至是抹除所有金融记录，让数万亿美元就这样消失于无形，没人知道究竟谁拥有什么。这种时候，唯一让民众还不会歇斯底里的原因，就是网络、电视和广播也全面断线，所以大家连情况有多惨都不知道。
　　如果是比较小的规模，假设空中有两架无人机正在交战。其中一架需要先接收到远方地堡内操作人员的命令才能开火，另一架则能完全自主开火。你觉得哪一架胜算大？假设到了2093年，已经老旧迂腐的欧盟决定派出无人机和机器人来对抗新时期的法国大革命，新的巴黎公社可能会招募所有的黑客、计算机和智能手机参战，但大多数人大概已经都派不上用场，顶多只能当人肉盾牌。这是事实：在今天的许多不对称冲突中，大多数公民只能作为各式先进武器的人肉盾牌：

图43左图：1916年，索姆河战役（BattleoftheSomme)中的作战士兵;右图：无人机

　　此外，就算不管胜败问题，单单为了正义，也该支持用机器人和无人机取代士兵和飞行员。人类士兵可能犯下谋杀、强奸、劫掠等罪行，而且就算他们守规矩，误杀平民仍然在所难免。相较之下，如果是搭载伦理算法的计算机士兵，遵守国际刑事法院最新规约的可能性就高多了。
　　经济领域也有相同情形，能够举起锤子或按下按钮的能力已经不如以往有价值。这也就危害了ft由主义和资本主义之间重要的合作关系。在20世纪，自由主义认为伦理和经济能够兼得，保护人权和自由既是伦理道德的必要之举，也是经济发展的关键因素自由主义认为，英美法等国正是因为开放经济和社会而繁荣，而如果土耳其、巴西或中国也想达到同样程度的繁荣，就该起而效法。许多甚至是绝大多数的专制君主或军人政府，也是出于经济而非道德因素，才最终愿意走向开放。
　　到了21世纪，自由主义的影响力将会大不如前。随着大众在经济上不再重要，仅靠伦理道德，是否足以保护人权和自由？无法从中获得经济利益后，精英阶层和政府还会认定每个人都有价值吗？过去有许多事情只有人类才能做得到，但现在机器人与计算机正迎头赶上，可能很快就会在多数的任务上超越人类。确实，计算机的运作方式与人类的行为方式非常不同，而且看来短期内计算机也不会变得更像人类，特别是应该并不会获得意识或是具备情绪和感觉。过去半个世纪，计算机智能（computerintelligence)已经有了巨大进展，但在计算机意识(computerconsciousness)方面却仍在原地踏步。据我们所知，2016年的计算机并未比20世纪50年代的计算机原型意识更强。然而，一场重大革命一触即发。“智能”即将幵始与“意识”脱钩，人类因此面临失去经济价值的危险。
　　高度的智能与发达的意识一向是两个形影不离的概念。必须是具有意识的个体，才能执行需要高度智能的任务，例如下棋、开车、诊疗，或是辨认出恐怖分子。然而，我们正在开发新型的“无意识智能”，做起这些事来比人类更快更好。原因在于，这些任务是基于“模式识别”，而无意识的算法很快就能在这一点上超越人类。
　　科幻电影通常假设计算机如果想赶上甚至超越人类的智能，就必须发展出意识。但真正的科学却有另一种看法。想达到超级智能可能有多种方式，并不是每一种都需要通过意识。数百万年来，生物进化一直顺着意识这条道路缓缓前行，但非生物的计算机却可能完全不会走这条窄路，而是走向另一条通往超级智能的捷径。这就产生了一个新问题：智能和意识，究竟哪个才真正重要？在两者仍然携手同行时，讨论两者的价值孰高孰低，大概只会是哲学家的有趣消遣。但在21世纪，这正成为一个急迫的政治和经济问题。至少对军队和企业来说，答案再简单不过：智能是必要的，但意识可有可无。
　　军队和企业需要具有智能的代理人才有办法运作，但这样的代理人却不见得需要有意识和主观体验。举例来说，如果是有血肉之躯的出租车司机，个人有意识的体验绝对比毫无感觉的自动驾驶汽车丰富。出租车司机可以一边在首尔繁忙的街道上开车，一边享受音乐。他抬头望见星空，思考着宇宙的奥秘，内心因敬畏豁然开朗。而看到自己的小宝宝跨出第一步，他的眼睛也可能充满喜悦的泪水。只不过，这一切都不是社会系统需要出租车司机具备的特质。社会系统需要的只是把人从A点运到B点，而且要最快、最安全、成本最低。就这一点而言，自动驾驶汽车很快就能做得比人类司机更好，就算它不能享受音乐，也不会因为存在的奥秘而深感敬畏，又有什么关系呢？
　　我们回想一下，马匹在工业革命开始后命运如何。任何一闪农场里的马，不论是在嗅觉、爱的能力、认人的能力、跳过栅栏的能力或是其他上千件事情上，绝对都远高于史上首款平民汽车福特T型车，或是价值百万美元的兰博基尼。然而，马匹仍然被汽车取代，原因就在于汽车在社会系统真正需要的那少数几个领域中胜出出租车司机很有可能也会步马匹的后尘。
　　事实上，如果规定所有车辆都不得由人驾驶，并将整个交通控制权交给计算机算法，就能将所有车辆连接成单一网络，大大降低车祸发生率。2015年8月，谷歌实验中的无人驾驶汽车发生车祸。当时这辆车正接近一个十字路口，发现有位行人想过马路，于是刹了车。但接着这辆车就遭到后方车辆追尾，后面那辆车的人类司机心不在焉，可能正思索着宇宙的奥秘，结果就忘了看路。如果两辆车都是由互相连接的计算机来指挥，这种事就不可能发生。控制驾驶的算法能够清楚掌握每辆车在路上的位置和行动方向，绝不可能允许自己操纵的两辆车就这样相撞。如果能有这样的系统，就能大幅节省时间和金钱，并且拯救人的生命；只不过，这也会剥夺人类开车的体验，砍掉几千万人的工作机会。4
　　一些经济学家预测，人类若不能变得更强大，迟早会变得完全没有用途。机器人和3D打印已经开始取代人力，就像以前的制衣等手丁.业，而高智能的算法也即将在白领职业中掀起同样的风潮3不久之前，银行丁.作人员和旅行社工作人员似乎还不受自动化影响，但现在他们却濒临失业。如果我们只要用智能手机就能买到机票，为何还需要旅行社人员？
　　股票交易员同样面临这种危险。现在大多数的金融交易都已经通过算法来管理，只要一秒，能处理的数据量就比个人花上一年处理的数据量还要大，而且瞬间就能做出反应。2013年4月23日，叙利亚黑客人侵美联社官方推特账户。当天13点07分，他们发出推文，称白宫遭到攻击、奥巴马总统受伤。各个持续监控所有新闻媒体的交易算法瞬间做出反应，疯狂抛售股票。道琼斯指数如同自由落体，短短60秒大跌150点，相当于有1360亿美元瞬间蒸发！13点10分，美联社澄清，表示该推文并不属实。于是算法开始倒车，到了13点13分，道琼斯指数几乎已经完全收回先前的损失。
　　2010年5月6日，纽约证券交易所还经历过更剧烈的震荡。在14点42分到14点47分这不过五分钟的时间内，道琼斯指数狂跌1000点，1万亿美元烟消云散。但接着，只花了三分多钟，指数就回到了狂跌前的水平。把我们的钱交给超高速计算机程序来操作，就是会发生这种事。这次事件被称为“闪电崩盘”（FlashCrash)，而专家还在努力研究这一切究竟是怎么回事。他们知道一定是算法出了问题，但无法确认错在哪里。美国部分交易商已经对算法交易（algorithmictrading)提起诉讼，认为这种做法是对人类的歧视，人类在反应速度上绝不可能与之匹敌。仅是讨论这是否真正构成侵权，就会给律师带来大量的工作，当然也有大量的收入。5
　　这里讲的律师也不一定是人。在电影和电视上，似乎律师整天在法庭上喊着“反对”，然后发表慷慨激昂的演讲。然而，大多数普通律师得花上最多时间的，反而是翻阅海量文件，寻找判例、漏洞，或是那一丝丝可能相关的证据。有些得忙着找出某人被杀的当晚究竟发生了什么事，也有些忙着写出厚度惊人的商业合约，确保客户避开任何目前可知的风险。如果有一天，复杂的搜寻算法只要一天时间，•找到的判例就能比一个人花一辈子找到的还要多，而且只要按个按钮进行脑部扫描，就能戳破所有的谎言和欺骗，这些律师该何去何从？仅靠观察脸部表情和说话语调，就算是经验极其丰富的律师和侦探，也很难准确判断对方是否心口一致。然而，说谎用的脑部区域和说实话的脑部区域大有不同，虽然目前尚未实现，但已经可以想象，在不太遥远的未来，功能性磁共振成像扫描就能用作几乎绝对精准的测谎议。这样一来，几百万的律师、法官、警察和侦探还能做什么？岂不是得回学校再学个新的专业？6
　　但等到他们进了教室，却很可能发现等着他们的还是算法。Mindojo之类的公司，正在开发互动算法，不只能教授数学、物理、历史，还能同时研究教授对象这个人。这种数字教师会仔细监测我答了什么，花了多长时间。一段时间后，它们就能判断出我个人独特的优缺点，也知道什么能让我精神一振，什么会叫我眼皮下垂。它们可以用最适合我人格类型的方式来教我热力学或几何学，无须担心这种方式并不适合其余的99%的学生。这些数字教师永远不会失去耐心，永远不会对我大吼大叫，也永远不会罢工。问题在于，都已经有了这样有智慧的计算机程序，我为什么还需要学习热力学或几何学？7
　　就连医生也无法幸免。大多数医生最主要的任务，就是正确诊断疾病，制定最好的治疗方案。如果我因发烧、腹泻去诊所，病因可能是食物中毒。然而，同样的症状也可能是因为肠胃病毒、霍乱、痢疾、疟疾、癌症，或是什么未知的新疾病。医生只有几分钟时间就要做出正确的诊断，因为我的保险就只付得起这么多时间。所以，医生只能问几个问题，或许再快速做个简单检查，接着就得用这少得可怜的信息，结合我的病史以及所有人类的疾病来做出判断。唉，不管医生再怎么认真，又怎么可能记得住我以前生过什么病、做过什么检查？同样，没有哪位医生能够熟悉每种疾病和药物，也不可能读过医学期刊上的所有最新文章。最重要的是，医生如果累了、饿了，甚至生病，都会影响判断。也就难怪医生有时会误诊，又或是给出的并非最理想的疗法
　　现在让我们来看看IBM著名的超级计算机“沃森”，这套人工智能系统2011年在电视益智抢答节目《危险边缘》中获胜，击败该节目史上最强的两位参赛者。而目前“沃森”的工作则严肃许多，主要就是诊断疾病。像“沃森”这样的人工智能，比起人类医生会有某些巨大的潜在优势。
　　第一，人工智能可以将史上所有已知疾病和药物的信息全部存在数据库里而且这种数据库还能每天更新，不仅包括最新研究结果，还能接收到世界上所有相关诊所和医院收集到的医疗统计信息。 　　第二，“沃森”不仅能熟知我的整个基因组、完完整整的病史，甚至连我的父母、兄弟姐妹、表亲、邻居和朋友的基因组和病史，它也一样了如指掌。“沃森”能立刻知道我是不是最近去过热带国家，是否胃部感染痼疾，家族是否有肠癌病史，又或者是不是最近全城的人都在抱怨腹泻。
　　第三，“沃森”永远不会说它累了、饿了或病了，它能随时为我诊断。我可以舒舒服服坐在沙发上，回答几百个问题，告诉“沃森”我究竟感觉如何。对大多数患者来说（或许除了疑病症患者），这会是个天大的好消息。但如果你是今天进医学院学习，希望自己在20年后能当个家庭医生，或许就该重新考虑。有了这样的“沃森”，哪还有福尔摩斯出场的机会？
　　这种威胁影响的不仅是家庭医生，就连专科医生也无法幸免。而且事实上，钻研于相对专精领域（如癌症诊断）的医生，可能更容易被取代。最近一项实验中，计算机算法能够正确诊断90%的肺癌病例，但人类医生的正确率只有50%。8所谓的未来，其实已经来临。目前，用专门算法处理电子计算机断层扫描（CT)和乳房X射线照相检查已是常规，不仅能够为医生提供参考意见，有时还能抓到医生未注意到的肿瘤。9
　　目前仍有许多技术问题，让“沃森”及类似的人工智能不可能明天一早就忽然取代大多数的医生。然而，虽然这些技术问题确实棘手，解决后却是一劳永逸。人类医生的培训是一个复杂而昂贵的过程，费时多年。而且，经过大约10年的学习、实习，终于完成整个过程之后，也只是培养出了“一位”医生。想要两位医生，只能从头再来一遍整个过程。相对地，只要解决了阻碍“沃森”的技术问题，能得到的不是一位而是无数位医生，能够在全世界每个角落、全年无休提供服务。因此，就算得花上1000亿美元才能解决这个问题，长远看来，还是比培训人类医生便宜得多。
　　当然，并不是所有的人类医生都会就此消失。至少在可预见的未来，那些需要创意而不只是日常诊断的工作，还会继续由人类完成。正如21世纪的军队逐步扩增精英特种部队，未来的医疗也可能有更多等同于医疗界游骑兵或海豹突击队员的医生。但正如军队已不再需要几百万士兵，未来的医疗也不会需要几百万名家庭医生。
　　医生面临的情境，对药剂师来说更是如此。2011年，旧金山就开了一家药店，由机器人担任药剂师。顾客上门之后，机器人只要几秒就能接收到这位顾客的所有处方、服用药物的详细信息，以及顾客可能对哪些药物过敏。机器人会先确认新的处方不会造成过敏，也不会与其他药物产生不良反应，接着才会为顾客配药3开业第一年，机器人药剂师开出超过200万张处方，一个错都没犯。而平均来说，人类药剂师配药错误的比例大约占所有处方的1.7%。也就是说单单在美国，每年就会有超过5000万张处方配错！m
　　又会有人说，就算算法在专业技术方面优于医生和药剂师，却永远无法取代人性的温暖。假设CT扫描显示你得了癌症，你希望告诉你这个消息的是一台冰冷的机器，还是一个会注意到你情绪的人类医生？如果还有另一台机器，能注意到人类情绪，会依据你的感受和人格特质而调整用词，这下该怎么选？请别忘了，生物也是由各种算法构成，而“沃森”探测人类情绪的准确度，可以和探测肿瘤的准确度一样高。
　　“沃森”分析这种外部信号的准确度不仅高于人类医生，甚至还能同时分析一般人看不到、听不到的内部指标。“沃森”能够靠着监测你的血压、脑部活动和其他无数生物统计资料，清楚知道你的感觉。而在分析数百万笔过去收集的社交信息后，“沃森”就能用最适当的音调、你最想听的词汇，告知你需要知道的事情。虽然人类总对自己的情绪智能洋洋得意，却也常常受情绪影响，做出消极反应。比如你遇到一个愤怒的人，自己也开始大吼大叫；听一个忧虑的人讲话，自己也忧虑了起来。“沃森”永远不会被这种诱惑影响，它没有自己的情绪，所以永远只会依据你的情绪状态做出最恰当的反应。
　　这种概念目前已经应用到某些客户服务上，比如芝加哥的Mattersight公司就设计出此类软件。Mattersight的产品广告词就是：“是否曾和某个人说话，觉得真是触动心弦？那种神奇的感受，正是人格匹配的结果。Mattersight将让全世界的客服中心都能创造这种感受。”11通常，打电话咨询客服或投诉的时候，大概要花个几秒钟，把电话转给专员。而在Mattersight的系统里，电话会由一套聪明的算法来负责转接。算法会先请你说出致电原因，接着聆听问题，分析你用的词汇和语调，以此推断你当时的情绪状态甚至性格类型（内向、外向、反叛或依赖）。根据这套信息，算法再为你转接至最适合你当时心情并符合你个性的专员。算法能够判断，你需要的该是具备同情心、能够耐心听完投诉的客服，还是毫不废话、立刻提出技术解决方案的客服。搭配越得当，顾客就越满意，客服也就能降低服务时间和成本。12

无用的阶级（本段由于含有敏感词，不予在社区论坛发布，可以进入通约智库阅读）
87%的可能性
　　本章开头指出几个自由主义面对的实际威胁，第一个就是人类不再具备军事和经济上的用途当然，这并非预言，只是一种可能。不论是科技上的闲难还是政治上的反对，都可能减缓算法入侵就业市场的脚步」而且，由于人类心智还有大片未知的领域，我们还不确定人类是否有什么隐藏的才能，或是能够创造出什么新工作来填补旧工作消失造成的缺口。然而，仅是这样可能还不足以拯救自由主义。因为自由主义不仅相信人的价值，还相信“个人主义”。这就要指出自由主义面临的第二个威胁：社会系统未来可能仍然需要人类，但并不需要个人。人类还是会继续写音乐、教物理、做投资，但社会系统会比他们更了解他们自己，也会为他们做大多数重要决定也就是说，社会系统将会剥夺个人的权威和自由。
　　自由主义对个人主义的信念，前提就是之前讨论的三个重要假设：
　　1.我是一个不可分割的个体，也就是说，我具备单一的本质，无法再分为各个部分或子系统确实，这个内部核心可能有许多外层，但只要把这些外层剥掉，就能在内部找到一个清晰、单一的内在声音，也就是真正的自我
　　2.真正的自我是完全自由的3
　　3.根据前两个假设，我能够了解一些别人发现不了的自己7只有我能够进入我自己内心自由的空间，只有我能听到自己真实自我的低语。正因为如此，自由主义才赋予个人极大的权威。我不该相信其他任何人为我做出选择，因为没有别人能够真正了解我是谁、我有什么感觉、我想要什么。因此，选民能做出最好的选择，顾客永远是对的，而且情人眼里永远出西施:，
　　然而，生命科学却对这三个假设都提出挑战，认为：
　　1.生物就是算法，人类不是不可分割的个体，而是由可分割的部分组成.:，换句话说，人类是许多不同算法的组合，并没有单一的内在声音或单一的自我。
　　2.构成人类的算法并不“自由”，而是由基因和环境压力塑造，虽然可能依据决定论或随机做出决定，但绝不“自由”。
　　3.因此，外部算法理论上有可能比我更了解我自己。如果能用某个算法监测组成身体和大脑的每个子系统，就能清楚掌握我是谁、我有什么感觉、我想要什么。只要开发出这样的算法，重点就不再是选民、顾客和情人；而是算法能做出最好的选择，算法永远是对的，算法觉得美，就是美。
　　在19世纪和20世纪，由于没有任何外部算法能够有效监测个人，因此个人主义仍然是一种很实用的选择。虽然国家和市场可能都很想做到这一点，但当时缺少必要的科技。不论是克格勃还是美国联邦调查局都无法完全掌握我的生物特征、基因组和大脑，而且就算特工偷听我每次打的电话、监视我在街头和其他人的每次互动，也没有足够的运算能力来分析这些数据。因此就20世纪的科技而言，自由主义说得并没错，没有人能比我更了解我自己。于是，人类有充分的理由认为自己是个自主的系统，听从的是自己内在的声音，而不是什么权威的命令。
　　但到了21世纪，科技已经让外部算法有能力“比我更了解我自己'一旦如此，个人主义就即将崩溃，权威也将从个人转向由算法构成的网络。人类不会再认为自己是自主的个体，不再依据自己的期望度日，而是习惯把人类整体看作一种生化机制的集合体，由电子算法网络实时监测和指挥。要发生这种情况，算法甚至不需要能够完全了解我而 且绝不出错，只要比我自己更了解我、犯的错更少，就已足够。到了这个程度，合理的做法就是把越来越多的选择和人生大事都交给算法来为我做决定D
　　在医学领域，我们早已跨过这条线。在医院里，每位患者不再是“个人”。很有可能在我们的有生之年，就会看到许多关于身体和健康的重大决定将由计算机帮忙决定，就像IBM的“沃森”。这倒也不一定是个坏消息。目前，已有糖尿病患者安装传感器，每天几次自动检测血糖值，并在超标时发出警告。2014年，耶鲁大学研究人员宣布一种由智能手机控制的人工胰脏试验成功。有52名糖尿病患者参与该试验，每位患者都在腹部植入一个小小的传感器和小小的胰岛素泵。胰岛素泵连接装有胰岛素和升糖素的小管，用这两种激素来调节血糖高低。传感器会不断测量血糖值，将数据传至智能手机，而智能手机安装了能够分析相关信息的应用程序，能在必要时对胰岛素泵发出命令，释出胰岛素或胰高血糖素，完全不需人为操作。22
　　就算是许多没有严重疾病的人，也已经开始使用可穿戴式传感器和计算机来监测自己的健康和活动状况。相关设备，比如智能手机、智能手表、智能手环、智能臂环甚至是智能内衣，记录着血压和心跳等生物统计数据。这些数据被传送到精密的计算机程序中，建议穿戴者如何调整饮食和日常生活，改善健康、延长寿命。23谷歌与制药巨头诺华(Novartis)正在合作开发一种隐形眼镜，能够通过分析眼泪成分，每隔几秒检测血糖值。24精灵科学（PixieScientific)公司则推出智能尿布，能分析婴儿的粪便，了解孩子的健康状况。2014年11月，微软也推出智能运动手环MicrosoftBand，能够监测心跳、睡眠质量、每天行走步数等信息。一个名为“Deadline”的应用程序则更进一步，它会告诉你，根据你现在的生活习惯，你大概还有几年可活。
　　有些人用这些应用程序时并没想太多，但对某些人来说，这已经构成一种意识形态甚至是宗教。“量化自我”（QuantifiedSelf)的运动认 为，所谓的自我，就是数学模式。但这些模式非常复杂，人类心智无法理解。所以，如果真想遵从德尔菲神殿的神谕“认识你自己”，就别再浪费时间研究哲学、冥想或精神分析，反而该系统性地收集自己的生物统计数据，允许算法为你分析这些数据，告诉你你是谁、该做些什么。这波运动的箴言，就是“通过数据，认识自己”。25
　　2000年，以色列歌手施洛米•沙湾（ShlomiShavan)以一曲《亚里克》“r/A:)登上当地流行排行榜首。歌曲故事的男主人公一直很纠结于女友的前男友亚里克D他想知道，他和亚里克究竟谁床上表现更佳。女友不想回答这个问题，只说各有长处。但这家伙并不满意，追问：“小姐，告诉我明确的数字。”正是为了这种人，有一家名为“Bedpost”的公司，开发了一种生物计量臂环，让你在做爱时戴着，收集心跳、排汗、性交持续时间、性高潮持续时间、消耗的卡路里等数据。这些数据会传到计算机加以分析，用精确的数字来评估你的表现如何。这下可不能再假装高潮，也不用再问“刚才爽不爽？”了。26
　　像这样通过设备无情揭示一切真相来了解自己之后，可能就会让人开始觉得自己是许多生化系统的集合，而不是不可分割的个体；而且，这些人做的决定也越来越反映出其中各种系统需求的拉扯。27假设你每周有两小时空闲，正在考虑该拿来下棋还是打网球。可能有个好友会问：“你内心的想法是什么？”但你的回答可能是：“那当然打网球更好，而且这也能更好地控制胆固醇和血压。只不过，我的功能性磁共振成像扫描说我该加强左前额皮质，毕竟我家族有这方面的病史，有个叔叔还很年轻就出现痴呆症状了。而最新研究指出，每周下一次棋，就能预防痴呆症状发生。”
　　到医院的老年病房，还能找到更多通过设备进行外部调节的例子。人文主义总是颂扬老年，说这时期充满智慧、洞察世情。一位理想中的长者，虽然身体可能没那么硬朗，但心智敏锐明快，更有可能长达80年的人生智慧可以分享，也总能为儿孙或其他访客提出恰当的建议但 到了21世纪，80岁的人可能就不是这个形象了。随着我们越来越了解人类生物学，医学虽然能让人延长寿命，但心智和那个“真正的自我”却已经崩解溃散。最后剩下的，常常只是各种已经功能失调的生物系统集合，倚靠着各种监视器、计算机和调节泵，才得以勉强维持下去。
　　在更深的层次，随着基因科技应用到日常生活，每个人和自己的DNA发展出日益密切的关系，过去真实的内在自我声音，也可能溃散成基因群的众声喧哗。现在再遇到两难或困难的抉择，我可能不会再问自己内心的声音，而是咨询我体内的基因有何决定。
　　2013年5月14日，女星安吉丽娜•朱莉在《纽约时报》上发表了一篇文章，解释她为何决定进行双乳乳腺切除术。多年来，由于母亲和外祖母双双在相对年轻时因癌症过世，她一直活在乳腺癌的阴影下。而她自己做了基因测试，证实带有致癌变异基因BRCA1。根据最近的统计调查，带有此类变异基因的女性，罹患乳腺癌的概率高达87%。虽然当时她并未患癌，但她决定干预这种可怕的疾病，于是进行了双乳乳腺切除手术。在文章中，朱莉解释道：“我选择把自己的故事说出来，是因为有很多女性并不知道自己可能活在癌症的阴影下。我希望她们也能够进行基因测试，如果发现自己罹患癌症的风险很高，也可采取有效预防措施。，，28
　　乳腺切除术是一项困难也可能致命的抉择。除了种种不适、风险、手术及术后护理的成本之外，这项决定也可能深深影响个人的健康、身体形象、情绪健康及人际关系。朱莉的这个选择，加上当时决定公开的勇气，引起一阵轰动，为她赢得全世界的盛誉和赞赏，特别是有许多人希望这样的公开举动能让大众更了解基因医学及其潜在效益。
　　从历史观点来看，有趣的是算法在这个案例中所扮演的关键角色。朱莉在做出对生活如此重要的决定时，并没有登上山巅俯瞰海洋、看着太阳沉人海中、接触自己内心最深处的感觉，反而宁愿听听自己的基因怎么说，而基因的表达方式并不是用什么感觉，而是用数字。当时，朱 莉的身体并没有任何疼痛或不适，她的感觉告诉她：“放轻松，不会有事的。”但医生用的计算机算法的说法却完全不同：“你并未感觉有任何不适，但你的DNA里有个定时炸弹正在嘀嗒倒数。你必须处理这个问题，现在就处理！”
　　当然，朱莉的情绪和独特人格也扮演着关键角色。如果是另一位个性不同的女性，就算发现自己也携带同样的变异基因，也可能不会进行乳腺切除术。然而，现在让我们来到灰色地带，假设这位女性发现，自己不但携带有危险的变异基因BRCA1,还携带有另一个变异基因ABCD3(并没有这个基因，只是假设），会损害负责评估概率的大脑区域，进而使人们低估风险，她该怎么办？如果又有统计学家告诉她，她的母亲、外祖母和其他几位亲戚都是因为低估各种健康风险未能采取预防措施而英年早逝，这时候她又该如何抉择？
　　很有可能，你在未来也需要像朱莉一样，对自己的健康做出重大抉择。经过基因测试、血液测试或功能性磁共振成像扫描，算法能根据巨大的统计数据库来分析结果，你也会接受算法的建议。但这并不是世界末日，算法并不会忽然占领、奴役人类，反而是能够帮上大忙，为我们做出各种明智的抉择。到那时候，不听它们的，才是个不明智的决定。
　　安吉丽娜•朱莉首次担纲主角，是在1993年的科幻动作片《无影终结者》（cytorg2)中。她的片中角色是机械人卡塞拉•瑞丝(CasellaReese)，在2074年由纸风车机器人公司（PinwheelRobotics)开发，用于窃取情报和暗杀。卡塞拉的程序设计带有人类的情感，好让她更好地融入人类社会、完成任务。等到卡塞拉发现公司不仅控制她还打算销毁她时/就逃了出来，为自己的生命和自由而战。《无影终结者》是一个自由主义的幻想，讲的是个人为争取自由和隐私，对抗国际企业无所不在的触手。
　　但在现实生活中，朱莉却宁愿公开隐私和自主性，追求健康。像这种追求健康的愿望，很可能让我们大多数人都愿意突破保护个人隐私的阻碍，允许国家机构或跨国公司进入我们身体的最深处。举例来说，允许谷歌阅读我们的电子邮件、追踪我们的各种活动，就可能让谷歌在流行病暴发而传统卫生机构都还浑然不觉的时候，向我们发出警告。
　　英国国家医疗服务体系（NationalHealthService，以下简称为NHS)如何得知伦敦暴发流感疫情？答案是分析几百家诊所中上千位医生提出的报告。但这些医生又是怎么知道相关信息的？假设玛丽某天一早醒来觉得不太舒服，她并不会直接跑去看医生，而是会先等上几小时甚至是一两天，希望喝几杯加了蜂蜜的热茶之后，身体就会舒服一些。等到病情一直没改善，她才会预约挂号，去诊所看病。医生将数据输人计算机后，理想的状况是NHS总部的某位工作人员会分析这个报告和其他数千名医生所通报的数据，得出流感正在蔓延的结论。但这一切得花上很长时间。
　　但对谷歌来说，这就是几分钟的事。谷歌所做的，就是监测伦敦居民在电子邮件和谷歌搜索引擎中所输人的词，再与疾病症状数据库做交叉比对。假设一般来说，“头痛”“发烧”“恶心”和“打喷嚏”每天在伦敦居民的电子邮件和谷歌搜索中会出现大约10万次。如果今天谷歌算法发现这些词汇的使用次数忽然上涨到30万，就知道这下出了问题，流感正在肆虐！我们不用再等到玛丽去看医生。第一天早上，她起床觉得不太舒服，就在上班前给同事发了一封电子邮件：“我头痛，但还是会去上班。”只要这几个字，谷歌就什么都知道了。
　　然而，想让谷歌发挥这种神力，玛丽不仅得允许谷歌阅读自己发出的邮件，还得允许谷歌与卫生部门分享信息。如果连安吉丽娜•朱莉都愿意公开自己的隐私，提高众人对乳腺癌的警觉，玛丽为什么不能做一个类似的小小牺牲，以避免流行病暴发呢？
　　这种想法并不停留在理论层面。在2008年，谷歌确实推出了谷歌 流感预测（GoogleFluTrends)服务，靠着监测谷歌搜索内容，追踪流感暴发的迹象。这项服务目前仍在开发阶段，而且出于隐私考虑，据称只会追踪搜索词语，而不会阅读私人电子邮件。但仅是这样，已经让它可以比传统医疗体系早上10天发出流感警报。29
　　至于谷歌基线研究项目（GoogleBaselineStudy)，则更加雄心勃勃。谷歌希望建起一个庞大的人类健康数据库，找出“完美健康”的人类基因模型。这样一来，只要发现健康数据与模型有出入，就能警告民众可能健康出现问题，及早防范。基线研究又与谷歌健康（GoogleFit)的整套产品系列搭配，包括服装、手环、鞋子和眼镜等可穿戴式装备。谷歌健康的各项产品，正是要收集海量生物统计数据，提供给基线研究运用。3()
　　然而，像谷歌这样的公司，绝不会止步于可穿戴式装备。目前，DNA测试的市场发展飞快。市场龙头之一是私人企业23andMe，由谷歌联合创始人谢尔盖.布林的前妻安妮.沃希基（AnneWojcicki)创办。其公司名“23andMe”指的是构成人类基因组的23对染色体，代表自己的染色体与自己有非常特殊的关系。只要有人能理解这些染色体正在说什么，就能告诉你一些你自己从没想过的事。
　　如果你想知道这些内容，只需要向23andMe支付99美元，他们就会寄给你一个检测包，里面有一根唾液收集试管。你向试管里吐口水，密封，再寄到加州山景城的公司所在地，他们就会分析你唾液中的DNA，并将结果在线传给你。你得到的是一张列表，列出你可能面对的健康危机，以及基因反映出的可能发生在你身上的各种特质及问题，从秃头到失明不等。“认识你自己”可从来没这么简单或便宜过。由于这一切都是基于统计数据，数据库的规模也就成为预测是否准确的关键。因此，最早建起庞大基因数据库的公司，就能为顾客提供最准确的预测，也就可能从此垄断市场。美国生物科技公司越来越担心，由于美国严格管控个人隐私，导致未来可能将整个基因市场拱手让给中国。
　　如果我们能打破所有阻碍，让谷歌及其竞争对手自由存取我们的各种生物统计装置、DNA扫描结果和医疗记录，就能得到全面的医疗健康服务，不仅能对抗流行病，还能对抗癌症、心脏病和阿尔茨海默病。然而，一旦有了这样的数据库，谷歌能做的绝不止这些。正如警察乐队(ThePolice)的名曲《你的每次呼吸》（EveryBreathYouTake)。这样的系统能够监测你的每次呼吸、每个动作、挣脱的每个枷锁；这样的系统会仔细追踪你的账户、你的心跳、你的血糖值，甚至是你每次的出轨偷情。它对你的认识，绝对远高于你自己。人类常常因为自我欺骗和自我幻想，陷在不良的关系、不适合的职业、不健康的习惯中无法自拔，但这一切都逃不过谷歌的法眼。我们现在是由叙事自我所操控，但谷歌不一样，它不会根据那些虚假的故事来做决定，也不会被认知捷径、峰终定律误导。谷歌会确确实实地记住我们走的每一步，记得我们握的每一双手。
　　许多人会很乐意将大多数决策过程交给这样的系统，或者至少是在面临重要抉择时参考一下意见。谷歌将能够建议我们该看哪部电影、去哪里度假、上大学读什么专业、选哪个工作机会，甚至是该和谁约会及结婚。我可能会说：“嘿，谷歌。约翰和保罗都在追我，我两个都很喜欢，但喜欢的点不太一样，很难做决定。根据你手上所有的资料，你怎么建议？”
　　谷歌就会回答：“这个嘛，我从你出生那天起就认识你了。我读过你所有电子邮件，听过你所有电话录音，知道你最爱的电影，也有你的DNA资料和完整的心跳记录3你过去每次约会我都有精确的数据，如果你要的话，我可以把你过去和约翰或保罗约会时的资料调出来，显示你每秒的心跳、血压或血糖值变化。如果有必要，我甚至也能把你们每次做爱的数据调出来，用数字比较谁高谁低。当然，我对他们的认识也不少于对你的认识。所以，基于以上所有信息和我杰出的算法，加上几十年来几百万对伴侣的统计资料，我建议你挑约翰。大约有87%的概 率，你们长期满意度会比较高。
　　“当然，因为我非常了解你，所以我知道你不会喜欢这个答案。保罗长得比约翰帅，而你又太看重外表，所以你其实内心希望我的答案是保罗。确实，外表很重要，但实在没有你想的那么重要。你体内的生化算法是从数万年前的非洲大草原开始演化的，在对于潜在配偶的整体评价之中，外表占了35%。至于我的算法，是基于最新的研究和统计数据，认为外表对于长期成功的浪漫关系只有14%的影响。所以，虽然我已经把保罗的外表纳人考虑，但还是建议约翰是你更好的选择。”31
　　想得到这种完全掏心的咨询服务，我们就必须改变想法，不要认为人类都是不可分割的个体，不要坚信每个人都有自由意志，能决定什么是好、什么是美、什么是生命的意义。从以前到现在，人类都是自主实体，由叙事自我叙写的故事所操纵。但在未来，每个人都将会是整个巨型全球网络的一部分。
　　自由主义将叙事自我奉为圭臬，不论在投票站、超市还是婚姻中，都让叙事自我来做决定。最近几个世纪以来，这种做法很有道理，因为虽然叙事自我相信的常常是各种虚构和幻想的故事，但我们确实没有更好的替代方案。然而，一旦有了能够替代的系统，真正比叙事自我更了解我们自己，这时再把权力留在叙事自我的手中，就只能说是愚蠢的做法。
　　像民主选举这种自由主义的做法将会遭到淘汰，因为谷歌会比我自己更了解我的政治观点。我站在投票站里的时候，自由主义叫我要听听内心真实自我的声音，选择能够反映我最高期望的政党或候选人。但生命科学却指出，我站在投票站里的时候，并不真正记得上次选举以来这几年的所有感受和想法。此外，我还被各种宣传、公关手法和随机想法不断轰炸，很可能扭曲我该做的选择。正如卡尼曼的冷水实验，叙事自 我到了政治领域，一样会遵循“峰终定律”，忘了绝大多数的事情，只记得几件极端的事件，并对最近的事件赋予完全不成比例的高权重。
　　在这四年间，我可能不断抱怨现任总统的政策，一直告诉自己和任何愿意听我说话的人，这个总统“会毁了我们所有人”。然而，距离下次选举投票只剩几个月的时候，政府忽然减税，大方开出各种“支票”。执政党找来最好的撰稿人，举行一波漂亮的竞选活动，威胁、承诺运用得当，直接打入我大脑的恐惧中心。到了选举当天一大早，我醒来的时候有点儿感冒，脑子不太好使，也让我觉得安全和稳定实在比其他一切都更重要结果出炉！我又把那个“会毁了我们所有人”的家伙送上台，让这个人还能再当四年总统。
　　如果我授权谷歌来帮我投票，就能摆脱这样的命运了。你也知道，谷歌可不好糊弄，虽然它也会注意到最近的减税和选举“支票”，但过去四年的点点滴滴一样记得清清楚楚。它会知道我每次读早报时的血压，也知道我看晚间新闻时多巴胺分泌量是否下降。谷歌知道怎样看穿公关人员华而不实的口号。谷歌也了解人生病的时候会稍微有“右”倾倾向，会据以调整。于是，谷歌投票时，依据的不是我当下瞬间的心态，也不是叙事自我的幻想，而是集合所有生化算法真正的感受和兴趣而得出的结果；而这一切生化算法的集合，正是所谓的“我'
　　当然，谷歌也不见得永远是对的，毕竟这一切都只是概率。但只要谷歌做出足够多正确的决定，人类就会将更多权力交给它。随着时间慢慢过去，数据库规模会不断扩大，统计数字会更准确，算法会继续改进，决策的质量也会提高。虽然这套系统永远不可能完全了解我，也不可能完全不会出错，但本来就没有这种必要，只要到了系统比我自己更了解我的那一天，自由主义就会颓然崩垮。而这一点其实并没有听起来的这么困难，因为大多数人并不真正了解自己。
　　而脸谱网这个谷歌的死敌最近委托的一项研究就指出，如果要判断某人的性格和性情，脸谱网算法会比这个人的朋友、父母或配偶更为准 确。这项研究共有86220名志愿者参与，他们都有个人的脸谱网账号，并且填写了有上百题的人格调查问卷。脸谱网算法会根据被测者平常在脸谱网上对网页、图片、影片等点赞的记录，预测这些志愿者的回答。过去点赞的次数越多，预测的准确度就越高。接着，再把算法预测的结果，与参与者的同事、朋友、家人和配偶的预测进行比较。了不起的地方在于，只需要过去点赞次数超过10次，算法预测准确度就可以高于同事；70个赞，预测准确度就会高于朋友；150个赞，准确度高于家人；到了300个赞，预测准确度就会高于配偶。换句话说，如果你至今已经在脸谱网上点了超过300个赞，脸谱网预测你的想法和期望的准确度就可能比你的另一半更高。
　　事实上，脸谱网算法在某些领域对人的了解，甚至会超过那个人自己。例如，研究也请参与者评估自己使用成瘾物质的程度以及社交网络的规模，而在这些调查项目里，参与者自己的判断就不如算法来得准确。该研究最后提出以下预测（这倒是由人类作者写的，而不是脸谱网的算法预测h“人类如果遇到重大的人生抉择，比如要选择从事何种活动、职业道路甚至是交往对象，可以考虑放下自己心理上的判断，依赖计算机所做的选择。这种数据导向的决策，有可能会让人类生活得更好。”32
　　至于比较邪恶的一面，同一份研究也暗示，在未来的美国总统大选里，脸谱网不仅早就知道数千万美国人的政治观点，还知道哪些人是关键的摇摆选民以及他们的倾向^脸谱网会知道，共和党和民主党在俄克拉荷马州的选情特别胶着，还有32417位选民尚未下定决心，甚至也知道每位候选人该说什么，才能让天平倒向自己这边。脸谱网为什么能够得到这些有无上价值的政治数据？都是我们免费亲手奉上的。
　　在欧洲帝国主义的全盛时期，殖民者和商人用彩色的珠子，就从当地人那里换来了整座岛屿、整个国家。而在21世纪，个人数据可能是大多数人能够提供的最宝贵资源，但我们正亲手把这些数据交给各大科 技企业，好换来免费的电子邮箱或是有趣的小猫影片。
从先知到君主
　　等到谷歌、脸谱网和其他算法成为无所不知的先知之后，很有可能就会进一步演化成代理人，最后成为君主。（注33）为了解释这个过程，让我们以Waze为例，Waze是一个GPS(全球定位系统）导航应用程序，许多司机现在都在使用。Waze绝不只是地图，靠着数百万用户的不断更新，它能得知各种堵车、事故和警车位置的信息。因此，Waze知道怎样让你躲过繁忙的路段，让你以最快速度到达目的地。你到了某个路口，直觉要你往右，但Waze要你往左，用户迟早都会明白，最好相信Waze，而不要相信自己的直觉。（注34）
　　乍看之下，Waze算法应该只是先知的等级。你问问题，先知给你答复，但最后还是由你决定。然而，如果先知开始赢得你的信任，合理的下一个步骤就是让它成为你的代理人。你只是向算法指定一个最终目标，它就会在没有你监督的情况下，自行达到目标。以Waze为例，就是你将Waze连接到自动驾驶的汽车上，并告诉Waze“走最近的路回家”或是“走风景最漂亮的路线”，又或是“走污染最小的路线”。由你来发号施令，交给Waze来执行。
　　最后，Waze可能就会成为君主。它手中握有大权，所知又远超于你，就可能开始操纵你和其他驾车人，塑造你们的欲望，让你们做出顾全大局的决定。例如，假设因为Waze实在太好用，所有驾车人都开始使用。再假设今天一号公路大堵车，而备选的二号公路车流相对顺畅。如果Waze只是让大家都知道二号公路顺畅，所有驾车人就会一窝蜂开向二号公路，最后又全堵在一起。在所有人都找到同一位先知，而且每个人也都相信这位先知的时候，先知就摇身一变，成为君主。这时的Waze必须为大局着想。或许它只会告诉一半驾车人二号公路顺畅，而不透露给另一半。这样一来，一号公路的堵车压力能够减轻，而二号公 路也不至于无法消化车流。
　　微软正在开发一套更复杂的系统，名为Cortana。名称出自微软热门游戏《光晕》（halo)当中的一个人工智能角色，现在则是一款人工智能个人助理。微软希望Cortana能够成为未来Windows操作系统的内嵌功能，并鼓励用户允许Cortana存取计算机内的所有文件、电子邮件和应用程序，好让Cortana更了解用户，进而提供对许多事务的建议，并成为能够代表用户兴趣的虚拟代理人。Cortana可以提醒你给太太买生日礼物，帮你挑礼物，预订餐厅，还会在晚餐前一小时告诉你该先吃药。也可以警告你，再不放下手上的书，一个重要的商务会议你就要迟到了。而就在你开会之前，Cortana还会警告你，现在你的血压太高、多巴胺分泌量又太低，根据过去的统计，这种时候你的商业判断常常会出大错，所以最好一切先别下定论，别许下什么承诺或是签署任何合同。
　　一旦Cortana从神使发展成代理人，就可能会直接代表主人进行对谈。一开始可能一切都十分单纯，我的Cortana联络你的Cortana，敲定适当的开会时间和地点之类。另外就是在求职时，雇主说不用麻烦寄简历了，只要允许他的Cortana问我的Cortana各种问题就行。又或者，一个潜在交往对象的Cortana跑来找我的Cortana，互相比较一下过往的记录，看看这两人合不合得来，但这一切可能完全没让人类主人知道。
　　随着Cortana得到越来越多授权，就可能开始互相钩心斗角，好为主人谋求更多的利益。于是，你在就业市场的表现也可能越来越依赖你的Cortana质量如何。有钱人买得起最新的Cortana，在对穷人和他们的旧版Cortana上拥有绝对优势。
　　然而这里最难解的问题在于，Cortana的主人身份究竟为何？我们已经提过，人类并非不可分割的个体，也没有单一整合的自我。这样一来，Cortana该迎合的是谁的利益？假设我的叙事自我在新年下定决心，要控制饮食，每天去健身房。但一周后到了该去健身房的时间，体验自 我却告诉Cortana开电视、订比萨。Cortana该怎么办？是要听从体验自我的命令，还是一周前叙事自我做的决定？
　　你可能会想，Cortana不就像个闹钟吗？叙事自我在晚上定了闹钟，好在早上把体验自我叫醒去上班。然而，Cortana拥有的权力会远大于闹钟体验自我只要按个钮，就能让闹钟安静下来。但相较之下，反而是Cortana太了解我，知道只要按下我的某个内部按钮，就能让我听它的“建议”。
　　在这场竞赛中，不仅仅有微软的Cortana参赛。谷歌即时资讯(GoogleNow)和苹果的Siri也朝着同样的方向前进。亚马逊同样会用算法研究你，再用累积的知识来向你推荐产品。逛实体书店的时候，我是自己在书架间浏览，凭着自己的感觉挑出想看的书。但浏览亚马逊网上书店的时候，则是有算法立刻跳出来告诉我：“我知道你先前喜欢哪些书，而与你品位相似的人，也会喜欢这本或那本新书。”
　　这还只是开始。今天在美国，读电子书的人数已超过读纸质书的人数比如亚马逊的Kindle等电子书，就能在用户阅读时收集数据举例来说，你的Kindle会知道你在哪些地方读得快、哪里读得慢，在哪一页你休息了一会儿，又是在哪一行你放弃了这本书，再也没读过（最好赶快告诉作者，让他重写那一部分h如果Kindle再升级，装上面部辨识和生物统计传感器，就能知道你读的每个句子如何影响你的心跳和血压。它能知道什么会让你笑、什么让你哭、什么让你生气。不久之后，在你读书的时候，书也在读你。你很快就会忘了大部分读过的内容,但亚马逊却什么都不会忘。有了这样的数据，亚马逊就能更精准地帮你选书，也会让亚马逊清楚了解你是怎样的人，如何让你激动或平静。（注35）
　　最后可能是我们一分一秒都无法与这个全知的网络断开。断开，就等于死亡。假设医疗理想得以实现，未来的人类将会在体内植人许多生物计量装置、仿生器官和纳米机器人，以监测人体健康状况，并避免感染、疾病和伤害。但这些装置需要24小时全天上线，才能时时追踪最 新的医疗发展，以及抵抗网络空间暴发的新瘟疫。一如家庭计算机会不断受到病毒、蠕虫和特洛伊木马的攻击，以后的心律调节器、助听器和纳米科技免疫系统也无法幸免。如果不去定期更新身体中的防病毒程序，可能某天早上醒来我们就会发现血管中的几百万个纳米机器人都被操纵在某个黑客的手中。
　　因此，21世纪的新科技可能会彻底扭转人文主义革命，让人类交出权威，送到非人类的算法手中。如果你觉得这个方向实在太骇人，该怪的并不是那些计算机怪才，这其实是生物学家的责任。我们必须意识到，推动这个趋势的主要力量来自生物学的洞察，而非计算机科学。生命科学认为，生物就是各种算法。如果生物的功能真的和算法大有不同，就算计算机在其他领域大展神威，仍然不可能了解人类、引导人类的生命，更不可能与人合而为一。一旦生物学家判断生物也是算法，就等于拆除了有机和无机之间的那堵墙，让计算机革命从单纯的机械事务转变为生物的灾难，也将权威从个人转移到了算法网络。
　　确实有些人对这种发展感到恐惧，但事实上，也有数百万人再乐意不过。今天许多人已经放弃了自己的隐私和个性，把许多生命点滴全放到网络上，每个行动都记录下来，与网络的连接一中断，就算只是几分钟，也会让他们歇斯底里。就在我们身边，处处都有由算法代替人类权威的情形，不是因为什么重大的政府决策，而是由于狂潮般的个人日常选择。
　　如果再不小心，结果可能就会是奥威尔笔下的那种警察国家，而且持续监测的还不只是我们外在的各种举止，甚至也包括我们身体内、大脑中的活动。可以想想，如果生物统计传感器无所不在，斯大林可能会用它来做什么？普京又可能想做什么？然而，虽然有许多捍卫人类个性的人担心20世纪的噩梦重现，竭力抵抗这个似曾相识的奥威尔式敌人，但人类的个性其实还受到另一方向更大的威胁。在21世纪，与其说个人会被外界力量残忍碾碎，还不如说会先从内部缓缓崩解。
　　今天，大多数企业和政府都会尊重每个人的个性，承诺依据每个人的需求和愿望提供医药、教育和娱乐活动。但为了达到这个目的，企业和政府就得将个人解构为许多生化上的实体，用无所不在的传感器监测这些实体，并用强大的算法加以解读。在这个过程中，我们会发现所谓不可分割的个体只是一个宗教幻想。现实中，每个实体都是许多生化和电子算法的混合体，没有清晰的边界，也没有自我中心。
不平等的再升级
　　在自由主义面临的三个实际威胁中，我们已经讨论了两个：第一， 人类将完全不具价值；第二，人类整体仍然有价值，但个人将不再具有 权威，而是由外部算法来管理。算法系统仍然需要由你来谱写交响乐、 教历史或编写计算机程序，但算法系统对你的了解会超越你自己，也因 此会为你做出大部分重要的决定；而且，你还会觉得这真是太好了。这 个世界并不一定不好，但会是一个后自由主义的世界。
　　自由主义面临的第三个威胁在于：有些人仍然会不可或缺，算法系 统也难以了解，而且会形成一个人数极少的特权精英阶层，由升级后的 人类组成。这些超人类将会拥有前所未有的能力及创造力，让他们能够 做出许多世上最重要的决定。他们会为算法系统执行关键的服务，而算 法系统既无法了解也无法管控这些人。然而，大多数人并不会升级，于 是也就成了一种新的低等阶级，同时受到计算机算法和新兴的超人类的 控制主导。
　　人类如果从生物定义上分裂成不同的阶级，就会摧毁自由主义意识 形态的根基。有自由主义的地方，仍然可能有各种社会及贫富差距，而 且因为自由主义把自由看得比平等更为重要，所以甚至也觉得有差距 是理所当然。但自由主义仍然假定所有人都有同样的价值和权威。按照 自由主义的观点，有人是亿万富翁，住在豪华的城堡里，也有人是贫穷 的农民，住在稻草屋里，这完全没有问题。因为对自由主义来说，农民 感受到的独特体验，其价值并不下于亿万富翁的体验，所以自由主义 的作家才会写出长篇小说来描述贫困农民的生活体验，而且连富翁也 会满怀热情地读这种小说。如果到百老汇去看音乐剧《悲惨世界》（La 会发现好位子的票价可能高达数百美元，全场观众的身价 总和可能高达数十亿美元，但他们看到冉•阿让（Jean Valjean)只为了 偷面包救活饥饿的侄子就得入狱19年时，仍然会深感同情。
　　同样一套逻辑也适用于选举，贫穷农民有一票，亿万富翁同样也只 有一票。自由主义面对社会不平等的解药，不是让每个人都有同样的体 验，而是对于不同的人类体验赋予同等的价值。然而，如果贫富差距已 经不只体现在财产价值上，而且出现了真正的生物学上的差异，这一套 还行得通吗？
　　安吉丽娜•朱莉发表在《纽约时报》的文章中，就提过基因测试成 本高昂。她进行的测试就要价3000美元（还不包括实际的乳腺切除术、 重建手术和相关治疗），而在这个世界上，还有10亿人每天收入不到 1美元，15亿人每天收入在1到2美元之间。36就算他们一辈子努力工 作，也不可能负担得起要价3000美元的基因测试。0前贫富差距还在 逐渐拉大。到2016年年初，全球62名最富有的人，拥有的财产总值等 于最贫穷的36亿人的总和！由于目前全球人口约为72亿，也就是说， 这62名亿万富翁所拥有的财富，大约就是较为贫穷的全球一半人口的 财产总和。37
　　DNA测试的成本可能会逐渐下降，但也会不断出现昂贵的新疗法。 因此，虽然日后一般民众也能负担得起原有疗法，但精英分子永远能领 先几步。纵观历史，富人享有许多社会和政治优势，但和穷人之间从未 出现真正重大的生物差距中世纪贵族曾号称自己的血管里流着高贵的 蓝色血液，印度婆罗门也坚称自己比其他种姓更聪明，但这一切都只是 胡说。然而在未来，我们可能真的会看到这一天，在升级后的上层阶级 与其他社会阶级之间，其身体和认知能力真正出现重大差距
　　面对这种情境，科学家的标准答案是：20世纪也有许多医疗突破 是从富人开始，但最后全体人类都同样受益，所以其实是有助于缩小而 非扩大社会差距。举例来说，疫苗和抗生素最早只有西方国家的上层阶 级能够享有，但现在它们改善了全球所有人的生活。
　　但要希望这种过程在21世纪重演，可能只是一厢情愿。原因有二： 第一，医学的概念正在经历巨大变革20世纪的医学旨在治愈病人， 但21世纪的医学则逐渐走向要让健康的人再升级。“治愈病人”代表的 是一种平等，因为这假设有个身心健康的规范标准，而人人都应享有这 样的健康。如果有人低于标准，医生就该解决问题，让这些人能够“像 大家一样”。相较之下，要让健康的人再升级，背后则是精英的概念， 因为这里并没有所有人通用的标准，而是要让某些人比其他人强。人类 就是希望自己记忆力比别人强，智商比别人高，性能力更不能输如果 某种升级已经变得太廉价、太普遍，人人都能享有，那等于就是把基线 提局，等着下一代疗法继续超越。
　　因此，到了 2070年，虽然穷人很有可能享有比今天更好的医疗保 健，但他们与富人的差距将更为拉大。做比较的时候，我们找的比较对 象通常都会是同时代更幸运的人，而不是以前命运不佳的祖先。如果你 对一个住在底特律贫民区的美国人说，他现在享有的医疗保健水平可比 100年前的美国人好多了，大概不会有什么鼓励作用。事实上，这种话 听起来是十足的自以为是。他会说：“为什么我要和19世纪的工厂工人 或农民比？我也想过电视上那种有钱人的生活啊，或者至少有郊区那种 高级住宅。”同样，如果你到2070年告诉下层阶级，他们享有的医疗保 健已经比2017年时好得多，对他们来说实在算不上半点安慰。因为他 们心中的比较对象会是那些升级后主导世界的超人类。
　　第二，就算会有许多医疗突破，我们仍然无法肯定穷人到了 2070年 一定能享有比今天更好的医疗保健，因为国家体制和精英阶层可能根本 不想再为穷人提供医疗保健。医药之所以能在20世纪使群众获益，是 因为20世纪是群众的时代。20世纪的军队需要几百万的健康士兵，经 济发展也需要几百万的健康工人。因此，各国都建立起公共卫生服务体 系，以确保国民的活力和健康。人类最大的医疗成就正是为群众提供卫 生设施、疫苗接种，消灭流行病。1914年，日本精英阶层之所以愿意 为贫民接种疫苗，在贫民区兴建医院，修建污水处理系统，正是因为如 果希望日本成为军事和经济强权，就需要数百万健康的士兵和工人。
　　但这种群众的时代可能已经结束，而针对大众的医学也将随之走人 历史。随着人类士兵和工人让位给算法，至少部分精英阶层会认为，无 须再浪费资源为大量无用的穷人提升甚至是维持基本的健康水平，而应 该集中资源，让极少数人升级到超人类。
　　今天，日韩等科技先进国家的出生率逐渐下滑，儿童人数逐渐减 少，但这些国家却投入大量的人力物力抚养、教育这些儿童。而印度、 巴西或尼日利亚这种发展中大国，要怎么跟日本竞争？这些国家就像一 列长长的火车。头等车厢的精英，享有与世界上最发达国家同等条件的 医疗保健、教育和收入水平。但还有为数几亿的一般国民，坐在三等车 厢，苦于疾病、无知和贫穷。在接下来这个世纪，印度、巴西或尼曰利 亚的精英会想做什么？是要投资解决几亿穷人的问题，还是让少数百万 富翁升级？在20世纪，因为穷人有军事和经济价值，精英阶层必须为 穷人解决问题；但到了 21世纪，精英阶层最有效（虽然十分无情）的 策略，很可能是干脆切断百无一用的三等车厢，只让头等车厢继续前 进a想与日本竞争，巴西需要的可能不是几百万个健康的普通工人，而 是少数几个经过升级的超人类。
　　一旦出现这种在身体、情感和智力上都远超常人的超人类，自由主 义信仰又怎么可能生存下来？如果事实证明，这种超人类的体验会和一 般智人完全不同，情况又会如何？如果超人类一读关于低等智人偷盗故 事的小说就觉得无聊，而一般人看到超人类的爱情肥皂剧却又完全无法 理解，该怎么办？
　　人类在20世纪的伟大成就：克服饥荒、瘟疫和战争，都是为了让 所有人享有富足、健康与和平。至于21世纪的新议题：获得永生、幸 福快乐、化身为神，也同样希望为全人类服务。然而，由于这些计划的 目的在于超越而非维持基本要求，最后就可能创造出新的超人类阶级， 砍断自由主义本源；超人类看待一般人，就会像是19世纪欧洲人看待 非洲人的情况。
　　如果科学发现和科技发展将人类分为两类，一类是绝大多数无用的 普通人，另一类是一小部分经过升级的超人类，又或者各种事情的决定 权已经完全从人类手中转移到具备高度智能的算法，在这两种情况下， 自由主义都将崩溃。什么样的新宗教或意识形态，能够填补这样的缺 口，并且指导我们如神一般的后代？