书评：《智人之上：从石器时代到AI时代的信息网络简史》
“在历史上，权力其实只有部分来自对真相的了解，而另外一部分则来自在一大批人中建立秩序的能力。”
1 | !DRAFT! |
原文摘录
序言
创造出强大的事物，却带来意想不到的后果，这个现象并非始于蒸汽机或人工智能的发明，而是始于宗教。先知与神学家召唤出强大的神灵，这些神灵本该给人间带来欢乐与慈爱，但有时留下的却是一片血海。
虽然人类能建立大规模合作网络，以此获取巨大的力量，但这些网络的建构方式注定了人类对这些力量的运用常常并不明智。因此，人类遇到的问题归根结底是个网络问题。
虽然个人通常了解的都是关于自己与世界的真理与真相，但大规模网络却会使用各种虚构故事与幻想将成员联结在一起并创造秩序。
一说到明智，大部分人会认为就是能“做出正确的决定”，但所谓“正确”是有价值判断的，不同的个人、文化或意识形态就会有不同的想法。
早在1858年，《新英格兰人》（The New Englander）就有一篇社论谈到电报这项发明：“既然已经创造出这样的工具，让全世界所有国家的思想得以交流，过去的偏见与敌意必将无以为继。”（读者注: 有趣，历史的一瞥）
人工智能的力量可能会大幅加剧人类既有的冲突，让人类形成内斗。正如20世纪冷战时期的铁幕分隔出几个彼此敌对的势力，21世纪的硅幕（不再是铁丝网，而是由硅基芯片和计算机代码组成的）也可能区隔出不同的敌对势力，引发一场新的全球冲突。
硅幕所分隔的或许不是彼此敌对的人类，而是一边为所有人类，另一边为我们新的人工智能霸主。不论在哪里生活，我们都可能被一张看不透的算法大网束缚，控制着我们的生活，重塑着我们的政治与文化，甚至是去改造我们的身体与思想，但人类却再也无法理解这些控制着我们的力量，更别说加以阻止了。
不论是动物、国家还是市场，都可以算是信息的网络，都会从环境中吸收资料数据，据以做出决策，进而又释放出更多资料数据。
当民粹主义成功地让人们觉得信息就是一种武器而进行传播时，语言本身就会受到损害。不论是“事实”这样的名词，还是“准确的”“真实的”这样的形容词，都会变得语义模糊，似乎无法指向一个共同的客观现实。
政治学家卡斯·穆德认为民粹主义就是一种“意识形态，认为社会最终会被分成两个内部同质而互相对立的群体，即‘洁净的人民’与‘腐败的精英’”。
只相信“自己的研究”可能乍听之下很科学，但其实这等于相信世界上没有客观真理。我们在本书第四章就会看到，科学绝不是一种个人的追求，而是机构制度的合作。
民粹主义反复出现的悖论之一，就是一开始的时候总在警告大家，所有人类精英都是为了争权夺利，十分危险，但常常到头来又要求人民把所有权力都交给某位充满野心的人。
有些冲突的成因，我们一般会认为是意识形态或政治上的不同，但实际上往往是信息网络的类型不同。
历史真正研究的并不是“过去”，而是“变化”。历史能告诉我们什么是不变的、什么是变化的，以及事物又是如何变化的。这不仅与信息革命，而且与其他类型的历史变革都息息相关。
第一部分 人类网络
第一章 信息是什么？
最基本的概念总是很难定义。因为后续的一切都以这些概念作为基础，反而让人难以想象这些概念背后还能有什么更基本的概念。就像物理学家很难去定义物质与能量，生物学家很难去定义生命，而哲学家也很难去定义现实。
光是计算某种实体的数量（不管算的是苹果、橘子还是士兵），就必然会把注意力集中在这些实体之间的相似性上，但同时也忽略了它们之间的差异性。举例来说，只讲加沙有一万名奥斯曼士兵，但没有说明其中有一些是久经沙场的老兵，有一些是初上战场的新兵。
这种对精确性的追求可能让我们想以一比一的比例来重现这个世界。比如，豪尔赫·路易斯·博尔赫斯有一部著名的短篇小说《论科学的精确性》（On Exactitude in Science，1946），它讲述了一个虚构的古老帝国，沉迷于给领土画出越来越精确的地图，直到最后制作出的就是一张一比一的地图，而整个帝国都被这张帝国的地图覆盖。这个野心勃勃的、想要绘制整个帝国的计划实在浪费了太多资源，帝国也为之崩溃。（读者注: 有趣的寓言）
信息在历史上所发挥的作用，本来就不是要呈现既有的现实，反而是要将各种不同的事物（无论是夫妻还是帝国）联系在一起，来创造出全新的现实。真正定义信息的是“联结”，而不是“渲染”或“象征”：只要能将各个不同的点联结成网络，就是信息。
总而言之，信息有时候会呈现现实，有时候并非呈现现实。但不论如何，信息都会联结形成网络，而这才是信息真正的基本定义特征。所以，要审视信息在历史上的作用，虽然有时候也值得去问问“这条信息在多大程度上反映了现实？这是真的还是假的？”，但更关键的问题通常是“这条信息在多大程度上联结了人群？这条信息创造出了什么新的网络？”。
虽然信息的作用永远都是在促成联结，但某些类型的信息（从科学书籍到政治演讲）可能正是依靠准确呈现出现实的某些方面，才得以将人们成功联结在一起。这需要付出额外的努力，而大多数信息其实并未做到这一点。正因为如此，虽然天真的信息观以为只要有了强大的信息技术，就必然能对世界有更真实的理解，但事情实际没那么简单。我们如果不付出额外的努力，让天平向有利于真相的方向倾斜，随着信息增加得越来越多、越来越快，就可能让相对稀少而昂贵的真实信息被淹没在相对常见而廉价的信息之中。
第二章 故事：无限的联结
相较于尼安德特人所打造的信息网络（只有人与人之间的联结），智人在有了故事之后，又有了另一种新的联结：人与故事的联结。从此之后，为了合作，智人之间并不一定需要真的彼此了解，只需要知道同一个故事就行。
斯大林对这一点再清楚不过。斯大林的儿子瓦西里·朱加什维利拿他的名声狐假虎威时，斯大林斥责了他。“可是我也是个斯大林啊。”瓦西里抗议道。“不，你不是。”斯大林回答，“你不是斯大林，我也不是。斯大林是苏联的政权，是那个在报纸和画像里的人，你不是斯大林，甚至我也不是！”
“品牌”其实就是一种特定类型的故事。要给产品打造一个品牌，就意味着讲述一个关于该产品的故事，故事和产品真正的特性可能根本没什么关系，但就是能让消费者把故事和产品联系起来。
据我们所知，真正的耶稣是一位典型的犹太传教士，通过布道和医治病患，让他有了一小群追随者。在过世之后，耶稣就成了一场史上最盛大品牌营造活动的主题。这位原本鲜为人知、影响力仅限于地方的宗教大师，短暂的职业生涯只聚集了少数几位门徒，最后也是以一般罪犯的身份遭到处决，但他死后经过一番品牌再造，就成了创世神的人间化身。
耶稣的故事就是给耶稣赋予了一个全人类的父亲形象，鼓励数亿的基督徒视彼此为兄弟姐妹，并创造了一个共同的家庭记忆。
正如许多现代研究所示，反复讲述一套虚假的记忆，最后真的能让人信以为真，以为这是真实的回忆。于是当两个犹太人初次见面时，他们能立刻感觉彼此就是一家人，都曾在埃及为奴，也都曾在西奈山聚在一起。这形成了一种强大的纽带，让整个犹太网络得以跨越大洋大洲和许多世纪。
在人类开始讲故事之前，现实只有两个层次：客观现实与主观现实。
但有些故事能够创造出第三个层次的现实：存在于主体间的现实（以下简称“主体间的现实”）。主观现实（例如痛苦）只存在于个人的心智之中，但主体间的现实（例如法律、神祇、国家、企业和货币）则存在于许多心智形成的联结里。
与动物不同，国家并不是一种客观现实。在我们问某个国家是否存在的时候，是在提出一个关于主体间现实的问题。如果有足够多的人同意某个特定国家存在，这个国家就存在。接下来，这个国家就有权做某些事情，比如与其他国家、非政府组织或私人企业签署各种具有法律约束力的协定。
但在开始讲故事之后，智人游群开始打破孤立。通过讲述共同崇敬的祖先、动物图腾、守护神等故事，游群之间慢慢彼此相联。
部落网络就像一份保单，能够把风险分散到更多人身上，而使每个人的风险降低。
比如唯物主义者常常认为故事掩盖了背后的权力关系与物质利益，人们总是被客观的物质利益所驱动，而讲述故事的目的正是要掩盖这些利益，让对手无法看清。
如果历史真的完全由物质利益与权力斗争所塑造，那么当各方意见不同的时候，就根本没有讨论交谈的必要。反正任何冲突肯定都源自客观的权力关系，而这种关系又岂是嘴上说说就能改变的？特别是如果享有特权的人只看得见，也只相信那些维护他们特权的事物，那么除了暴力，又怎么会有其他办法能让他们放弃特权、改变信念？幸好历史是由主体间现实的故事塑造的，所以有时候我们只要好好沟通，或者改变彼此所相信的故事，或者找出大家都能接受的新故事，就能避免冲突，实现和平。
故事有着如此重要的地位，这一方面让我们对智人这个物种的力量有了更多了解，另一方面也解释了为什么权力与智慧常常是各走各的路。
在历史上，权力其实只有部分来自对真相的了解，而另外一部分则来自在一大批人中建立秩序的能力。（读者注: 本书最有价值的一句话）
虽然真理与秩序都能带来权力，但大多数时候，掌握大权的会是那些知道如何创造意识形态来维持秩序的人；至于那些只懂得怎么做炸弹或猎杀猛犸象的人，则只能乖乖听令。
仅仅讲一个虚构的故事，并不是说谎，所谓的说谎，是你不但讲述了虚构的故事，还想假装这是在呈现现实。
但这套宪法的美妙之处在于，既然承认自己就是人类创造的法律拟制，就能提供机制来让各方达成协议，以修改、纠正自身的不公正（本书第五章会更深入地讨论这一点）。美国宪法第五条就详细说明了这些修正案应如何提出、如何批准，而且这些被批准的修正案“即成为本宪法之一部分而发生全部效力”。
承认社会秩序是由人类发明的，后续说服所有人都接受这套秩序就会变得更加困难。如果秩序都是像我们这样的人发明的，凭什么我们要乖乖接受？
为了追求生存与繁荣，每个人类信息网络都需要同时做到两件事，即除了要发现真相，还得创造秩序。
使用信息时既要找出真相又要维持秩序，这是一个极为困难的过程，更糟糕的是，这两个方面还常常互相矛盾，毕竟，凭借虚构的故事通常更容易维持秩序。
对真相的追求就等于威胁了社会秩序的基础。于是许多社会都要求自己的人民不要了解自己的真正起源：无知就是力量。（读者注: 这个推理太妙了）
虽然人类网络的力量一代比一代强，却不见得越来越明智。如果某个人类网络把秩序看得比真相更重要，它可能掌控着无比强大的力量，却会不明智地使用这种力量。（读者注: 嗯？）
回顾人类信息网络的历史会发现，这并不是一场进步的游行，而是像在走钢丝，试图在真相与秩序之间取得平衡。
第三章 文件：纸老虎也会咬人
说到底，爱国的本质绝不是吟咏赞扬祖国壮丽的诗歌，更不是针对外国人与少数民族发表仇恨言论；真正的爱国，是要好好纳税，让所有国人都能享受污水处理系统带来的好处，也能享有安全、教育和医疗保健。
值得一提的是，虽然史诗剧、侦探惊悚片或肥皂剧的情节错综复杂，观众却都能如数家珍，轻松回忆起每个角色是谁、与其他众多角色是什么关系。这分明是种记忆壮举，但我们已经司空见惯，很少想到这有多么了不起。
我们之所以能把史诗与长篇剧集记得这么清楚，是因为人类的长期记忆特别适合记住故事。（读者注: 能否启发大模型的记忆能力？）
说得更具体一些，文件让人有新的方法创造主体间的现实。口述文化是通过讲故事创造主体间的现实，许多人不断重复讲这个故事并记住它。在这种时候，大脑的容量会对人类创造的主体间现实形成限制。
在没有书面文件的口述文化社群里，要创造出“所有权”这项存在于主体间的现实，靠的是社群成员的言语与行为。那么，所谓“拥有一块儿土地”，就代表邻居都说这块儿地是你的，而且不会说一套做一套，只要未经你许可，他们就不会自己跑到这块儿地上盖房子、养鸡养鸭、偷摘水果等。所以，所有权的创造与维护，靠的是大家不断这么说或不断发出这样的信号。在这种时候，所有权就是一种地方性事务，某个遥远的中央政权很难控制所有的土地所有权。没有哪个国王、大臣或神职人员能记得住几百个偏远村庄的每块儿地分别是谁的。
在一个有文化的国家，拥有一块儿土地就意味着在泥版、竹片、纸张或芯片上记载着你对那块儿土地的所有权。就算你的邻居在那块儿土地上养羊很多年，而且没人说那块儿土地是你的，但只要你能拿出官方文件，证明那块儿土地是你的，法院就会强制执行你的主张。相反，就算所有邻居都说那块儿土地是你的，而你却拿不出任何可以佐证的官方文件，这下就只能祝你好运了。在这里，所有权仍然是一种通过交换信息创造出的主体间现实，只不过信息的形式现在是书面文件或电子文档，而不再是人类的言语和行为。
说到用文件来创造主体间现实的力量，古亚述方言是个很好的例子，在这种方言里，文件就像是能够杀死的生物。在债务偿还之后，贷款合约就会被“杀掉”。至于做法，则是直接把记录合约的泥版毁掉、在泥版上加一些标记，或者破坏掉封印。贷款合约并不是为了呈现现实，合约本身就是现实。如果有人还了贷款却没“杀掉”文件，这笔债务就仍然存在。相反，如果尚未还清贷款，但文件却以某种方式“死了”——比如被狗吃了——债务也就不复存在。金钱也是如此。如果你家狗吃了一张百元美钞，这百元美钞的价值也就不复存在了。
在起草宪法、和平条约与商业合同时，律师、政治人物和商人会对每个词语进行长达几周甚至几个月的争论，因为他们很清楚这些文件的威力。
在记录某些类型的信息方面，书面文件比人脑要好得多，但它又创造出一种全新而极度棘手的问题：信息检索。
在大型组织里，人类就是用官僚制度来解决资料检索的问题，进而创造出更庞大也更强大的信息网络的。但就像神话故事一样，官僚制度也常常为了秩序而牺牲真理。
21世纪信息网络的许多问题，比如算法带有偏见、给人贴上错误的标签、各种协议太过死板、无视人性的需求与感受等，其实并不是计算机时代才出现的新问题，而是典型的官僚制度问题，远在计算机这种东西出现之前就已经存在。
官僚制度（bureaucracy）的字面意思是“写字台治国”。这个单词最早创于18世纪的法国，当时的官员通常就会坐在一张有抽屉的书桌旁边，这种书桌就被称为“bureau”。所以官僚制度这套秩序，正是以抽屉作为核心。这套秩序解决检索问题的办法，也正是把整个世界分成许多不同的抽屉，再判断该把哪些文件放进哪个抽屉。（读者注: 有趣的小知识）
官僚制度先是发明各种抽屉，这些抽屉属于存在于主体间的现实，其划分并不一定对应世界上的任何客观现实。但官僚制度接着就硬生生地把这个世界放进这些抽屉里，如果放不下，它只会塞得更用力。
因为官僚一心只看着自己的抽屉，即使现实要比抽屉复杂得多，所以他们对世界的理解常常会出现扭曲。
执着于把现实分成一个个固定的抽屉，也会让官僚的目光变得狭隘，无视自己的行为可能带来更广泛的影响。比如负责增加工业产量的官僚，可能会无视不在其职责范围内的环保因素，放任有毒废物被倾倒入附近的河流，造成下游的生态灾难。此时如果政府成立一个环保部门来治理污染，负责的官僚就可能会推出过于严格的规定，而不顾可能给上游区域造成的经济崩溃。理想状况下，应该有人将所有考量及方面都统筹起来，但要做到全面应对，就必须超越或废除官僚制度的这种划分。（读者注: 可能也是不得不为之。借鉴《指导生活的算法》的观点，基数排序远比基于比较的排序更高效，人类组织无法承受后者的比较原则，对世界的理解也必须是离散的——也即基数化，或抽屉化）
官僚制度在给你贴上一个标签的时候，虽然完全可能只是出于习惯或传统，但仍然会决定你的命运。这里的官僚制度可能是个活生生的动物专家、有血有肉的人类专家，也可能就是非生物的人工智能。
如果帮官僚制度说句话，那就是：虽然官僚制度有时候会牺牲真相，扭曲我们对世界的理解，但这样做往往是为了维持秩序；要是没了秩序，任何大规模的人际网络都将难以维系。
不论是有益的还是有害的官僚制度，都有一个关键特征，就是人类很难搞清楚它们在干些什么。
文件、档案、表格、许可、法规，以及其他各种官僚程序改变了信息在社会上流动的方式，也改变了权力运作的方式。这样一来，想再了解权力也变得更加困难了。
这种权力的转移改变了世界力量的平衡。不管是好是坏，有文化的官僚机构往往以牺牲普通公民的利益为代价来强化中央的权威。一方面，有了文件与档案，中央就更容易向公民征税，以及进行审判和征兵。另一方面，因为难以理解官僚制度的权力，民众很难去影响、抵抗或逃避中央的权威。
这些会触动我们心中情感按钮的生物戏剧还有其他经典剧目，比如“谁才是老大？”“我们对抗他们”“善良对抗邪恶”。
自石器时代以来，人类心智关注的本来就是生物戏剧，而不是官僚戏剧。不管是好莱坞还是宝莱坞，卖座影片谈的通常都不是什么担保债务凭证。就算到了21世纪，多数卖座影片谈的基本上还是那些石器时代的故事，讲述的都是英雄打倒怪兽，最后赢得美人归的桥段。同样，在描述各种政治权力纠葛的时候，不管是《权力的游戏》、《王冠》还是《继承之战》，重点都放在王室宫廷的家族斗争，而不是官僚制度如何维持（有时也是抑制）王朝的权力上。
光是增加网络里的信息量，并不能保证网络做的就是好事，也不会使它更容易在真理与秩序之间实现适当的平衡。对我们这些21世纪新信息网络的设计者与使用者来说，这是一个重要的历史教训。
第四章 错误：绝对正确是一种幻想
这些自我修正机制想要发挥作用，就必须取得合法性。如果人一定会犯错，那么自我修正机制不也会犯错吗？为了避免像这样无限循环下去，人类常常幻想能有某种超人类、绝不会犯错的机制，能找出并纠正人类的错误。
就个人生活而言，宗教有许多不同的功能，比如提供精神慰藉，解释生命的奥秘，等等。但就历史而言，宗教最重要的功能是为社会秩序提供超人类的合法性。
宗教总想让自己减少凡人的色彩，引导信众相信一些绝对正确的超人类法则，但到头来，宗教还是不得不要求信众去相信这个或那个人类。
像《圣经》《古兰经》这样的宗教经典其实就是一种技术，人们希望借此绕过“凡人会犯错”这道障碍，而这些经典背后的宗教（比如犹太教、基督教、伊斯兰教），也都是围绕着某种技术产物而建立的。
过去埃及法老王与亚述国王的档案库都以牺牲大众利益为代价，为难以估量的王权官僚制度赋予权力。但犹太人的宗教经典是将权力交给大众，即便将来遇上最厚颜无耻的领导者，他们也能要求他遵从神的律法。
就算书这种技术能让这些神圣的字句固定不变，但书外面的世界却在转个不停，没人知道该怎样把旧的规矩与新的情境联系起来。
这本宗教经典必然产生了诸多不同的解读和诠释，造成的影响甚至大于宗教经典本身。犹太人对《圣经》的解读方式吵得越凶，拉比们也就越能得到权力与威望。（读者注: 最佳获取权力的方法之一是当裁判）
基督徒写的福音书、书信、预言、比喻、祷文与其他经文越多，信徒就越难知道该把注意力放在哪里。所以，基督徒需要有个机制来协助筛选，《新约》由此而生。大约在同一时期，犹太拉比之间的辩论产生了《密释纳》与《塔木德》，而基督教的牧师、主教与神学家之间的辩论则产生了《新约》。
就像大多数犹太人已经忘记是一群拉比编纂了《旧约》，大多数基督徒也忘记了是教会会议编纂了《新约》，而以为《新约》本来就是上帝绝对正确的圣言。
教会想把整个社会都关进一个回声室里，只允许那些支持教会的书传播，因为几乎所有书都支持教会，民众当然也就会相信教会。（读者注: 回声室这个词比信息茧房要好听好得多）
猎巫者可以说是不遗余力地到处搜捕“恶魔”及其同伙，但其实他们如果真的想找到恶魔，只需要照照镜子就能看到。
早期现代欧洲猎巫热潮的历史显示，光是消除信息流动的障碍，不一定就能发现真相、传播真理，反而容易导致谎言与幻想的传播，创造出有毒的信息领域。说得更具体一点，如果让思想市场完全自由，就可能鼓励传播各种愤怒与煽情，而牺牲掉真理与真相。
自由的信息市场并不一定能让人发现并改正自己的错误，因为在这样的信息市场里，暴行的优先级可能比真理与真相更高。而想要让真理与真相胜出，就必须建立筛选机制，让天平往事实那一方倾斜。
科学机构之所以能取得权威，是因为它们有强大的自我修正机制，能够揭露并修正自身的错误。科学革命真正的引擎正是这些自我修正机制，而不是印刷技术。
虽然机构想怎么取名都行，但只要没有健全的自我修正机制，它就算不上是个科学机构。
自我修正机制虽然有利于追求真理，却会让维持秩序的成本大大升高。自我修正机制太过强大，往往会产生怀疑、分歧、冲突与裂痕，并破坏社会大团结的神话。
如何维持真相与秩序之间的平衡，始终是信息网络的历史中很重要的一部分。为了秩序而牺牲真理与真相需要付出代价；反之，为了真理与真相而牺牲秩序，代价同样不低。
科学机构制度之所以负担得起强大的自我修正机制，是因为它把维护社会秩序的艰巨任务留给了其他机构制度。（读者注: 深刻）
所以在冷战最激烈的时候，美国的报纸与大学都曾公开揭露并批评美国在越南的战争罪行，而在苏联，当地的报纸与大学一样乐于批评美国的罪行，但对于苏联在阿富汗等地的罪行却一声不吭。（读者注: 哈哈哈哈哈哈哈）
第五章 抉择：民主与极权制度简史
独裁信息网络的第一个特征在于高度集中。这代表着两件事。第一，中心掌握着无限的权力，所以信息往往是从地方流向中央枢纽，最重要的决策也都是在中央做出的。
独裁信息网络的第二个特征在于人们会认定中央是绝对正确的，所以并不欢迎对中央决策的任何挑战。
独裁政体是一种集中式的信息网络，而且缺乏强大的自我修正机制。相较之下，民主政体则是一个分布式的信息网络，并且拥有强大的自我修正机制。
有一种常见的误解，就是以为民主政体的一切决定都得诉诸多数表决。事实上，民主政体的做法是中央决策能免就免；唯有少量必须集中做的决定，才需要经过投票，反映多数人的意愿。
民主政体的另一个重要特征，在于相信人人都可能犯错，因此虽然会赋予中央一些重大决策权，但同时也会保留一些能够挑战中央权威的强大机制。
因此，所谓独裁，就是由单一中央信息枢纽决定一切；而所谓民主，则是有不同信息节点持续对话。这些节点常常会相互影响，但在大多数问题上并不需要真的达成共识，个人、企业与社群还是可以继续保持不同的思考与行为方式。
把民主定义为拥有强大自我修正机制的分布式信息网络，就会与民主等于选举这种常见的误解形成鲜明对比。选举是整套民主工具包的核心成分，但并非民主的全部。要是没有额外的自我修正机制，选举就很容易被操弄。而且就算选举完全自由公正，光是这样也不足以保证选举就是民主，因为民主绝对不是“多数独裁”。（读者注: 很清晰的定义，有可能是最清晰的民主定义）
所谓民主制度，并不是只要占了多数，就能去消灭那些不受欢迎的少数族群，而是指一种对于中央权力有明确限制的制度。
剥夺政治对手的选举权，就会让民主信息网络的一大自我修正机制失去作用。
强人破坏民主最常用的方法之一，就是攻击民主的自我修正机制，常常是从法院与媒体下手：剥夺法院的权力或是安插亲信，试着关停所有独立媒体，并四处安插自己的吹鼓手。
这些强人通常不会真的走到最后一步——把选举彻底废除，而是会将其留下作为一种仪式，为政权提供合法性，也保留民主的表象。
民主并不是说代表多数就能为所欲为，而是说所有人都应该自由平等。民主这个制度，是要保障所有人都能拥有某些自由，就算其他人占了多数也无法剥夺。
公民权是民主游戏的基本规则，保障着民主的自我修正机制。一个明显的例子就是投票权。要是能允许多数人去剥夺少数人的选举权，民主只要经过一次选举就会画上句号。其他属于公民权类别的权利，还包括新闻自由、学术自由与集会自由等，这些权利保障了独立媒体、大学与各种反对运动，让它们能够挑战政府。而这些也正是强人想染指的关键权利。
至少从信息流的角度来看，定义某个制度是否民主的两个条件就是中央的权力是否有一定限度，以及这个制度是否有健全的机制能修正中央的错误。民主信息网络认为人人都会犯错，就算是选举胜出的那些人或者属于多数方的选民也不例外。
选举只是要在各方冲突的欲望之间做出裁定，以此来维持秩序。选举所确定的，只是多数人想要什么，而不是真相是什么，而且人们常常就是不愿意面对事实。
在发达社会，政府是最强大的机构，因此也最想扭曲或隐藏令人不悦的事实。要让政府来监督对真相的探索，就像让狐狸来看守鸡舍。
如果你觉得这一切听起来很复杂，那是因为民主本来就是复杂的。“简单”是独裁信息网络的特征，因为这种网络就是由中央决定一切，其他人只需默默服从。像这样的“独裁独白”，人们很轻松就能听懂；而相较之下，民主则是一场多方对话，许多人会同时发声，要听懂并跟上这样的对话就没那么简单了。
“populism”（民粹主义）一词源自拉丁文populus（意思是“人民”）。在民主政体，人们认为人民是政治权威的唯一合法来源，也只有民意代表有权宣战、立法和增税。民粹主义虽然也相信这项民主的基本原则，却不知道从哪里得出一个结论，即觉得这里的意思是应该由单一政党或单一领导人垄断所有权力。
民粹主义者最奇妙的一项主张是只有他们才能真正代表人民。在民主政体，政治权力只能归于人民，而如果只有民粹主义者才能代表人民，自然所有的政治权力就应该归于民粹主义政党。如果是其他政党赢得选举，可不代表那个政党赢得了人民的信任、有权组建政府，而肯定是胜选被偷走了或人民被欺骗了，投票结果并没有表达出人民真正的意志。
这种民粹主义信条的一个基本要素，就是没有把人民看作一群拥有不同观点与利益、活生生的人，而认为人民就是一个神秘而统一的实体，只有单一的意志，也就是“人民的意志”。（读者注: 又照镜子了）
许多民粹主义政党与政治人物就是不愿接受“人民”可能包含了许多不同的意见、许多不同的利益团体等诸多含义。他们一心认定真正的人民只有一个意志，也深信只有自己才能代表这种意志。
按照这种逻辑，到底要怎样分辨某个人算不算是“人民”？这个问题再简单不过：只要支持领袖的，就算是人民。德国政治哲学家扬-威尔纳·穆勒认为，这就是民粹主义的决定性特征。要判断某人是不是民粹主义者，就看他是否声称只有自己能够代表人民，并声称那些不同意他的观点的人（国家官僚制度、少数群体甚至多数选民）肯定都是为虚假意识所迷惑，或者根本不是真正的人民。
这样一来，只要有任何独立的机构制度反对他们，民粹主义者就会试图削弱或侵占这些机构制度的权威。结果就产生了一种黑暗而愤世嫉俗的观点，这种观点觉得整个世界就是一座丛林，而人类就是一种只迷恋权力的生物，所有社会互动都是权力斗争，所有机构制度都是只为自己人谋求利益的集团。
它把所有互动都简化成权力斗争，于是现实变得似乎不再那么复杂，所有战争、经济危机和自然灾害等事件也变得好懂多了。
在一个运作良好的民主国家，公民之所以相信选举结果、法院判决、媒体报道和科学发现，是因为公民相信这些机构一心追求真理与真相。但要是人民相信只有权力才是唯一的现实，对这些机构失去信心，就会使民主崩溃，而让强人夺去所有权力。
如果某个人对所有决策独断专行，就连其最亲近的顾问也不敢表达异议，就不可能有任何对话。这样的网络就处于最独裁的那一端。假设没有人能在公开场合发表异议，但在关上门后，有一小群党派高层或高官能够畅所欲言，虽然这仍是独裁，但已经朝民主方向迈出了一小步。如果只有10%的人口能够发表意见，在公平的选举中投票，竞选公职，以此参与政治对话，这应该算是一种有限的民主。这样的例子包括雅典之类的古代城邦，或是早期的美国（当时唯有富裕的白人男性才有这样的政治权利）。能够参与对话的人数比例越高，这个网络也就越民主。
虽然官方号称这是朝鲜的立法机构，每五年举行一次代表选举，但真正的决策地点另在他处。这里的议事讨论一团和气，只是照着预定的脚本走，并没打算改变任何人对任何事的看法。
如果说民主的死亡，一种情况是人民没有了言论自由，而另一种情况就是人民已经失去了彼此倾听的意愿或能力。
在现代，独裁者的政治权力常常来自垄断经济资产。在古典时代，中国皇帝、古希腊君主与埃及法老统治社会，靠的也是控制粮仓、银矿与灌溉渠道。
随着政体规模不断扩大，城邦变成更大的王国与帝国，就连雅典那样的“部分民主”也随风而逝。说到古代民主政体，所有著名例子都是城邦，例如雅典和古罗马。相较之下，到了大型的王国或帝国，还真没听过哪个是以民主的方式来运作的。
如果只是办场选举，让罗马帝国上千万公民投票给这位或那位皇帝候选人，理论上并非不可能。但真正的问题是，这上千万公民有没有办法真的进行全帝国规模的持续政治对话。
要进行对话，并不是有说话的自由与倾听的能力就够了，还需要两个技术前提。第一，各方要处于彼此的听力范围内。所以在美国或罗马帝国这样辽阔的土地上，想要进行政治对话，就必须利用某种信息技术将言论迅速传向远方。
第二，人民必须对自己谈论的内容有基本了解，否则就是在制造噪声，而不是进行有意义的对话。
想在多元群体之间进行大规模政治对话，必备条件就是大家都能对自己从未亲身经历的议题有一定理解。在一个大型政体里，教育与媒体有一个关键作用：让民众了解一些他们从未亲身体验的事。没有教育系统、没有媒体平台来发挥这个作用，就不可能进行有意义的大规模对话。（读者注: 这个角度太棒了，教育和媒体在促进民主上的深层逻辑）
当时没有真正有意义的公共对话，并不是奥古斯都、尼禄、卡拉卡拉或任何其他皇帝的错。不是这些人破坏了罗马的民主，而是在帝国的规模与可用的信息技术下，民主制度在当时根本不可能运作。柏拉图与亚里士多德这些古代哲学家早已看清这一点，所以他们认为民主只能在小规模城邦运作。
事实证明，一旦政体庞大多元，再加上中央软弱无力，就会带来致命的结果。
报纸是一种周期性刊物，它与早期一次性刊物的不同之处在于拥有更为健全的自我修正机制。周报或日报有机会修正错误，并以此赢得大众信任。
成功得到广泛信任的报纸于是成了舆论的制造者与发声渠道。报纸让大众更了解时事，也更愿意参与发展，这也改变了政治的本质，从荷兰开始，随即延伸到世界各地。报纸拥有了关键的政治影响力，于是报纸主编成为政治领袖就不是什么新鲜事了。让-保罗·马拉就是靠创办《人民之友报》并担任主笔在法国大革命中崛起的；爱德华·伯恩斯坦就是凭着《社会民主党人》报的编辑身份协助创立了德国社会民主党；列宁在成为苏联领导人之前担任过的最重要的职务就是《火星报》编辑；墨索里尼先是在社会党党报《前进报》担任记者，后来成为煽动性右翼报纸《意大利人民》的创办人兼主编。
民主与专制不是非黑即白，而是一道连续光谱。
相较于当时大多数其他政体，美国这个新兴国家拥有更强大的自我修正机制。美国的开国元勋深受古罗马的启发（从位于华盛顿的参议院和国会大厦就看得出来），他们清楚地知道，罗马共和国最后成了一个专制帝国。他们担心哪天某个美国恺撒也会让这个国家走上同样的路，于是特意设计出许多层层叠叠的自我修正机制，形成所谓的制约与平衡体系。其中之一就是新闻自由。
大众媒体只是让大规模民主成为一种可能，而不是必然。大众媒体同样可能造就其他类型的政权，特别是现代的新型信息科技，就为大规模极权打开了大门。
被下属叛乱杀死成了最大的职业风险，不仅对罗马皇帝如此，对所有前现代专制者皆然。
那些皇帝、哈里发、沙阿和国王发现，要控制下属可不是简单的事。于是，统治者常常会把注意力集中在控制军队与税务上。
就像罗马帝国皇帝，汉朝皇帝在中央只会控制整个社会的某些方面，同时将相当大的自治权留给地方贵族与当地社区。因为受到当时信息科技的限制，罗马帝国与汉朝这样的前现代大型政体，多半会倾向非极权专制政体。虽然秦始皇梦想施行全面的极权统治，但必须等到发展出现代科技才有实现的可能。
布尔什维克坚信虽然个别成员可能会犯错，但布尔什维克党本身永远是对的。由于相信自己绝对正确，也就让布尔什维克扼杀了苏俄刚萌芽的资产阶级政权（如选举、司法独立、新闻自由、反对党），建立了一党专政。
正如民主政体依赖相互重叠与制约的自我修正机制，现代极权政体同样创造了相互重叠的监督机制，让它们共同维持秩序。苏联的地方行政负责人总是持续受到当地党委的监督，而且他们不知道自己的手下谁是内务人民委员部的线人。现代极权政体已经基本解决了前现代专制政体无法避免的问题——地方下属发动叛乱。
秘密警察的强大之处在于对信息的掌握，能以此先发制人，坦克旅或战斗机中队的指挥官还来不及反应，就已经被逮捕。
负责整肃与杀戮的秘密警察有好几个分支，他们互为对手，彼此密切监督与整肃。
极权政权的基础，就是控制一切信息流动，并对所有独立信息渠道保持怀疑。在军官、国家官员或一般公民交换信息的时候，双方可能建立信赖关系，而有了信赖关系，就可能组织反抗行动。所以极权政权有一个关键原则：无论人民在哪里见面、交换信息，都必须受到政权的密切监控。
但在大多数农民看来，这一切太恐怖了。他们并不信任在莫斯科做计划的那些人，也不信任新的集体农场制度。他们并不想放弃原来的生活方式和个人财产。因此，农民没有把牛马交给集体农场，反而干脆直接将其宰杀。他们的劳动动机也变弱了。农民耕作公有田地，自然没有耕作自有田地那么卖力。苏联农场处处可见农民的消极抵抗，甚至演变成暴力冲突。（读者注: 镜子）
面对农业集体化的努力遇到阻力并导致经济灾难，莫斯科的官僚与神话编造者可以说从克雷默的《女巫之锤》中好好学了一招儿。我在这里并不是要暗示他们真的读过这本书，而是要指出苏联同样发明了一套全球阴谋论，创造了一种完全不存在的敌人。20世纪30年代，苏联当局一再把经济灾难归咎于反革命的阴谋集团，并称“富农”或“资本主义农民”为其代表。就像在克雷默的想象中，女巫听从撒旦的命令，召唤冰雹摧毁了农作物；在斯大林主义者的想象中，富农被全球资本主义控制，于是破坏了苏联经济。
苏联官员到底怎样判断该把谁算作富农？在某些村庄，当地干部会努力通过客观标准（例如拥有多少财产）判断谁是富农，结果受到污名化并遭到驱逐的人常常是那些最勤奋、最有效率的农民。而在另外一些村庄，当地干部则会利用这个机会打击自己的对手。还有些村庄，干脆用抽签来决定谁是富农。也有些村庄会举行社区会议，投票表决，结果常常就是那些平常不与人来往的农民、寡妇、老人与其他“可牺牲的人”被评定为富农。
前现代教会的发展缓慢，时间长达数个世纪，因此常常显得很保守，对于快速的变化充满疑虑。相较之下，纳粹这样的现代极权政党就大不一样，只用一个世代就组织起来，并承诺迅速彻底改革社会。这些极权政党没有几百年的传统与结构需要捍卫，每当领导者提出野心勃勃的计划，要打破现有的传统与结构，党员通常都是一呼百应。
民主制度鼓励信息有许多独立的流通渠道，不一定要经过某个中央枢纽，而且允许许多独立节点自行处理信息并做出决策。因此，信息能够在私营企业、私人媒体组织、市政当局、体育协会、慈善机构、家庭与个人之间自由流动，并不需要经过某个政府部长的办公室。
相较之下，极权制度希望所有信息都要经过中央枢纽，而不希望任何独立机构自行做出决策。确实，极权制度仍然可以分出政府、政党与秘密警察这三方机构。但之所以要让这三方机构平行存在，唯一的目的就是避免出现某个独立机构挑战中央权威。如果政府官员、党员与秘密警察相互监视，哪方想要反对中央，都极其危险。
集中式极权网络的最大优势在于秩序一目了然，能够迅速做出决定，并且不带情绪地坚定执行。特别是如果遇到战争或疫情这样的紧急情况，集中式网络能够比分布式网络动作更快、走得更远。
超级集中式信息网络也有几个很大的缺点。由于规定信息只能通过官方渠道流动，一旦官方渠道被封锁，信息就没有其他传播方式。而且，官方渠道被封锁是经常发生的事。
他说：“美国人从小相信的是问题会带来答案，但苏联人从小相信的是问题会带来麻烦。”
独立媒体正是以“不断追到下一条独家新闻”为商业模式，因此几乎可以保证新闻无可隐瞒。
如果领导者本人侵吞公款或者犯下堪称灾难的政策错误，又会如何？没有人能够挑战领导者，而如果所有决策都交给领导者决定，他很可能并不愿意承认自己犯了错误（但领导者也是会犯错的人），而会将所有问题归咎于“外敌”、“内奸”或“贪腐的下属”，甚至要求得到更多的权力，以便对付那些所谓的坏人。（读者注: 哦豁）
就外交层面而言，1939—1941年，斯大林下了个赌注，希望挑动“资本主义者”互斗而耗尽气力，而苏联则用这段时间培育甚至增强实力。
1953年3月1日，正当这场医生阴谋的歇斯底里达到高潮，斯大林中风了。他倒在自己的夏季别墅里，苏共中央政治局委员纷纷抵达别墅，争辩下一步该怎么做。但时间过去了几个小时，却没人敢叫医生。当时斯大林的私人医生并不在身边，因为他正被关在卢比扬卡大楼附属监狱的地下牢房里受刑，罪名是他先前居然建议斯大林应该多多休息。等到政治局委员终于决定请来医疗专家，这场危险已经过去，斯大林再也没有醒来。（读者注: 另一个线索，原来斯大林之死不止是高层的默许）
所谓极权政权，正是选择了运用现代信息科技让信息集中向中央流动，并且扼杀真相以维持秩序，结果就是必须应对僵化、难以变通的风险。如果越来越多的信息流向单一地点，究竟是能实现有效控制，还是会造成动脉阻塞，引发心脏病？至于民主政权，则是选择运用现代资讯科技让信息分流到更多机构和个人，鼓励自由追求真相，结果就是必须应对分崩离析的风险。假设太阳系出现了越来越多的行星，它们旋转得越来越快，太阳这个中心是继续维持，还是四分五裂，陷入无政府状态？
过去人们认为神圣不可侵犯、不言自明、众人普遍接受的事物（如性别角色），此时也变得极具争议，而且既然要考虑许多新团体、观点与利益，也就很难达成新共识。就连进行有序的对话也成了一个挑战，因为人们难以就对话的规则达成共识。
这样一来，无论是想守旧还是想创新，人们都会深感挫折——虽然得到了新鲜的言论自由，但似乎虚有其表，无法真正实现什么政治诉求。在对言语感到失望之后，有些人就转而诉诸枪支。
现在能发声的不只有更多过去被剥夺权利的群体，还包括所有联结网络的人甚至是非人类个体。到21世纪20年代，民主政体再次迎来与过去类似的挑战：如何在维系社会秩序的前提下，让如洪水般涌来的新声音加入公共对话。
到目前为止，史上的所有信息网络都需要由人类担任神话编造者与官僚才能够运行。虽然泥版、莎草纸、印刷术与无线电技术都对历史产生了深远影响，但那些撰写文本、解读文本、决定了谁是女巫该被烧死、谁是富农该被奴役的，始终都是人类。现在，人类的对手将会是数字神话的编造者与官僚。
可能出现一道新的硅幕，居其两侧的可能不是民主政权与极权政权，而是一侧为所有人类，另一侧为我们无法理解的算法霸主。
第二部分 非生物网络
第六章 新成员：与众不同的计算机
与其说它们像印刷机，不如说它们更像报纸主编。正是脸书的算法，一次又一次向数百万缅甸人推送充满仇恨的帖子。
别忘了，《圣经》最早也就是一份推荐阅读清单。通过推荐基督徒阅读有厌女倾向的《提摩太前书》，而不是比较宽容的《保罗与特克拉行传》，亚大纳西主教与其他教父就改变了历史的演进方向。在《圣经》这个案例中，真正终极的权力并非掌握在各卷内容的作者手中，反而是在选定这份推荐清单的人手里。而21世纪10年代社交媒体算法所掌握的正是这样的力量。
只要用户参与度增加，脸书就能收集更多数据，卖出更多广告，在信息市场占据更大份额。此外，提升用户参与度能给投资人留下好印象，从而有利于推高脸书股价。用户在脸书停留的时间越久，脸书就越有钱。根据这种商业模式，人类管理者给脸书算法定了一个首要目标：提升用户参与度。随后，算法用几百万用户做实验，发现最能提升参与度的办法就是让人愤慨。比起慈悲的布道，充满仇恨的阴谋论更能提升人类的参与度。所以，为了追求用户参与度，算法就做出了一个致命决定：传播愤怒。
人工智能算法能够自己学会没有写进程序里的东西，也能够自己决定人类高管并未预见的事情。这正是人工智能革命的本质：无数能力高强的人工智能行为者正如洪水席卷而来，淹没全世界。
我们常常把智能与意识混为一谈，于是让很多人觉得某个实体要是没有意识，就不可能拥有智能。然而，智能与意识其实是两回事。智能是实现目标的能力，例如把用户在社交媒体平台上的参与度最大化。意识则是体验各种主观感受（比如痛苦、快乐、爱与恨）的能力。
计算机究竟会不会发展出意识，就眼前的问题而言其实并不重要。如果要实现“将用户参与度最大化”这样的目标，并做出有助于实现这个目标的决策，实际并不需要有意识，只要有智能就足够了。就算是不具备意识的脸书算法也能有一个目标，即让更多的人在脸书上花更长的时间。接下来，只要有助于实现这个目标，这套算法就能决定要故意散播骇人的阴谋论。
任何纸质文件都无法自己生成另一个纸质文件，更别说加以推广传播了。从一份文件到另一份文件，中间的路径绝对需要经过人的大脑。
相较之下，计算机与计算机的链接，现在已经可以完全不用人类参与了。
如果所谓权力取决于有多少合作成员、对法律与金融的理解程度有多高、制定新的法条与发明新的金融工具的能力有多强，那么计算机肯定能够得到远高于人类的权力。
纵观历史，各个宗教都说自己的神圣经典来自非人类，而这可能很快就会成为现实。未来某些强大且深具吸引力的宗教，其经典有可能就是由人工智能编写而成的。
《圣经》无法自行管理或解读其内容，所以在犹太教和基督教，真正掌握权力的并不是这本号称绝对正确的圣书，而是犹太拉比院或天主教会这样的人类机构。相较之下，人工智能不但能够编写新的经文，而且完全有能力自行筛选、自行解读，过程中完全不需要任何人类的参与。
民主是一种对话，对话依赖的是语言。而计算机一旦入侵了语言，就可能让大量的人几乎不可能进行有意义的公共对话。如果我们和冒充人类的计算机进行政治辩论，等于连输两次。第一，用于宣传的机器人程序本来就不可能被说服，所以我们想改变它们的想法只会是浪费时间。第二，我们与计算机交谈的次数越多，就会越多地透露自己的信息，机器人程序就能据以调整论点，动摇我们的看法。
所谓历史，指的是生物本能与文化之间的互动，是人类对食物、性、亲密关系这些事物的生物需求，以及与人类的文化创造（如宗教和法律）之间的互动关系。
如果真要操纵人类，其实并没有必要真的把人脑与计算机连接起来。几千年来，先知、诗人与政治人物一直都在通过语言来操纵与重塑社会，而计算机现在也正在学习如何做到这一点。计算机并不需要派出杀手机器人来射杀人类，只要操纵人类扣动扳机就行。
我们从科技巨头那里得到信息，而我们付出的代价也是信息。随着越来越多的交易采用以信息换信息的模式，信息经济的成长其实是以牺牲货币经济为代价的，最后可能连货币的概念都会动摇。
货币应该是一种被普遍采用的价值标准，而不是只适用于部分情境的价值象征。随着越来越多的东西的价值以信息来衡量，而从货币来看却都是“免费”的，在某种程度上，如果还是只看个人或企业拥有多少美元或比索来判断他们是否富有，是无法反映现实的。如果一个人或一家企业在银行里没什么钱，但拥有庞大的数据库，这个人或这家企业有可能才是该国最富有或最强大的实体。虽然理论上也可以用货币来量化这些信息的价值，但并不需要真的把这些信息换成美元或比索。既然只用信息就能换到他们想要的东西，为什么还需要美元呢？
计算机真正“新”的地方在于它们做出决策与创造想法的方式。如果计算机做出决策与创造想法的方式与人类相似，计算机只会成为一种“新人类”。科幻小说常常出现这样的场景：计算机变得有了意识、有了感情，爱上了人类，最后发现自己和人类并无不同。然而现实完全不是这样，而且可能更让人担忧。
第七章 永不停歇：网络永远持续运行
为了了解我们，不论好的还是坏的官僚机构都需要做两件事：第一，收集大量关于民众的数据；第二，分析所有数据，找出其中的规律模式。
正因为收集与分析信息如此困难，就算是20世纪最极权的国家，也无法有效监控全民。在罗马尼亚与苏联，公民的大部分言行仍然能够躲过罗马尼亚国安局与苏联克格勃的注意。就算是某些细节真的被记到了档案里，也常常就是摆设，无人问津。国安局与克格勃真正的力量并不在于能够持续监控所有人，而在于能够激发民众对于“自己可能正被监控”的恐惧，进而对自己的一言一行都格外小心。
这就是所谓的点对点监控，是由每个人不断地给其他人评级打分。
点对点监控体系一般就是汇总许多点的分数，得出总分。还有一种监控网络更是把这种“评分逻辑”发挥到极致，这就是社会信用体系，其目标是给人们的所有事情都打上分数，而得出的总分也会影响一个人的所有事情。
对于这些金钱买不到的东西，就有另一套非货币的评分机制，它也有各种不同的称呼：荣誉、地位、声誉。而各种社会信用体系所追求的，就是把这个声誉市场的估值加以标准化。社会信用就是一套新的点数系统，就连微笑或是拜访亲人这种事，这套系统都能明确告诉你价值是多少。
社会信用的想法就是把这种监控方式从餐厅和酒店扩展到万事万物。在最极端的社会信用体系里，每个人都会得到一个整体声誉分数，把他们所做的一切都纳入考量，也将决定他们能做的一切。
全面施行社会信用体系将会彻底抹杀隐私，等于让生活变成一场永无止境的求职面试。
人的生活一向都会被划分为不同的声誉领域，每个领域都有各自不同的地位竞争。很多时候你只属于自己，根本不需要参与任何地位竞争。正因为地位竞争太重要，带来的压力也非常大。因此不只是人类，就连猿类等其他社会性动物也都很喜欢偶尔放下竞争，得到一些喘息机会。
遗憾的是，社会信用算法加上无处不在的监控技术，就有可能整合一切现有的地位竞争，合并成一场永无止境的比拼。
我们必须避免让计算机网络完全控制社会，这不但是为了让我们有点儿休息的时间，更是为了有机会修正网络里累积的错误。如果网络只是不断演化、不断加速，里面的错误就会越积越多，快到我们来不及找出并修正那些错误。因为网络的特性除了永不停歇、无所不在，还很容易出错。
第八章 可能出错：谬误百出的网络
虽然“鼓掌测试”并没有揭示关于这群人的真相，但却很有效率地把一套秩序强加在这群人身上，逼他们一定要遵守某种行事方式。时间慢慢过去，这套秩序会培养出奴性、虚伪、对他人的不信任与悲观。在量子力学中，光是观察亚原子粒子，就会让这些粒子的行为发生改变。观察人类的行为也是如此：我们的观察工具越强大，可能造成的影响越大。
注: 有趣的比喻
苏联哲学家、讽刺作家亚历山大·季诺维也夫定义的苏维埃原人是一群奴性、悲观、不信任他人的人类，无论多荒谬的指令，他们都会遵守，对自己行为造成的结果也漠不关心。苏联的信息网络正是通过监控、惩罚与奖励创造了苏维埃原人。
虽然这套网络并未揭示关于人类的真理，但却非常擅长创造秩序，这让它征服了世界的一大片地区。
《战争论》提出了一套合乎理性的模型来解释战争，至今仍是主流的军事理论，书中最重要的一句格言就是“战争无非是政治通过另一种手段的继续”。这意味着战争不是情感的暴发，不是英雄的冒险，不是神祇的惩罚，甚至不是一种军事现象，而是一种政治工具。克劳塞维茨认为，军事行动必须与背后的某种整体政治目标一致，否则就是完全不理性的行为。
历史上有许多军事上决定性的胜利最后却导致彻底的政治灾难。
数个世纪以来，法国一直是欧洲地缘政治的一方霸主，主要原因就是意大利与德国没形成统一的政治实体。当时的意大利就像一锅大杂烩，包括几十个兵戎相向的城邦、封建公国与教会领地。德国则像一幅更奇怪的拼图，有1000多个独立政体，松散地集结在德意志民族神圣罗马帝国理论上的宗主权之下。
横扫各地的拿破仑大军也将现代民族主义与人民主权的理想传播到德意志与意大利的土地上。拿破仑认为这一切会让他的帝国更加强盛。但事实上，在传统结构被打破之后，日耳曼人与意大利人尝到了民族统一的甜头，拿破仑就这样在无意间奠定了德国统一（1866—1871年）与意大利统一（1848—1871年）的基础。
克劳塞维茨的整部《战争论》其实就是在警告一件事：确立“尽量得到最大的胜利”这种目标，就和确立“尽量提升用户参与度”一样，太过短视近利。根据克劳塞维茨的模型，必须先确立明确的政治目标，才能让军队据此确立一套可以实现这个目标的军事战略。只要有整体的战略作为参考，低级军官也能在战场推导出理性的战术目标。这套战争模型在长期政策、中期战略和短期战术之间建构了一套明确的层级。所谓合乎理性的战术，就是要和战略目标一致；所谓合乎理性的战略，就是要和政治目标一致。即便一位基层指挥官，他的战术决策也必须符合整场战争的最终政治目标。（读者注: 各种决策的核心出发点）
所谓的合乎理性，就是目标与行动要有一致性。如果只追求战术或战略上的胜利，却造成与整体政治目标不一致，就不能说是合乎理性的选择。但问题在于，军队的官僚特质让他们很容易落入这种非理性陷阱。第三章提及，由于官僚制度必须将现实放进不同的抽屉，等于鼓励不惜牺牲整体更大的利益，只追求狭隘的目标。为了眼前狭隘的使命，官僚很有可能根本没意识到自己的行为会造成怎样更广泛的影响，而且，要问官僚的行为是否与社会整体利益一致，向来都不是个简单的问题。
过去，只是让人类官僚及人类士兵的行为向社会的长期目标看齐，就十分困难；在未来，要让“算法官僚”与自主武器系统向社会长期目标看齐，则更是难上加难。
计算机的问题并不在于它们特别邪恶，而在于它们特别强大。而计算机越强大，我们就越要小心为其确立目标，务必让计算机与人类的终极目标完全一致。如果只是个口袋计算器，即使我们给它确定的目标与人类的很不一致，后果也微乎其微。但如果是超级智能计算机，如果确定了一个与人类利益极不一致的目标，就可能催生一个反乌托邦。
如果我们只有一条黄金法则，就是“所有行动都必须向某个更高的目标看齐，保持一致”，那么就不会有可以用来确立那个终极目标的合乎理性的方式。
历史上，许多（甚至是绝大多数）冲突都与身份的定义有关。每个人都会说杀人是不对的，但又总会认为只有杀了自己内群体的成员才算是“杀人”，如果杀的是外群体的成员就不算“杀人”。然而，内群体与外群体只是存在于主体间的概念，其定义常常源自一些虚构的故事。于是，原本一心追求普世理性规则的义务论，最后往往成为地方虚构故事的俘虏。
义务论者努力寻找本质的良善的普世规则，而功利主义者则是用行为对痛苦或快乐的影响来判断行为。
功利主义碰到的问题是人类并不知道该如何计算痛苦：我们不知道某个事件究竟应有多少个“痛苦值”或“快乐值”，所以在复杂的历史情境中，很难计算某个特定行为到底是增加还是减少了世界整体的痛苦总额。
唯有在痛苦的天平很明显偏向某一端的时候，功利主义才能发挥最大的作用。
义务论为了回答身份的问题，不得不接受功利主义的想法。在这里，功利主义也因为无法计算痛苦值，往往要采取义务论的立场。于是，功利主义开始高举“避免侵略战争”或“保护人权”这样的普世规则，但其实无法证明这样就能减少世界的痛苦总额。历史只让他们有个模糊的印象：遵守这些规则，似乎就能减少痛苦。然而当这些普世规则彼此冲突的时候（如思考是否要为了保护人权而发动侵略战争），功利主义就发挥不了什么实际作用。
功利主义的危险在于，如果你深信一个未来的乌托邦，就仿佛得到了一份空白授权书，允许你现在制造各种可怕的痛苦。事实上，这正是传统宗教在几千年前就已经玩儿的把戏。对于未来救赎的承诺，很容易成为犯罪借口。
随着计算机越来越具备智能与创造力，很可能创造出新的计算机间的金融工具。黄金与美元是主体间实体，而比特币这种加密货币，则是介于“主体间”与“计算机间”之间。比特币的概念是人类发明的，其价值也取决于人类的信念，但比特币无法存在于计算机网络之外。
回想2007—2008年，当时的全球金融危机由各种担保债务凭证引发，这些金融工具就是由几个数学家和投资奇才发明的玩意儿，对大多数人（包括负责监管的政府）来说根本难以理解。所以最后监管失灵，引发全球灾难。而计算机所发明的金融工具，很可能远比担保债务凭证复杂，只有其他计算机才能搞懂它们在干什么。结果就可能是一场比2007—2008年更严重的金融与政治危机。
所有的全面监控政体，都面对类似的问题。它们号称要用无所不包的数据库与极度精准的数学方法找出所有罪人、恐怖分子、犯罪者、反社会分子与不值得信任的民众，但实际上，它们可能是在以前所未有的效率，把毫无根据的宗教与意识形态偏见套在所有人的头上。
本章与前几章所谈到的算法偏见，很多都有一个同样的基本问题：计算机觉得自己找出了某些关于人类的真相，事实上却只是把一套秩序硬套在人类头上。社交媒体算法以为自己发现了人类喜欢感到愤慨，但事实上，正是算法让人产生与接收到更多的愤慨情绪。这种偏见一方面是由于计算机低估了人类的能力，另一方面也是因为计算机低估了自己影响人类的能力。即使计算机发现几乎所有人都有某种行为方式，也不代表人类一定有这样的行为。搞不好这正意味着计算机鼓励这种行为，惩罚其他行为。
虽然人类的想象力能召唤出某个好战、充满仇恨的神，但是人类有能力摆脱这样的神，重新想象出另一位比较和善、宽容的神。然而，算法能够独立行动，而且已经从我们手中夺走了那种能力。
第三部分 计算机政治学
第九章 民主制度：我们还能对话吗？
这些工业帝国的思想家、政治家与政党一致认为，唯有帝国的形式能够培养出工业社会。原因在于，不同于相对自给自足的农业社会，新兴的工业社会十分依赖外国的市场与原材料，而唯有帝国能够满足这样的需求。
要是人类得经过这么多可怕的教训，才能学会如何管理蒸汽动力与电报技术，现在还得再付出多少代价，才能学会管理生物工程与人工智能？
自由民主制度的一大优势，就在于拥有强大的自我修正机制，能够避免过度狂热，也保留了发现自身错误、改变行动方针的能力。
民主制度是仰赖信息科技才得以存在的，而人类历史上的大部分时间根本不可能出现大规模的民主。
民主制度想要存活的话，效率低一点儿并非坏事，反而是一件好事。如果想要保护个人的自由与隐私，最好还是别让警察和上司对我们无所不知。
自我修正机制需要不同的机构制度互相制衡。政府、法院、媒体、学界、民间企业，以及非政府组织，都可能犯错、可能贪腐，因此都该由其他机构来制衡监督。而为了彼此监督，这些机构就必须拥有独立获取信息的能力。
在人类历史上，压迫的形式分为两种：剥夺改变的能力和剥夺休息的机会。
史上有各种严苛的种姓制度，总在否定人类改变的能力，也有许多独裁者，妄图重塑人类，如同捏塑黏土一般。在这两种极端之间找到正确的路，是一项永无止境的任务。
我们对创造力的定义，通常就是能够找出模式，再打破模式。若真如此，计算机既然如此善于辨识模式，在许多领域就很可能会变得比人类更有创造力。
如果情绪智能指的是正确辨识情绪并做出最佳反应的能力，那么计算机在情绪智能方面的表现也可能远超人类。人的各种情绪，其实也都是模式。
事实上，正因为人工智能没有自己的情绪，所以它可能比人类更懂得如何辨识情绪。我们总渴望被理解，但其他人常常太专注于自己的感受，也就无法理解我们的感受。相较之下，计算机如果学会了如何辨识人类的感受模式，由于它不会被自己的感受分心，总有一天它能把人类的感受拿捏得极为细致。
如果要谈各种社会角色与工作自动化的可能性，一个极为关键的问题就是：大家真正想要什么？是只想解决问题，还是想和另一个有意识的实体建立关系？（读者注: 太精辟了这个切入点）
我们之所以想看人类运动员比赛、看人类国际象棋大师下棋，与他们产生连接，正是因为他们是有意识、有感受的实体。比起和机器人，我们更容易觉得我们和人类属于同一群体。我们能和这些人类有共同的情绪体验，也能共情他们的种种感受。
我们判断某个实体具有意识的时候，并不是因为手上真的有什么证据，而是因为和那个实体有情感依附。
在过去相当长的一段时间，民主政治就是保守派与进步派政党之间的对话。看着人类社会这个复杂的制度，进步派高喊：“这真是一团乱，但我们知道怎么解决。让我们试试看！”保守派则反对：“是一团乱没错，但一切还能运作。不要乱插手。想要去解决，只会把事情搞得更乱。”
民主制度的自我修正机制要能发挥作用，得先知道自己到底该修正些什么。对独裁政权来说，让自己显得高深莫测是件好事，这样随时都能把责任撇得干干净净。但对民主政权来说，让自己显得高深莫测是个致命的错误。
随着社会把越来越多的决定权交给计算机，民主的自我修正机制、透明度与问责制都会受到挑战。如果算法如此高深莫测，民选官员如何被监督？所以，已经有越来越多的人要求保障一项新的人权：得到解释的权利。
以前，就算要补充大量的细节，创作者也能够解释某件事物是如何运作的，背后有什么原理。但现在，情况不是这样了。许多科技与系统已经变得如此复杂，没有任何一个人有能力真正理解……在人工智能领域，那些正在走向自主的信息网络目前就是无法解释。你没有办法带着人一步一步走过整个决策过程，准确解释为什么算法会做出某项特定预测。
近期之所以会出现一波民粹政党与魅力领袖的浪潮，原因之一就在于我们的信息网络变得越来越高深莫测。信息仿佛排山倒海而来，令人难以消化、不知所措，民众觉得自己一旦再也看不懂世界是怎么回事，就很容易成为阴谋论的猎物，于是想向某个自己能够理解的事物，也就是某个人类，寻求救赎。（读者注: 远古人类群体的大巫也扮演了这个角色）
我们就是比较喜欢面对单一的数据。如果碰上复杂的问题（不管是贷款、疫情还是战争），我们常常希望能找出某个单一的理由，采取特定的行动。这就是所谓的单一归因谬误。
就像是做贼的往往最知道怎么去抓贼，所以我们也大可用算法来审查算法。
这又会带出一个问题：要怎样才能确定那个负责审查的算法本身没有毛病？这是个先有蛋还是先有鸡的问题，到头来并不会有一个单纯的技术上的解决方案。不论研发了怎样的技术，人类都必须维持官僚机构制度，由人类负责审核算法，决定要不要盖下那个许可的印章。（读者注: 官僚主义在纯人类社会的尽头反而需要扮演守卫的角色）
民主制度的运作必须满足两个条件：能针对关键议题进行自由的公共对话，能维持最低限度的社会秩序与制度信任。而自由的对话绝不能落入无政府状态。特别是在处理紧急而重要的问题时，进行公共辩论必须有一套公认的规则，也必须有合法的机制以保障某种最终决定的达成（即使没有办法让所有人都满意）。
我们特别担心人工智能可能造成无政府状态，是因为人工智能除了会让新的人类群体加入公开辩论，还在历史上第一次让民主必须应对各种来自非人类的杂音。
在这种争夺人心的战斗中，亲密感是一种极为强大的武器。在过去，各个政党虽然能够吸引我们的注意力，却很难大规模产生亲密感。广播设备虽然能让几百万人听到领导人说了什么，却无法让领导人和听众变成朋友。但如今，政党（甚至外国政府）却能部署一支机器人程序大军，和几百万名公民建立友谊，再运用这样的亲密感来影响公民的世界观。
这种处于无政府状态下的信息网络，既不能找出真相，也无法维持秩序，注定撑不了多久。而一旦陷入无政府状态，人民宁可牺牲自由来换取某种确定性，独裁政权或许就会产生。
国会的两党合作曾经是美国政治的基本特征，但现在几乎再也看不到这种情形。而从菲律宾到巴西，许多其他民主国家也都逐渐走向极端。一旦公民无法相互交谈，把对方视为彻底的仇敌，而不只是政治上的对手，民主制度就难以继续。
第十章 极权主义：所有力量归于算法？
虽然人类工程师可以尽最大努力打造出向政府看齐的人工智能，但鉴于人工智能具有自我学习与改变的能力，难保哪天走向政府不乐见的方向。
民主政体“藏在柜子里的骷髅”可能会少一些，所以就算碰上反民主言论，大体上也能够包容。但极权政权简直就像在柜子里藏了整个见不得光的墓园，因此完全无法承受任何批评，这种时候，会提出异议的机器人程序就会形成极为严重的挑战。
纵观历史，专制者最大的威胁常常来自下属。第五章提到过，没有哪个罗马皇帝是被民主革命赶下台的，都是被下属推翻或成了傀儡。要是21世纪的专制者把太多权力交给计算机，就有可能成为计算机的傀儡。独裁者最不乐见的，就是创造出比自己更强大的或自己控制不了的力量。
提比略的命运告诉我们，所有独裁者都要维持一种很脆弱的平衡：既要把所有信息集中在一处，又要小心让自己成为各种信息通道的唯一交会点。要是信息通道交会在其他地方，那里就会成为真正的权力枢纽。如果政权仰赖的是人类（如塞扬努斯与马克罗），高明的独裁者就能操弄他们互相对抗，而让自己稳居高位。如果政权仰赖的是一套力量强大且高深莫测的人工智能，所有信息都由人工智能来收集与分析，人类独裁者就有可能直接失去一切权力。
第十一章 硅幕：全球帝国还是全球分裂？
但遗憾的是，人类从未真正团结一心，总是有些坏人在作乱，而好人也不见得都能达成共识。
这种情况可能会导致一种新型的数据殖民主义，也就是会通过控制数据来统治遥远的殖民地。而控制了人工智能与数据，也能让这些新的帝国控制人民的注意力。
在古代，最重要的经济资产是土地而非信息，而这就避免了所有的财富与权力过度集中在一个中心。只要最重要的还是土地，就永远会有相当的财富与权力掌握在行省地主手中。
这些数字领域并不是彼此的镜像，不能说中国与美国只是研发出了同一种应用程序的地方版本。百度不是中国的谷歌，阿里巴巴也不是中国的亚马逊。这些程序就是有着不同的目的和不同的数字架构，也对人民的生活有着不同的影响。
人类永远都有“合作”这个选项。人类合作的前提并不是彼此相似，而是拥有能够交换信息的能力。
全球合作与爱国主义并不互斥。因为“爱国”不代表“仇恨外国人”，而只是“爱自己的同胞”。有很多时候，为了照顾自己的同胞，我们就是需要和外国人合作。
甚至丛林法则本身就是个错误的神话。正如德瓦尔与许多其他生物学家的大量研究所记录的，真实的丛林（而不是想象中的丛林）充满了无数动物、植物、真菌以及细菌表现出的合作、共生与利他现象。比如，陆地植物有高达80%都需要依赖与真菌的共生关系，维管植物科中也有将近90%与微生物有共生关系。如果亚马孙、非洲或印度雨林里的生物放弃合作而转为全面争夺霸主地位，雨林与雨林中的所有生物很快都会死去。合作，才是真正的丛林法则。
有些时期格外暴力，有些时期也相对和平。我们在人类的长期历史中观察到的最清楚的规律并不是冲突持续不断，而是合作的规模持续扩大。
战争的激烈程度并不取决于永不改变的人性，而取决于不断改变的科技、经济与文化因素。只要这些因素出现变化，战争也会跟着变化，这一点在二战后可以看得十分清楚。
与此同时，人类持续从物质经济走向知识经济，也让战争的潜在获利越来越低。虽然现在发动战事还是能够抢夺稻田与金矿，但在20世纪晚期之后，这些资源已经不再是经济财富的主要来源。比如半导体产业这样的新兴领导产业，是以技术技能与组织上的专业为基础的，无法通过军事征服来取得。
对许多活在21世纪10年代的人来说，医疗保健预算高于军事预算似乎不是什么了不起的事。这其实是人类行为出现重大转变之后的结果，这一点在先前大多数时代听起来都会觉得是天方夜谭。
也就是说，正如太过乐观的历史观可能是危险的幻想一样，太过悲观的历史观也可能弄假成真，带来毁灭。
历史让我们学到的一大重点就是许多我们以为自然而永恒的事物，其实是人为且多变的。所以在我们了解了冲突绝非必然之后，不能因此自满，反而要知道这让我们每个人都背负了重大的责任，需要做出正确的选择。这意味着，如果人类文明被冲突毁灭，人类不能拿什么自然法则或非人类科技来当借口。同时这也意味着，只要我们努力，就能创造一个更美好的世界。这种观点绝非天真，而是无比现实。现在所有的旧东西都曾经无比新颖。历史唯一不变的，就是改变。
结语
决定了优先级，就会影响公民怎么投票、商人关心什么议题以及政治人物想要有怎样的声誉。而我们排出的优先级，往往是由我们对历史的理解而决定的。
虽然所谓的现实主义者会说历史叙事只是用来促进国家利益的宣传手法，但事实上，正是这些叙事先定义了何谓国家利益。
我们从历史学到的一个教训是，新信息技术的发明总是能促成重大的历史变革，因为信息最重要的作用就是编织新的网络，而不是呈现既有现实。
第一，我们必须小心太过天真乐观的信息观。信息并不等于真理，信息的主要任务在于联结，而非呈现现实，而且史上的信息网络往往比较重视秩序而非真理。比如税务记录、宗教经典、政治宣言和秘密警察档案，都能极有效地创造出强大的国家与教会，但这些国家与教会却可能有着非常扭曲的世界观，并且容易滥用权力。
民粹主义常说权力是唯一的现实，认为一切人类互动都只是权力斗争，信息也只是用来打倒敌人的武器。但现实从来不是如此，也没有理由认为人工智能将会造成这样的情形。虽然比起真理，许多信息网络确实更重视秩序，但要是有哪个信息网络真的完全蔑视真理，也绝不可能存活下去。就个人而言，我们常常真的想知道真理，而不是只想追求权力。
由于人类其实是想知道真理的，因此还是有机会通过交谈、承认错误、接受新想法以及修改我们所相信的故事，至少让部分的冲突得以和平解决。这正是民主网络与科学机构制度的基本假设，也是本书写作的基本动机。
人类的本性里是否有什么逼迫我们走上这条自我毁灭的道路？
本书认为，问题并不在于人类的本性，而在于人类的信息网络。由于人类的信息网络重秩序而轻真理，因此往往带来大量的力量，却没带来多少智慧。
历史的轨迹无比开放，可以弯向任何方向、走向任何地点。就算智人毁灭了自己，宇宙还是会运转如常。地球演化花了40亿年，才出现了一个拥有高度智能的猿类文明。如果人类灭亡，需要再演化上亿年，才会出现拥有高度智能的老鼠文明，这种事迟早会发生。宇宙就是这么有耐心。
最早的生物并不是由什么绝对正确的天才或神祇所创，而是经过复杂的反复试错而产生的。40亿年来，经过越来越复杂的突变与自我修正机制，地球上演化出了树木、恐龙、丛林，并最终演化出人类。我们现在召唤出了一种人类难以理解的非人类、非生物智能，它有可能逃脱人类的控制，除了可能危及人类物种的存亡，更有可能将无数其他生命形式也卷入危险之中。我们所有人在未来几年所做的决定，将决定召唤这种非人类智能究竟是个致命的错误，还是会让生命的演化翻开一个充满希望的新篇章。
书评：《智人之上：从石器时代到AI时代的信息网络简史》