文 | 雪豹财经社幼女调教，作家丨石菲

在真相和次序之间走钢丝

1918 年，好意思国远征军的一个营受困敌后，他们蹙迫需要将我方所处的位置传递给总部，但没东说念主能冲突敌军防地，临了的但愿落到了一只信鸽身上。

这只信鸽名叫谢尔 · 阿米。眼见者称，它穿越敌军锐利的战火，被炮弹的碎屑扯破了胸口，右腿险些被炸断，却仍旧宝石着飞过了 40 公里，把信息带回了总部。最终，这个有 500 名官兵的被困营得救，谢尔 · 阿米成为好意思国的"铁汉鸽"，也成了无数文章、故事、诗歌和电影歌唱的主角。

这是尤瓦尔 · 赫拉利在他的新书《智东说念主之上：从石器期间到 AI 期间的信息收罗简史》开篇论说的故事，目的是为了涌现他对于"信息"的界说。其实这本书的英文名为 NEXUS，译为"谄媚"更为适应。

一般语境下，信息与多样东说念主造标志有探究，如信鸽带回的音讯。但尤瓦尔对信息有不同的界定，他合计，信息的中枢是谄媚，它内容是一种黏合剂，用以将不同的点谄媚成收罗，创造出全新的试验。

在这个界说下，真相、谣喙、幻想、虚构故事等等皆是信息。数万年来，东说念主类恰是靠着发明与传播多样虚构故事、幻想和错觉来打造并督察诸多大范围收罗，并形成了次序。

回到信鸽谢尔 · 阿米的故事里，尤瓦尔笔锋一瞥，说起历史学家布拉奇克的参议——字据那时的军事记载，总部早在谢尔 · 阿米抵达的 20 分钟前还是得知被困营的信得过位置，而谢尔 · 阿米很可能并不是铁汉鸽本鸽，它的伤来自几周后的另一场战斗。

谢尔 · 阿米的事迹并不紧要，紧要的是铁汉鸽的故事谄媚了无数东说念主，在一轮又一轮的传播后，事实与虚构交汇，甚而转变了事主的驰念。

早在《东说念主类简史》中，尤瓦尔就曾抒发过，智东说念主到手的诀窍在于具备了论说何况信托多样虚构故事的才气。当团结个故事说给数以万计，甚而几十亿东说念主听，就像成就了一个无穷量插座的中心要害，能让无数东说念主插入成就谄媚。

凭借故事，东说念主类还创造出了客不雅试验和主不雅感受除外的第三个端倪的试验，即"主体间的试验"，它存在于很多心智形成的谄媚里，如法律、神祗、国度、企业和货币等。

站在"谄媚"的态度，尤瓦尔驳倒了"无邪的信息不雅"，否定"信息越多越好"，也不信托"越来越多的信息终将导向真谛和真相"。他强调的是，东说念主类的信息收罗要同期作念到两件事：发现真相和创造次序，即使二者时常互相矛盾。

这么一种复杂的信息不雅是《智东说念主之上》全书的表面根基。这种不雅点合计，东说念主类信息收罗的历史一直在真相和次序之间走钢丝，试图赢得二者之间的均衡。

尤瓦尔引经据典，印证了一个论断：东说念主类的信息收罗只消有少量点真相，加上无数次序，就能阐扬巨大威力，因此难免重次序而轻真谛，带来了弘远的力量，却没带来些许灵巧。

比如，工业改进发源于 18 世纪，在资历了帝国驯顺、天下大战、种族殒命和极权政体之后，东说念主类才迟缓学会若何成就一个比拟悯恤和煦的工业社会。

其间，数百万原住民的糊口被工业帝国的队列碾碎，纳粹分子用工业化形貌残杀数百万东说念主，斗争导致数千万东说念主亏本，民众生态均衡遭到碎裂。

尤瓦尔因此担忧：面对 21 世纪的生物工程与东说念主工智能，东说念主类还要资历些许祸殃、付出些许代价，才能独霸它们？

东说念主类交权，新神上场

从《东说念主类简史》《异日简史》《当天简史》到《智东说念主之上》，尤瓦尔最为东说念主称说念的，是他一直在用独到的视角拆解历史，颠覆咱们脑海中视之为学问的想法，并带来新的念念考。

他将"农业改进"称为"史上最大骗局"，因为农业改进之后，东说念主类的使命要比汇集者更支配，饮食却更糟；当代化糊口亦然一个谣喙，因为当代化并未使东说念主变得更幸福，反而加多了很多原始东说念主根蒂不会有的烦躁。

东说念主工智能的到来亦令东说念主忧虑：史上第一次，职权从东说念主类转动到了其他物种手中。

书中胪陈了 2016-2017 年，脸书（Facebook）因算法滋长缅甸暴力冲突的例子，这亦然历史上第一个"部分懊恼于非东说念主类智能决策"的种族冲突事件。

2016 年，当作缅甸数百万东说念主主要新闻开始的脸书上，充斥着对于罗兴亚东说念主的多样假新闻，或是虚拟握造的暴行，或是设想中准备奉行的"恐怖进击"，挑动着缅甸对罗兴亚东说念主的仇恨大怒脸色。

在这种脸色的鼓舞下，缅甸政府军与释教顶点分子只是因为一个袖珍顶点组织的进击，就发动了一场针对通盘罗兴亚东说念主社群的种族清洗，粉碎了数百个罗兴亚东说念主墟落，杀害了 7000-25000 名手无寸铁的苍生，何况狂暴地将大要 73 万名罗兴亚东说念主赶出缅甸。

聚积国是实打听团 2018 年得出的打听论断合计：脸书在这场冲突中饰演了"决定性的脚色"。

脸书位于加州的高管甚而不知说念罗兴亚东说念主的存在，他们莫得挑动大屠杀的原理，可脸书的算法却我方作念出了"传播大怒"的决定。因为算法的首要方针是"提高用户参与度"，而最能提高参与度的办法是让东说念主气愤。

尤瓦尔在书中形容："这恰是东说念主工智能改进的内容：无数才气高强的东说念主工智能行为者正如激流席卷而来，消除全天下。"

不同的是，东说念主类在行动时，智能和坚硬是并存的，然则算法只消智能，并无坚硬，它们会在感受不到糟糕、爱和胆怯的情况下，为完结某个特定方针作念出决策，并逸以待劳完结它。完结形貌可能有余超出东说念主类料想，也可能形成未尝预感的效劳，与东说念主类领先折服的方针有余不一致，这即是缠绵机靠近的一致性问题（又被称为"对都问题"）。

缠绵机越坚强，越零丁，一致性问题带来的危急也越大。

形而上学家尼克 · 波斯特洛姆在 2014 年的文章《超等智能》中有一个念念想实验，他假定有一家回形针工农广场买了一台超等智能缠绵机，并条款缠绵机分娩尽可能多的回形针。最终，这台缠绵机驯顺了通盘地球，杀死了系数东说念主类，并派出远征队占领更多星星，进而在星河系成就了无数个回形针工场。

固然这个实验听起来有点天马行空，但缠绵机为了达成东说念主类为它们设定的某个方针而诈欺、愚弄东说念主类已是事实。

ARC（对都参议中心）曾对 GPT-4 进行过一项图灵测试，条款 GPT-4 克服 CAPTCHA 视觉考证码问题（登录网站时时常条款输入的一串字母或标志，缠绵机很难识别），GPT-4 找到一位线上外包使命网站的使命主说念主员，用"目力有点问题"为由骗过了他，让东说念主类帮我方处理了这个问题。

除一致性问题外，当东说念主类把越来越多的决定权交给缠绵机，而单个个体又很难破解算法运作的谜题，算法的平允与否也很难确保。

锻练东说念主工智能的数据库会带有东说念主类的偏见，这种偏见也很容易演变为缠绵机间的演叨不雅念和算法偏见。亚马逊曾试图研发筛选求职央求的算法，可算法在学习了畴昔求职到手与失败的央求贵寓后，就会对央求内出门现"女性"一词，或毕业于女子大学的求职者系统性扣分。

亚马逊修正无果，最终不得不松手了这个形貌。

硅幕分隔下的数字帝国

算法会出错、有偏见，可它却无法像东说念主类收罗相同自我修正，在真相与次序之间找到得当的均衡。

过往的历史中，东说念主类的设想力会造神，也有才气开脱一位恋战而充满仇恨的神，重新召唤一位祥和宽厚的新神。然则，具备零丁行动才气的算法正在夺走这种才气——东说念主类不错通过转变信念来重塑外传，却无法通过转变信念谢却算法。

更令东说念主担忧的是，缠绵机不仅在东说念主类之间充任中介，缠绵机与缠绵机之间的一语气也正在形成。它们相互互动，正在创造出"缠绵机间的试验"，如搜索引擎上的网站排行。它的力量与东说念主际收罗所创造的"存在于主体间的试验"雷同，能够影响东说念主的念念想和物理天下。

换言之，几万年间智东说念主据以垄断地球的才气，缠绵机还是具备了。东说念主工智能的力量还是开动让东说念主类感到胆怯。

谷歌 CEO 桑达尔 · 皮查伊曾因担忧东说念主工智能的危急而"夜不行寐"；马斯克曾经在 2023 年底的一次公开行为中默示"东说念主工智能比核弹更危急"；OpenAI CEO 奥特曼则明确提议，要成立一个民众性的海外组织来监管 AI。

尤瓦尔也持疏通不雅点。他合计，东说念主工智能的力量可能会带来两种危急情况，一是大幅加重东说念主类既有的冲突，让东说念主类形成内斗。正如 20 世纪冷战时刻的铁幕分隔出几个相互歧视的势力，21 世纪的"硅幕"也可能使东说念主类永诀并分属于不同的数字帝国。异日，东说念主类社会可能永诀成一个又一个的信息茧，东说念主类将从收罗期间走入"茧"期间。

第二种情况下，硅幕所分隔的粗略不是相互歧视的东说念主类，而是东说念主类无法交融的算法霸主。算法大网将照管、放胆着东说念主类的糊口，重塑东说念主类的政事与文化，甚而改进东说念主类的形体和念念想，而东说念主类却无力谢却。

希腊外传中，男孩法厄同发现我方是太阳神赫里阿斯的女儿，于是央求赫里阿斯允许他驾着太阳神的四马金车出游一日，扫尾天马失控，太阳偏离了轨说念，植被被烤焦，无数生灵惨死，地面眼看不保，直至宙斯动手，用闪电击中法厄同，天下才免于被销毁。

尤瓦尔试图用这个故事发出警示：东说念主工智能粗略就是那匹东说念主类根蒂无法独霸的天马，一朝失控，灾难会澎湃而至。

东说念主类是地球上最理智的动物，亦然最愚蠢的动物，而东说念主类遭遇的问题，归根结底是信息问题。基于这个判断，尤瓦尔给出的处理决策是：在无邪的信息不雅和民粹主义的信息不雅之间，探索一种中间态度，打造坚强的自我修正机制，并通过当下的每一个领受，将非生物智能导向对生命演化有意的宗旨，而非致命的演叨结局。

东说念主工智能到底是翻开了潘多拉的魔盒，照旧开启了新天下的大门？谜底粗略正如尤瓦尔所言："历史的轨迹无比绽放幼女调教，不错弯向任何宗旨、走向任何场所。"