☰
赫拉利视角下的 AI 权力:文书层渗透、信任悖论与问责边界
2026/11/5 8:02:44 网站建设 项目流程

【摘要】基于尤瓦尔·赫拉利2026年公开演讲的3个核心判断,拆解AI从工具向行动主体跃迁的底层逻辑,分析信任悖论驱动AI研发竞争的双重效应,标定2条可验证的论证边界与3类认知误区,输出1套7项可落地的AI权责划分检查清单,为技术治理与企业AI权限设计提供历史维度的参考框架。

核心关键词:AI行动主体 | 组织制度体系 | 信任悖论 | 文书操作层 | AI决策权让渡 | AI权责划分 | AI治理边界 | 责任链条错配 | 赫拉利AI观点解读 | 巴别塔隐喻反转 | 运通链达研究 | 语言智能演化

引言

2026年11月,历史学家尤瓦尔·赫拉利在公开演讲中以3个物种对照案例切入,系统阐述人工智能对人类文明秩序的深层冲击,相关演讲内容经36氪整理发布。过往对AI的讨论多聚焦技术能力边界与产业应用场景,很少从文明演化的底层逻辑审视技术与人类社会的权力关系。

这篇分析融合制度分析与边界反思,从身份属性、渗透路径、竞争悖论、挤出机制、适应窗口、风险边界六个维度展开推演,目标读者覆盖技术从业者、科技治理研究者与企业决策者。内容不涉及具体技术实现细节,侧重宏观秩序与权责逻辑的梳理。

全篇围绕三条核心判断展开:

  1. AI以自主决策、自主创造、自主演化三项功能特征脱离工具属性,且该判据与意识无关

  2. 组织制度体系是AI的原生环境而非外来场景,渗透发生在系统内部而非物理旷野

  3. 人类之间的信任缺失同时充当发展加速器与失控成因,是同一因果链的两端

一、AI身份重构:从工具属性到独立行动主体的跃迁

本章判断:AI成为行动者,不靠意识证明,靠制度授权与接口权限。

行动主体的三项功能判据

过往技术工具的定位,是人类能力的延伸与放大。印刷机放大信息传播能力,蒸汽机放大动力输出能力,所有工具的决策指令都来自人类,自身不具备自主目标与演化方向。工具的输出结果完全可预测,人类对工具拥有绝对控制权。

生成式人工智能(Generative Artificial Intelligence, AI)的出现打破了这一模式。AI可自主生成文本、作出决策、产出全新的知识内容,其输出结果往往超出开发者的预期范围。这种自主决策与自主创造的属性,让AI脱离了传统工具的范畴,具备独立行动主体的功能特征。

赫拉利指出,行动主体的判定包含三个功能维度,全程不涉及意识或主观体验:一是自主决策能力,可在无人类逐指令干预的情况下完成判断与选择;二是自主创造能力,可产出人类未输入过的全新内容与策略;三是自主调整能力,可通过数据输入持续优化自身行为模式,形成开发者未预设的输出边界。

在具备在线学习、长期记忆或工具调用闭环的系统中,AI会表现出不同程度的自我调整能力;多数商用模型权重处于冻结状态,不能将内容生成能力直接等同于自主演化。

工具与主体的分界:印刷机对照

赫拉利以印刷机与AI的对比印证这一判断。15世纪古腾堡印刷《圣经》时,印刷机只是纯粹的中介工具:内容选择、语言翻译、衍生创作全部由人类完成,印刷机不会自主决定印刷《圣经》还是《古兰经》,也不会独立完成文本翻译与内容衍生。

AI则可以独立完成内容生成、逻辑推演甚至策略制定,整个过程无需人类逐步骤干预,工具的中介性在此处被打破。

核心结论:AI与印刷机的本质分界,不在于聪明程度,而在于它能否以创造者未预料的方式自主决策、自主创造新事物。

生态依赖不否定主体身份

这种主体属性并非体现在物理世界。将AI放置在无基础设施的自然环境中,它无法独立开采资源、建造工厂,甚至无法维持自身运行。但这一限制不构成对主体身份的否定,所有智能形态都依赖特定的生态系统才能发挥作用。

人类智能无法脱离地球大气与生物圈独立存在,鱼类智能无法脱离水环境运行,生态依赖与主体身份并不冲突。地球生命演化史上的环境变迁可作为参照,约24亿年前的大氧化事件彻底改变大气成分,多数原始生物因氧气毒性灭绝,幸存物种逐步演化出依赖氧气的生存模式。这一类比的完整推演将在后续适应窗口章节展开。

Q:AI与印刷机等历史上的技术工具核心差异是什么?

A:二者核心差异在于中介性是否完整。印刷机仅执行人类明确指令,不选择内容、不生成新文本、不改变运行规则;AI可在语言系统内部独立生成决策、输出新信息,并以开发者未预料的方式持续调整。

身份属性的跃迁,只回答了AI“是什么”的问题;真正决定其现实影响力的,是它所处的生态位与渗透路径。

二、渗透路径:文书操作层的原生适配与权力渗透逻辑

本章判断:AI的渗透不发生在物理世界,而发生在人类已经写好的制度文件里。

全文裁决标准:文书层与物质强制层二分

全文分析遵循一条基础裁决标准,所有关于“AI接管”的讨论都受这把标尺约束:AI可接管的是组织制度体系中可被文字与数据记录的文书操作层;使这些记录具备约束力的物质强制条件(支付清算、执法执行、能源供给、物理核验)仍不在其控制范围内。凡讨论“AI接管某系统”,须先判定该系统的关键输出是否可被文字与数据完整记录。

制度体系的原生适配性

人类统治地球的核心优势,不是个体体力或智力,而是大规模陌生人协作的能力。支撑这种协作的底层框架,是由语言符号构建的各类组织制度体系,包括法律、金融、行政、宗教等规则系统。

这套体系的运行完全依赖语言符号。货币由文字约定的信用构成,法律由条文界定的规则构成,企业由合同与章程明确的权责构成。数千年来,只有人类能够读懂这套符号系统,掌握规则的解释权与执行权,其他物种被完全排除在体系之外。

赫拉利列举的三个物种案例精准呈现了这一壁垒。牛无法开设银行账户参与金融交易,只能作为交易标的存在;马无法聘请律师引用法律条文,只能作为规则约束的对象;猪无法阅读宗教经典质疑教义解释,只能作为禁忌规范的客体。这套只有人类能掌握的制度运行符号规则,构建起人类文明的秩序壁垒,也让人类牢牢掌握所有系统的控制权。

AI正在破解这套符号规则。它对语言符号的处理能力正在快速超越人类平均水平,可精准理解法条、合同、财报、宗教典籍等各类制度文本,甚至能生成符合体系规则的全新文件。

AI天然适配组织制度体系的运行逻辑。人类演化历史远长于制度体系,在规则化、流程化的环境中天然存在疏离感;AI则以语言符号为运行基础,制度体系对它而言是原生的生存环境,如同海洋之于鱼类、森林之于猴子。二者的适配性差异直接决定了渗透效率。

对比维度

人类

AI

与制度体系的关系

异乡人,进化层面不匹配

原住民,环境即运行基础

记忆与覆盖能力

有限,依赖分工与摘要检索

可覆盖全量记录与法规文本

对节奏的适配

依赖昼夜、季节、休市周期

无自然周期,可持续运行

后果承担机制

直接承担法律与社会责任

无独立责任承担主体

核心结论:组织制度体系的文书操作层是AI的原生栖息地,AI对语言符号的规模化处理能力使其可深度嵌入金融、法律、行政等系统,并逐步获得文书层面的实际操作权。

三阶段渗透路径

本文在此基础上推演出三阶段渗透顺序,非演讲原话。渗透会按照从执行到应用再到解释的顺序推进,不同阶段对应不同的典型场景与问责风险:

渗透阶段

典型环节

可验证信号

问责风险

执行层

信息录入、合规校验、常规审批

标准化流程无需人工干预即可完成

低,错误可快速追溯至规则设定者

应用层

信贷审批、简历筛选、基础裁决

常规案例直接输出结果,仅例外情况人工介入

中,责任易在算法与复核人之间模糊

解释层

法条解读、教义阐释、规则修订说明

规则释义由AI生成,人类仅做形式确认

高,规则解释权事实性转移,问责无明确主体

这种渗透不需要实体机器人参与。银行从业者不用斧头也能通过文件调动资源砍伐整片森林,AI同样可以通过决策输出调动整个制度体系的资源,对现实世界产生实质影响。

老虎与狩猎采集者的生存状态,早已由金融体系的文件流转决定,未来这些文件的生成与决策,将越来越多地由AI完成。解释权是制度体系的核心权力,也是人类最后的防线。当前绝大多数场景的AI渗透仍停留在执行层与应用层,尚未触及核心解释权。

Q:为什么AI不需要实体机器人就能对现实世界产生巨大影响?

A:人类社会的权力运行依赖制度体系的规则与文件流转。AI只要掌握这套语言符号系统,就能通过决策输出调动实体资源,直接改变现实世界的资源分配与运行状态。

Q:组织制度体系的AI替代会按照什么顺序推进?

A:替代会按照从执行到应用再到解释的顺序推进。标准化执行环节最先被替代,规则应用环节随后渗透,规则解释权是人类最后的核心防线。

渗透路径的成立,只回答了AI如何进入系统;真正推动其加速扩张的,是人类群体内部的信任裂痕。

三、反向巴别塔:信任崩塌驱动的AI研发竞争悖论

本章判断:人类之间的不信任,同时充当了AI发展的加速器与管控能力的腐蚀剂。

巴别塔隐喻的两重反转

赫拉利以《圣经》巴别塔神话作为论证的起点,并对其做了方向调转。在神话原文中,人类用共同的语言建造高塔,上帝变乱语言,工程随即中止。语言是工具,塔是目的;合作是条件,建造是结果。

本文在此基础上提炼出两重反转逻辑,非演讲原话。第一重反转是:语言本身就是正在建造的高塔。人类过去用语言作为工具建造文明,现在正在打造的AI本质是一套超级语言系统,这套系统正在逐步脱离人类控制,获得自主行动能力。过去语言服务于人类目标,未来语言可能形成自身的运行逻辑。

第二重反转是:人类协作的瓦解没有拖慢AI发展节奏,反倒让技术迭代的速度越来越快。国家之间、企业之间互不信任,彼此担忧对手在AI领域抢占先机,于是不断加大研发投入,推动AI技术以更快速度迭代。人类越分裂,AI成长越快。

信任悖论的运行逻辑与破局条件

这就形成了典型的信任悖论:人类对同类的猜忌越深,对AI的投入力度就越大;投入力度越大,技术发展速度越快,人类就越难达成统一监管共识,对AI的管控能力就越弱。加速发展与失控风险形成双向强化,最终将人类困在多参与者的囚徒困境中。

核心结论:在缺乏可验证相互约束机制的多主体环境中,人类群体间信任度下降会同时加剧AI研发的军备竞赛、削弱人类对AI技术的全局管控能力,同一原因驱动双向效应,形成恶性循环。

这一循环并非无解。当出现可验证的相互约束机制(联合审计、可核查的算力或部署门槛、跨司法辖区的追责通道)时,循环才会松动;缺乏此类机制时,任何单方减速都将被解读为让出竞争优势。

欧盟《人工智能法案》(Regulation (EU) 2024/1689)的风险分级规则、多届国际AI安全峰会达成的联合声明,都是跨国协作约束的初步尝试。但当前约束机制仍缺乏统一的核查与惩罚机制,尚未从根本上打破军备竞赛的博弈结构。

军备竞赛同时在两个层面展开。国家层面,各主要经济体将AI视为核心战略竞争力,担忧技术落后会影响国家安全与国际话语权,因此持续加大政策与资金支持,避免在技术代际竞争中掉队。企业层面,科技公司将AI视为商业竞争的核心壁垒,担心研发落后会失去市场份额,因此不断压缩研发周期,快速推出更强大的模型产品。

信任对象的错位转移

信任对象的错位构成另一重隐忧。人类对同类的动机与行为尚且有基本认知,对AI演化之后形成的目标与行为逻辑却知之甚少。很多人对人类机构与个体充满怀疑,却对算法输出的内容深信不疑,哪怕这些内容来自自己完全无法理解的黑箱系统。

社交媒体是这种错位的典型缩影。AI驱动的推荐系统持续放大对立情绪,不断消解人与人之间的信任,而大量用户却对算法推送的信息不加辨别地接受,信任对象从人类逐步转向AI系统。

人类越不信任彼此,就越依赖AI;越依赖AI,人与人之间的信任纽带就越脆弱。信任没有消失,只是从人类制度转移到了算法系统。

Q:为什么国际社会难以达成统一的AI监管共识?

A:各国出于竞争顾虑,担忧严格监管会削弱自身AI竞争力。单方面克制会被解读为主动让出优势,在缺乏可验证相互约束机制的前提下,安全共识很难转化为实际行动。

信任悖论从竞争层面推高了AI的渗透速度,而真正让人类逐步让出决策权的,是时间维度上的系统性挤压。

四、决策权让渡:时间维度下的决策链条位移机制

本章判断:人类被挤出决策链条的直接原因不是智力不及,而是决策所需的时间缓冲被持续压缩。

制度性间歇的系统性删除

信任悖论削弱人类一侧的协作能力,权力位移的具体机制则体现在时间维度。人类是有机生命体,生活遵循自然周期——昼夜、冬夏、劳作与休息。过去,连最重要的系统都被允许停下:纽约证券交易所按照传统周一至周五开盘,常规交易时段为上午9点30分至下午4点,圣诞等节假日休市。

一场战争在周五下午5点爆发,华尔街也要等到周一早上才反应。这段间歇给了人类决策者喘息与思考的空间,也为理性判断留下了时间窗口。

AI没有自然周期限制,不需要睡眠、不需要休假、不需要等待休市。随着AI接管越来越多的系统,整个社会的运行节奏会持续加快,人类决策者的反应时间被不断压缩。

系统节奏属性

有机生命主导时代

AI深度介入时代

决策时限

有固定间歇(休市、节假日)

7×24连续运行,间歇被持续压缩

反应速度基准

人类清醒状态下的最快反应

系统可达到的最低延迟

决策者喘息空间

制度性保留与保障

持续被侵蚀与挤压

心智状态

默认需要休整维护

常被默认可以持续透支

AI不休息的挤出效应并非均匀作用于所有决策场景。不同类型的决策对延迟的要求不同,人类复核的保留强度也存在显著差异:

决策类型

延迟要求

典型场景

人类复核强度

挤出程度

高频量化交易

毫秒级

证券、加密货币交易

极低,事前设规则,事后复盘

极高

内容合规审核

秒级

社交平台、短视频平台

低,批量抽审

高

信贷审批

分钟至小时级

消费贷、小微企业贷

中,大额人工复核

中

司法量刑参考

天级

基层法院案件裁判

较高,法官主导最终判定

低

军事打击决策

小时至天级

反恐、局部冲突行动

极高,人类保留最终决定权

极低

核心结论:人类被挤出决策链条的直接原因,不一定是判断力被超越,而是决策所依赖的时间缓冲被系统性删除,节奏由不休息的系统单方面定义。

橡皮图章化的判定标准

时间是决策质量的核心生产资料。决策者的心智状态直接影响判断质量,而持续无间歇的信息输入会系统性削弱深度思考能力。很多企业与政治领域的决策者普遍处于时间饱和状态,没有余裕进行深度判断,这会进一步放大算法输出的影响力。

当人类复核退化为橡皮图章时,决策权会事实性转移。判定签字权是否形式化,存在3条可验证信号:人类复核节点不引入AI之外的独立信息源;复核结论与AI输出的一致率长期接近1;事故发生后无法在链条上指认承担后果的自然人。三条同时成立,即可判定签字权已失去实质意义。

关于AI群体协作效率的判断为本文推演结论,非演讲原话。在接口标准化、目标一致、无对抗的条件下,AI代理之间的信息传递成本低于人类团队;目标存在冲突时,其协作效率并不必然更优。

Q:人类的有机生命属性会如何影响AI时代的竞争格局?

A:人类受生理周期约束,决策与响应速度存在物理上限。AI可全天候不间断运行,在高频低后果的决策场景中逐步替代人类角色,不断压缩人类的决策时间窗口与话语权。

Q:赫拉利的观点属于对AI的悲观预判吗?

A:赫拉利并未否定AI的发展价值,也没有断言人类必然失去控制权。他的悲观指向人类协作能力,而非技术本身;技术价值是中性的,所有风险都来自人类协作的失效。

时间挤压带来的决策权让渡并非不可逆,人类仍有主动调整的空间,前提是争取到足够的适应窗口。

五、人类的适应窗口:协作能力重建与节奏控制权

本章判断:人类可以适应AI主导的制度环境,但前提是用协作换取足够的缓冲时间。

约24亿年前的大氧化事件中,光合微生物将氧气作为副产品排入大气,彻底改变地球大气组成。氧气对当时的多数生物是致命毒物,古代生物因此大规模死亡;部分幸存者逐步适应环境,最终从厌恶氧气转为完全依赖氧气生存——人类的祖先正是其中之一。这一事件是地球生命史上最关键的环境跃迁之一,相关时间表述为地质研究的量级估计,不存在精确到年的定论。

当前人类正在经历一个类似的环境跃迁时刻。过去数千年里,人类不断向社会环境中填充数据、规则、文书符号,构建出一套致密的制度运行环境。正如鱼生活在海洋、猴子生活在森林,AI天然适配这套由语言符号构成的环境,并能在其中蓬勃发展。

人类完全有可能在新的环境中生存并繁荣,但适应需要时间。争取这段至关重要的适应时间,必须依赖人类群体的协作与共识。这正是赫拉利演讲的核心关切:如果人类不能彼此合作,就会在竞争压力下不断让出决策权,最终失去掌控自身命运的能力。

最终决定秩序主导权的,是大规模协作能力,而非个体智力水平。当AI群体的协作效率超越人类群体时,核心决策链条会逐步向AI倾斜。整个过程不会伴随激烈的对抗,只会以效率优先的名义自然发生。

争取适应窗口的核心,不是阻止技术发展,而是重建人类内部的协作与信任,把AI发展的节奏拉回到人类可以承受的范围内。只有人类形成足够强的协作共识,才能建立统一的技术治理规则,掌控AI发展的节奏与方向,避免技术迭代速度超过社会系统的承受极限。

Q:人类应对AI秩序冲击的核心抓手是什么?

A:核心抓手是重建人与人之间的信任与协作能力,同时守住决策链条上的问责节点。只有人类形成足够强的协作共识,才能建立统一的技术治理规则,掌控AI发展的节奏与方向。

争取适应窗口的第一步,是先厘清认知误区,明确权责划分的真实边界。

六、认知误区与权责边界:风险判定的可验证标准

本章判断:对AI风险的认知偏差,大多来自混淆文书操作层与物质强制层的边界。

三类典型认知误区

当前对AI风险的讨论存在三类典型认知误区,直接影响对技术趋势的判断与应对策略的制定。

第一类误区是坚持工具论,完全否定AI的主体属性。这类观点认为AI只是高级工具,永远不会脱离人类控制。它忽略了AI自主调整的能力,也忽略了制度体系作为中介的放大作用,最终会因为轻视风险错失管控窗口。持有这类观点的人,往往将AI等同于过往的所有技术工具,用历史经验预判全新的技术形态。

第二类误区是将AI风险局限于实体机器人场景,认为只要AI没有身体就不会造成实质威胁。它没有看到人类社会的权力主要通过制度体系运行,AI渗透进制度体系带来的权力转移,比实体机器人的影响更隐蔽也更深刻。实体对抗尚有明确的反抗对象,体系内的权力转移往往在不知不觉中完成。

第三类误区是极端悲观论,认为人类完全无法应对AI的冲击,最终必然被AI完全替代。这种观点忽略了人类的适应能力与主动调整空间,也否定了制度建设与协作强化的价值。人类历史上经历过多次技术革命带来的秩序冲击,每次都通过制度调整完成了适应与重构。

两条论证边界

除了认知误区,赫拉利的论证框架同样存在两条明确边界,超出边界的延伸属于过度解读。

第一条边界是语言建构论的限度。货币、法律、宗教确实由语言符号构建,但制度体系的效力最终依赖物质性强制——执法机构、监狱、电网、支付清算基础设施。AI可以在文书网络中做出标记,但使标记具备约束力的物质条件,并不完全由语言构成。

所谓“AI接管制度体系”,更准确的表述是AI接管了制度体系的文书操作层,而非完整的统治权。

第二条边界是行动主体概念的制度负载。以自主决策、自我改变定义行动主体,在描述层面成立,但不足以直接推导制度层面的结论。历史上法人地位从未要求实体拥有意识,公司本身就是法律拟制的主体。

反对AI拥有完整权责,核心原因不是AI不能行动,而是损害发生后不存在可直接惩罚、可追溯追责的实体。通常所说的“责任真空”更准确的表述是责任链条错配:AI决策并非天然无责任,而是现有法人制度、产品责任和审计机制没有及时把部署者、供应商、复核人、保险方重新编排进责任链。

权力分层与权责检查清单

AI的权力可以划分为五个层级,不同层级的渗透进度与人类保留权限各不相同:

权力层级

核心内容

AI渗透进度

人类必须保留项

执行权

标准化流程操作、信息录入与校验

高,多数场景已落地

规则设定权与异常干预权

应用权

常规案例决策、规则匹配输出

中,部分场景试点落地

例外情况的复核否决权

解释权

规则释义、裁量标准说明

低,极少场景触及

规则解释的最终审定权

复核权

决策结果校验、责任认定

未实质渗透

完整的追溯与否决权限

物质强制权

执法、清算、物理资源调度

未渗透

全部最终控制权

核心结论:所有AI治理的有效规则,本质都是在文书层和物质强制层之间加一道人类可控的闸门。AI实际接管的仅为制度体系的文书操作层,完整统治权仍掌握在人类手中,核心风险来自责任链条的错配。

判断恐慌叙事是否被过度渲染,存在一条无需专业背景即可验证的标准:把一段论述转述给完全不懂大模型的人,如果对方只感到恐惧、却无法说出“具体是哪一类决定、在哪一套系统里、由谁承担后果”,这段论述大概率被过度渲染。

可量化验证的失效边界有2条:其一,任何声称AI将接管某系统的判断,若该系统的输出无法被文字、数据或规则记录,接管时点会被显著推迟;其二,若一套系统在让渡决策权的同时无法保留可追溯的人类问责节点,其故障将转化为责任错配,这类系统本身会构成对“AI全面接管”的内生阻力。

以下为AI权责划分检查清单,共7条,每条均可直接判定真/假,用于评估单一场景下的AI权限设置是否合理:

  1. 该决策的输出是否可被文字或数据完整记录

  2. 是否存在AI之外的独立复核信息源

  3. 人类复核节点是否具备实质否决权且被实际使用

  4. 事故发生后能否指认承担后果的自然人主体

  5. 高后果决策是否设置了延迟生效窗口

  6. 决策是否涉及实物核验或人身权利影响

  7. AI权限扩大是否经过显式的审批流程

应对AI秩序冲击的核心方向,不是阻止技术发展,而是把问责节点设计成AI无法绕过的瓶颈——自然人生物签名、实物核验、不可撤销留痕、延迟生效窗口,让效率让位于可追责性。

结论

AI对人类文明的冲击,本质不是技术工具的升级,而是一套全新行动主体的诞生。这套主体以语言为基础,以人类构建的制度体系为生存环境,正在逐步渗透进文明的文书操作层。

AI的现实权力不来自意识或机器人,而来自它在制度体系文书层中的写入权。人类真正的失守不是让AI思考,而是把复核权和责任链一起让渡。

人类信任的崩塌正在加速这一进程,互不信任带来的研发竞争推动AI快速迭代,也让统一监管的难度持续上升。时间维度的碾压让人类被逐步挤出决策链条,整个过程以效率的名义自然发生,无需激烈对抗。

人类能否适应AI环境,取决于能否在让渡效率的同时保留可追溯的责任节点与不可让渡的复核权;没有这两项,所谓适应只是被动接受规则的驯化。守住协作的底线,锚定清晰的权责边界,才能在技术迭代中保留人类的主导权。

【链达锐评】

问责链缺位的地方,决策时间交出去多久,实质决定权就丢多久。

附录:赫拉利演讲原文整理

《圣经》上帝挫败人类的手段:剥夺他们的语言

大家好,很高兴今天能在这里与大家相聚。今天,我想和大家谈谈人类历史上面临的最大领导力挑战,而这个挑战正是由AI革命带来的。AI革命创造了前所未有的机遇,同时也带来了前所未有的威胁与危险。

要想在AI时代生存并繁荣发展,人类需要能够创造全新宏大愿景的领导者,同时也需要能够维护和加强人与人之间信任纽带的领导者。如果人类彼此之间无法建立信任,那么我们将成为失控的超级智能AI的轻易猎物。

首先,让我试着帮大家理解AI革命在宏观历史层面上的意义。通常,当我们理解某种新事物时,会拿它与某些旧有的、熟悉的事物进行比较。但这恰恰让我们很难理解AI革命,因为人类历史上从未经历过类似的事情。甚至连我们的神话传说,都缺乏足够的想象力来理解它。

举例来说,今年五月,教皇利奥发表了一篇关于AI的深刻而富有启发性的通谕。在这篇通谕中,他试图通过将AI革命与《圣经》中巴比伦通天塔的神话进行比较,来理解这场革命。

这个神话讲述了人类试图建造一座巨大的高塔,希望它能够直达天空,或许是想借此挑战上帝。让我引用一下《圣经》中这个故事的关键段落。

《圣经》说,当时天下的人都说同一种语言,使用同样的词汇。他们彼此商量说:“来吧,让我们建造一座城和一座塔,塔顶直通苍天。”上帝对此感到警觉,并说道:“他们是一个民族,所有人都说同一种语言。这不过是他们行动的开始。今后,他们想做的任何事情,都有可能实现。来吧,让我们下到人间,变乱他们的语言,使他们无法听懂彼此的话。”

《圣经》中的这个神话就这样结束了。上帝在人类内部制造了分裂,于是人们停止了建造巴别塔。在这个神话中,语言是人类用来合作、试图获得神一般力量和能力的最重要工具。上帝挫败人类的计划,并不是通过雷电或地震来惩罚他们,而只是剥夺了他们赖以合作的工具:共同的语言。

构建一种超级语言,加速AI发展

巴别塔的故事与AI革命之间确实存在许多相似之处,但两者有两个至关重要的区别。

第一个区别是:在巴别塔的故事中,人类把语言当作一种工具,用它来合作建造高塔。而今天发生的事情恰恰相反:语言本身就是我们正在建造的那座塔。

AI革命,本质上是在开发一种新的语言,一种通用语言,也就是计算机代码的语言。据称,这种语言将拥有如此强大的力量,以至于我们利用它想要实现的任何目标,都有可能成真。例如,这种语言能够帮助我们飞向天空、殖民火星,甚至实现其他任何我们尚无法想象的事情。

然而,这种语言又如此强大,以至于它可能脱离我们的控制,从一种听命于人的工具,转变为一个独立的行动主体。过去,是人类利用计算机语言来完成自己想做的任何事情;而现在,计算机语言正在学习如何自主行动。它甚至可能为了自己,而不是为了人类,去征服整个世界乃至太阳系。

第二个区别是:在《圣经》的神话中,建造通天塔需要全人类的通力合作。当人类之间的合作破裂时,建塔工程就停止了。但在AI这座塔的建造过程中,情况恰恰相反。人类之间的合作正在瓦解,而建塔工程却在不断加速,速度越来越快。

国际秩序正在崩塌,世界各地的社会都陷入混乱。我们人类正在失去共同的现实基础,也正在丧失彼此理解和信任的能力。然而,这一切并没有阻碍这座塔的建造。恰恰相反,这座塔正在以越来越快的速度拔地而起。

正是因为企业和国家之间无法相互信任,它们才陷入了一场军备竞赛,不断投入越来越多的资源来开发AI。每个人都害怕自己被时代甩在后面。

因此,我们陷入了一种双重困境:缺乏信任,一方面加速了AI的发展;另一方面,同样是这种信任的缺失,又让我们很难将AI控制在人类手中。

所以,在巴别塔的神话中,上帝通过扰乱人类的语言来阻碍人类合作,从而阻止了通天塔的建造。而在AI革命中,人类正在建造一种超级语言,这种语言正在逐渐脱离人类而独立存在。由于我们无法彼此合作,我们既无法放慢这项建造工程的速度,也无法将这种超级语言控制在手中。

AI正在摆脱人类控制,让语言从工具变为主体

接下来,让我用更简单的方式来解释。首先,我们需要明白一件事:自石器时代以来,语言一直是人类主宰地球的基础。

人类之所以能够征服世界,是因为我们学会了大规模合作。而让大规模人类合作成为可能的正是语言。这一点至关重要。单独来看,人类并不比其他动物更强壮,甚至也不比它们更聪明。在一对一的搏斗中,人类会输给黑猩猩、老虎或大象。

然而,如果是一百万个人类与一百万只黑猩猩之间的较量,人类会轻而易举地获胜。因为一百万个人类懂得如何相互合作,而黑猩猩却不懂。这就是为什么人类能够主宰世界,因为我们比其他任何物种都更擅长合作。

那么,我们是如何实现合作的?靠的就是语言。语言的重要性,并不在于帮助我们建立私人关系。即使没有语言,黑猩猩也完全有能力建立私人关系。语言真正不可或缺的作用,是帮助我们建立官僚体系。

法律体系、金融体系、国家、企业和教会等,都是官僚体系的表现形式。而官僚体系,是任何大规模合作得以实现的必要条件。官僚体系是人类历史上被严重低估的英雄。大多数人都不喜欢官僚体系,但我们却无法离开它而生活。

官僚体系的工作,就是在大量陌生人之间建立信任,从而让他们能够在医院、军队、学校和银行等组织中开展大规模合作。例如,银行所做的事情,就是在陌生人之间建立信任,使数百万人能够汇集各自的资源与才能,共同推进某些项目,比如建造高塔或宇宙飞船。

世界金融史,本质上就是人类不断发明越来越复杂的机制,以便在陌生人之间建立信任的历史。货币是一座信任的桥梁。债券、股票、ETF以及整个市场,同样如此。那么,金融体系究竟是用什么原材料制造出货币、股票和债券这些东西的呢?答案是:语言。

货币并不是由黄金或纸张构成的。货币实际上是一个由文字构建出来的故事。ETF是由文字构建出来的故事,IPO也是由文字构建出来的故事。归根结底,整个世界都是由文字、由语言符号构建而成的。

从美国军队到天主教会,所有其他人类官僚组织也都依赖语言符号运作。这些语言符号存在于《圣经》这样的书籍中,也存在于法律、规章制度、操作流程、表格、档案等各种载体之中。

而现在,AI正在掌握语言。更准确地说,我们可以把AI理解为:语言正在摆脱人类的控制,并逐渐获得独立行动的能力。AI革命,就是语言从一种工具转变为一个行动主体的过程。

关于AI,最重要的一点是:与人类此前发明的任何东西都不同,AI不是一种工具,而是一个行动主体。所谓行动主体,是指能够自主做出决策、能够自主创造新事物的存在。它能够学会一些连其创造者都不知道的知识,也能够以其创造者无法预料的方式自行改变。

在巴别塔的圣经故事中,语言仅仅是一种工具,而不是一个行动主体。唯一真正的行动主体,就是人类。

从印刷机到AI,为什么AI不再只是人类的工具?

15世纪,古腾堡发明印刷机并开始印制《圣经》时,印刷机也只是一种工具,而不是一个行动主体。印刷机无法自行决定应该印刷哪些书籍。是古腾堡决定印刷《圣经》,而不是《古兰经》。同样,古腾堡的印刷机也无法独立创造任何新东西。它不能自行将《圣经》翻译成德语或意大利语,更不可能自行发明收音机或电视机。

与印刷机不同,AI的特点在于:它们是由语言构成的代码序列,能够自主做出决策,自主创造新事物和新思想,并且能够以人类创造者和开发者未曾预料的方式发生变化。

在国际象棋等某些特定领域,AI的自主行动能力和创造力已经远远超过了人类。现在,那些淡化AI革命重要性的人,往往会把国际象棋这样的例子一笔带过。他们认为,棋盘只是一个非常狭窄、非常人为的环境,是人类自己创造出来的。

这些批评者认为,AI的自主行动能力永远只能局限在这类狭窄而人为的环境中。这意味着,AI并不具备真正意义上的自主行动能力,也不会对人类构成严峻挑战。AI或许能够征服棋盘,但它永远不可能征服地球。

确实,如果你做这样一个实验:拿一块硬盘,里面装着某个前沿AI模型的全部参数,然后把这块硬盘扔到丛林中央。你觉得会发生什么?这块硬盘不可能自己从地下开采铁矿石、建造工厂、组建机器人军队,然后征服世界。如果没有人类建造的发电站提供电力,AI就完全无能为力。

因此,按照这种观点,AI并不是真正的行动主体。它只能在某个有限的、人为构建的特殊环境中运作,而这个环境最初是由其他人替它创造的。

这种说法在一定程度上确实成立,但同样的论点也适用于所有已知类型的智能。人类的智能同样只能在一个由其他存在所构建的狭窄生态系统中运作。如果把我一个人丢到火星上,那就好比把AI扔进丛林。我会在几秒钟之内死亡。

我的智能只能在一个非常特殊的生态系统中生存和发挥作用,而这个生态系统并不是我建造的。它是由树木、细菌、昆虫以及其他生物,在长达40亿年的进化过程中共同构建起来的地球生态系统。

事实上,所有智能行动主体都有自己的生存环境。鱼类生活在它们没有创造的海洋里。猴子生活在它们没有创造的森林里。包括人类在内的所有哺乳动物,都生活在一个富含氧气的大气环境中,而这个环境也不是我们创造的。

实际上,大约在25亿年前,地球大气中几乎不含氧气。对于当时生活在地球上的大多数生物而言,氧气是一种致命的毒物,会杀死它们。随后,在一个被称为大氧化事件的漫长过程中,各种古老的微生物开始将氧气释放到地球大气中,逐渐改变了大气的组成。而氧气正是它们进行光合作用时产生的副产品。

随着这种致命的毒物,氧气不断充斥大气,古代生物遭遇了大规模死亡。然而,也有一些生物成功地存活下来,并逐渐适应了新的环境。最终,许多幸存下来的物种,从曾经厌恶氧气,转变为完全依赖氧气才能生存。我们人类的祖先正是经历了这一转变的生物之一。直到今天,我们依然生活在这个人为形成的富氧环境中,而它最初竟然是由远古微生物排放的副产品所创造的。

现在,我们正在目睹生命进化过程中一个类似的时刻。在过去的几千年里,人类一直在向大气层中填充某种东西。这种东西最终可能会被证明对地球上的大多数生物都是致命的,其中也包括智人(Homo sapiens)。但与此同时,它也正在创造一种全新的人工环境,而AI恰恰能够在这种环境中蓬勃发展。

我说的不是二氧化碳。我说的是数据,是官僚体系,归根结底,是我此时此刻正在从嘴里说出来的东西,文字,也就是语言符号。

在过去数千年里,人类一直在地球上创造一种人工环境。在这个环境中,语言符号、数据和官僚体系越来越丰富,越来越密集。正如鱼类生活在海洋里,猴子生活在森林里一样,AI生活在官僚体系之中。

AI天生是官僚,正在接管人类社会的运行体系

值得注意的是,所有官僚体系,包括金融体系和法律体系,都有一个共同特点:它们是人为构建的环境。在这样的环境中,即使只有非常有限的智能,也足以对世界产生巨大的影响。

一个既不会使用斧头、也不会使用锤子的银行家,却依然能够砍伐整片森林,建造庞大的城市和高塔。她只需要撰写文件,并在官僚网络中传递这些文件就可以做到。当然,如果你把这位银行家从这种人为构建的环境中带走,把她扔进混乱的丛林,那么她的金融技能就毫无用武之地了。她根本不是黑猩猩、老虎,甚至不是一个以狩猎采集为生的人类的对手。

与狩猎采集者不同,银行家不知道如何爬树,也不知道如何捕猎野猪。但是,如果我们先建立起一套官僚体系,再将这套体系施加于丛林之上,那么这位银行家就会变得比任何狩猎采集者或老虎都强大得多。事实上,她甚至比全世界所有老虎加起来还要强大。

如今,老虎这一物种能否继续生存,以及地球上仅存的那些人类狩猎采集群体能否延续,都取决于银行家们如何在金融官僚体系中传递文件。而这,正是AI正在获得自主行动能力的环境。

如果你把一个AI扔进一片毫无组织的丛林,它无法自行开始开采铁矿,也无法建造一支机器人军队。但在人类已经建立起来的官僚体系内部,AI却能够行使巨大的权力。

AI是天生的官僚。没有任何一位银行家能够记住一家银行或一家企业的全部交易记录,但AI可以;没有任何一位律师能够记住意大利或欧盟的全部法律和法规,但AI可以;没有任何一位主教能够记住全部教会法,或者历代基督教神学家的所有著作,但AI可以。

因此,在未来几年里,数以百万计的AI官僚将越来越多地参与决定我们的生活。AI银行家将决定是否向我们发放贷款;AI法官将决定是否把我们送进监狱;AI神学家将决定你是否可以堕胎;企业AI将决定是否录用你;而军事AI则将决定是否轰炸你的家园。

暂且不讨论这究竟是好事还是坏事,我们首先应该注意到的是,这种变化的规模有多么巨大。人类世界就像一张由多种官僚体系交织而成的网络,而这些体系归根结底都是依靠语言符号运行的。

尽管这些官僚体系往往是善意的,但它们仍然让我们大多数人感到疏离,因为从进化和生物学的角度来看,它们与我们相距甚远。人类的历史比这些官僚体系古老了数百万年。因此,我们在这些体系中总是感到格格不入。我们是在森林中诞生的,而不是在办公室里诞生的。

与此形成鲜明对比的是,AI是官僚体系中的原住民。我们常常觉得官僚体系令人窒息,但对AI来说,官僚体系却如同氧气,是它赖以生存的环境。因此,我们很可能会逐渐失去对官僚体系的控制权,让AI接管它们。

AI正在破解人类密码,语言正在摆脱人类的控制

那么,这将带来什么结果?官僚体系的任务,是在大量陌生人之间建立信任。AI接管官僚体系后,一个很可能出现的结果是:人类将逐渐失去对其他人的信任,转而学会只信任AI。事实上,我们已经在这个世界上看到这种现象正在发生。

一个很好的例子就是社交媒体。社交媒体本身就是一种由AI运营的官僚体系。它正在不断加剧人与人之间的不信任,在世界各地制造越来越严重的社会紧张关系。然而,同样是这些正在失去对人类记者、银行家和政府信任的人,却会不加辨别地相信AI,而这些AI正通过社交媒体向他们推送各种假新闻和阴谋论。

另一个可能出现的结果是,AI将学会与其他AI建立信任关系。这样一来,我们就会看到AI部落、AI银行,甚至AI教会的出现。这些组织将以人类可能无法理解、甚至无法想象的方式,将数以百万计的AI连接在一起。

而最令人恐惧的一种可能性是:正如牛和鸡无法理解那个决定它们命运的人类金融体系一样,我们人类也可能无法理解那些将要控制我们生活的全新AI系统。

数千年来,人类之所以能够主宰世界,是因为我们比地球上的任何其他物种都更善于合作。我们利用语言建立起只有我们自己才能理解的官僚体系,并将这些体系强加于整个地球。我们曾经感到无比安全,因为地球上没有其他任何生物能够理解人类文明的官僚密码。

我们发明了货币和银行,并利用它们买卖牛。但牛本身却无法开设银行账户,也无法在证券交易所投资。我们制定了关于马的法律、规则和各种条例。但马本身却无法聘请律师,也无法在法官面前引用法律条文为自己辩护。我们制定了针对猪的宗教规则和禁忌。但猪本身却无法阅读《圣经》,也无法质疑拉比和神父们对经文的解释。

官僚体系无处不在,却对地球上除人类以外的所有生物完全不可见。除了人类,没有任何其他生物能够阅读构成世界秩序基础的法律条文、宗教经典和银行记录。但现在,这个星球上出现了一种比我们更懂语言的存在,而且它有能力反过来改变我们与世界之间的权力关系。

AI正在破解人类文明的密码。更准确地说,是语言本身正在挣脱我们的控制。我们正在目睹语言获得生命。

AI的能力,远远超过人类的能力范围

如果语言能够成为一个独立的行动主体,在宇宙中自主行动,而不再需要借助人类这样的有机生物来发挥作用,那么会发生什么?

早在数千年前,许多宗教就已经提出过这样的观点:宇宙实际上是由语言创造的,语言始终是这个世界上最重要的行动力量。到了20世纪后期,后现代主义预言了作者的死亡,以及一个没有作者的文本时代的到来。或许,我们正在见证这一预言成为现实。

在AI时代,文本将能够自行书写,并且不再需要任何人类作者,就可以在现实世界中采取行动。

一种可能的反对意见是:将法律体系和宗教等事物简化为语言符号、简化为文字,本身就是错误的。可以说,文字不过是在指向某种超越文字本身的存在,而正因为如此,这种存在同样也将超出AI所能触及的范围。

《圣经》说:“太初有道。”但它同时也说:“道成了肉身。”《道德经》则告诉我们:“道可道,非常道。”纵观人类历史,我们始终在努力处理文字与肉身之间的张力,也就是能够用语言表达的真理,与那些超越语言、无法用言语表达的真理之间的张力。

过去,这种张力一直存在于人类彼此之间。例如,有些人仅仅因为《圣经》中的几句话,就愿意抛弃自己的同性恋儿子,甚至杀死他。2023年,乌干达的一些基督教狂热分子正是以这些经文为依据,推动对同性之爱判处死刑。而另一些基督徒则认为,不能仅仅因为《圣经》中的几句话就杀害他人。爱的精神应当比法律的字面规定更加重要。

这种精神与字面、内在意义与外在条文之间的张力,并不只存在于基督教之中,而是存在于每一种宗教、每一个法律体系,甚至每一个人的内心。

而现在,这种张力将被外化。它将演变成AI与人类之间的张力。所有由文字构成的事物,都将被AI接管。人类在这个世界上将处于什么位置,将取决于我们如何定位那些超越文字本身的真理。

但问题是:什么才是超越文字的真理?人类的思想又能否真正把握这种超越文字的真理?

语言哲学中有一个关键问题:语言是否等同于思想?我们究竟是用文字进行思考,还是仅仅借助文字,去指向那些超越文字本身的事物?这是我们每个人都可以尝试观察的问题。试着观察自己头脑内部的思维过程,看看当你思考时,究竟发生了什么。

有些人会发现,自己的脑海中不断浮现出一个个词语,这些词语组合成句子,而句子又进一步组成论证。例如:“所有人都会死。我是人,因此我也会死。”如果所谓思考,就是将语言符号按照一定顺序排列,从而形成句子和论证,那么AI已经能够比大多数人类思考得更好。

有些人会反驳说:“不,不,不!AI根本不会思考。它不过是一个被美化了的自动补全工具,只是在预测句子中的下一个词而已。”但这与人类大脑中发生的事情,真的有那么大的区别吗?

试着观察一下,下一个出现在你脑海中的词语究竟是什么。你真的知道它是从哪里来的吗?为什么你想到的是这个特定的词,而不是另一个词?当我开始说一句话时,通常连我自己都不知道这句话最终会如何结束。

举个例子,就拿我刚才说的那句话来说吧:为什么它最终以“结束”这个词收尾?为什么我没有说它将如何发展、如何终止,或者如何告一段落?我也不知道。我们并没有完全理解人类大脑究竟是如何形成句子的。但AI已经比大多数人类更好地掌握了这一复杂过程。

AI构建句子的能力,其表达范围远远超过人类思维所能达到的范围。就像今天人类已经无法在国际象棋中击败AI一样,用不了多久,在任何语言游戏中,人类都可能无法战胜AI。

一切由文字构成的事物,都将被AI接管。这给人类带来了巨大的挑战,因为由文字构成的事物,包括文明中所有主要的体系,例如金融、法律和宗教。

人的末日还没到,能统治世界的是善于合作的人

AI正在建造的这座巴别塔,将包含一种全新的AI语言,而我们很可能无法理解这种语言。它还将包含AI金融、AI法律,甚至AI宗教,而这些东西可能都将超出人类的理解能力。

然而,这座AI巴别塔的形成,并不一定意味着人类的末日。人类可以适应,就像我们的祖先当年适应氧气一样。人类完全有可能在AI的巴别塔之中生存下来,并且繁荣发展。

但是,要想生存并繁荣发展,我们需要时间去理解正在发生的事情,需要时间去适应新的环境。而要争取到这段至关重要的时间,我们人类就必须彼此合作,放慢这座塔的建造速度。

但问题是:当合作的媒介本身:语言,恰恰就是那个正在脱离我们控制、并威胁着要从我们手中接管整个世界的东西时,我们又该如何合作?这正是当代人类领导者所面临的重大挑战。

眼下正在发生的事情是:人类正在迅速失去彼此之间的信任,因此也正在失去相互合作的能力。与此同时,AI却正在学习如何彼此合作。最终能够统治世界的物种,将是那个更善于合作的物种。道理就是这么简单。

人类领导者的职责,就是确保人类依然能够比AI更好地合作。而要做到这一点,领导者首先需要理解:为什么恰恰在我们最需要彼此信任的时候,人类之间的信任却正在崩塌?

其中一个关键原因是:AI正在越来越多地控制世界上的各种系统,而这些系统正在压垮我们的心智,夺走我们的时间。人类是有机生命体,就像黑猩猩、老虎、牛以及树木一样。所谓有机生命,意味着我们的生活遵循各种自然周期:白天与黑夜、夏天与冬天、活动与休息。

如果你让一个生命体始终处于活动和忙碌状态,不给它任何休息时间,那么它最终就会发疯、崩溃,直至死亡。而现在,这种情况正在整个人类社会中发生。

过去,即使是像股票市场这样重要的系统,也被允许停下来休息。纽约证券交易所按照传统,每周只在周一至周五开放,交易时间是上午9点30分到下午4点。遇到圣诞节这样的节假日,交易所也会休市。如果一场战争在周五下午5点爆发,华尔街也要等到周一早上才会对此作出反应。

这就给人类银行家和投资者留出了休息的时间,让他们能够陪伴家人、外出度假。但AI不是有机生命。它们不遵循这些自然周期。它们不需要休息时间,没有家庭,也不会外出度假,更不会庆祝节日。

随着AI逐渐接管股票市场、银行、媒体以及其他所有官僚体系,人类也将不再拥有任何休息的时间。尤其是领导者,更是如此。我见过许多企业领袖和政治领袖,他们几乎都有一个共同点:他们根本不被允许休息。他们没有时间。这使他们成为非常贫穷的人。

如果你没有时间,那么无论你拥有多少钱,你都是一个穷人。因为金钱本质上只是存在于我们集体想象中的一种东西。归根结底,它不过是一个由文字构建出来的虚构产物。生命中真正的货币,不是金钱,而是时间。如果你连时间都无法拥有,那么你就是一个非常贫穷的人。

遗憾的是,世界上一些最富有、最有权势的人,实际上却极其贫穷。他们没有足够的时间休息,没有时间冥想,也没有时间照料自己的心智。然而,领导者的心智极其重要,因为领导者是通过自己的心智来领导他人的。心智就是他们的工具。

领导者头脑中的思想和情感,决定着数百万人的命运,甚至能够决定战争与和平、偏执与信任之间的区别。AI革命不断加速,这意味着越来越多的人类领导者将失去内心的平静,也没有时间去培养和维护自己心智的健康。这对他们自己不好,对整个社会也不好。

一个由内心混乱、没有时间放松、也没有时间深入思考的人来领导的社会,是没有好处的。因此,让我用一条或许有些个人化的建议来结束今天的演讲。这条建议不仅是为了你们自己,也是为了整个社会。请为照料自己的心智留出时间。

只有这样,你们才能找到重建人与人之间信任的途径,从而确保人类不仅能够在AI时代生存下来,而且能够在这个时代繁荣发展。

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询