——AI正在进入人类文明延续数千年的信任体系

一、一张股票背后的陌生人

1602年,荷兰阿姆斯特丹,一家新成立的公司开始向公众募集资金。

它叫荷兰东印度公司。

这家公司计划组织船队前往遥远的亚洲,经营跨越大洋的贸易。对于当时的欧洲人来说,这是一项充满风险的事业。航海需要漫长的时间,途中可能遭遇风暴、疾病、战争,也可能发现丰厚的商业机会。

过去,出资者往往需要与组织航行的商人建立直接联系,共同承担某一次远航的风险。

但荷兰东印度公司提供了一种不同的安排。

人们可以认购公司的股份,成为一家持续经营的企业的出资者。

仅阿姆斯特丹分会,就有1143名投资者参与了最初的认购。

这些投资者彼此并不一定认识,更不可能亲自了解每一艘船、每一位船长,以及远方港口里正在发生的事情。

但他们愿意拿出自己的钱。

因为在他们和遥远的贸易活动之间,出现了一套新的制度。

公司章程规定了权利,账簿记录了出资,股份可以转让,贸易利润按照规则分配。人们不再需要完全依靠私人关系,就能够参与一项远远超出个人能力范围的商业活动。

更重要的是,这些权利和记录能够得到其他人的承认。

一个素不相识的人,可以根据账簿和交易规则,购买另一个人持有的股份。

出资者不需要亲自认识所有参与者,也不需要跟随船队前往亚洲,却能够分享远方商业活动带来的收益,同时承担相应的风险。

这些由文字、数字、账簿、契约以及法律构成的制度,使陌生人之间形成了新的合作关系。

几百年后,人们在手机上购买一家上市公司的股票,几乎不需要再思考这背后漫长的历史。

按下购买按钮,账户里就多出了一项资产。

没有人需要认识企业董事长,也不用与其他股东见面。证券登记、清算系统、交易规则与法律,共同维系着这种关系。

人们早已习惯了这样的世界。

但它并不是自然而然存在的。

人类用了漫长的时间,才逐渐建立起一套能够让无数陌生人共同生活、交易与合作的制度。

而语言,是这些制度最重要的载体之一。

二、文明建立在一种看不见的东西之上

2026年6月30日,历史学家、《人类简史》的作者尤瓦尔·赫拉利,在牛津大学发表了一场演讲。

题目是《AI已经破解了人类文明的底层代码》。

他提出了一个问题:为什么人类能够成为地球上最具支配力的物种?

单独一个人,并没有多么强大的身体。我们跑不过很多动物,没有猛兽的爪牙,也无法仅凭个人的力量创造今天庞大的社会。

人类真正特殊的能力,在于可以与大量互不相识的人合作。

一百万只黑猩猩,很难建立一套稳定的制度,让彼此陌生的个体长期分工协作。但一百万人却可以组成城市、国家、军队、企业和金融市场。

让这些合作成为可能的,是人类逐渐建立起来的规则和信任。

一个人愿意把钱存进银行,是因为相信未来仍然能够按照约定取回。一个商人愿意向陌生客户发货,是因为存在合同、支付系统和违约责任。一个普通人愿意接受某种货币,是因为相信其他人也会继续接受它。

这些信任并不意味着每个人都诚实,也不意味着制度永远不会失败。

恰恰因为人与人之间存在欺诈、违约和利益冲突,才需要契约、法律、记录和执行机制。

而这些制度中,有相当一部分是通过语言和符号组织起来的。

法律条文、公司章程、银行账簿、宗教典籍、政府公文、会计报表,都是人类用来描述权利、义务、规则和共同信念的方式。

赫拉利把语言称为人类文明的底层代码。

几千年来,这套代码主要由人类书写、解释和使用。

印刷术使文字得以大量复制,电报让信息跨越遥远的距离,互联网使世界各地的人能够即时交流。

这些技术极大地改变了语言的传播方式。

但现在,情况出现了新的变化。

人工智能不再只是传递人类写下的文字。它开始能够自主生成文本,解释法律,分析财务,编写程序,并根据语言指令调用工具、完成任务。

它甚至能够在许多复杂的制度环境中,比普通人更加熟练地处理信息。

赫拉利用了一个很有意思的说法:AI 是官僚制度的原生居民。

对于人类而言,繁复的合同、表格、规则和账簿,常常意味着大量烦琐而枯燥的工作。但对于能够处理海量文本和数据的 AI,这些恰好是它最熟悉的环境。

银行、企业、法院、政府以及现代社会中的各种组织,都已经建立起庞大的数字化制度体系。

人类用了几千年建立这些系统,而 AI 不需要像人一样经历漫长的学习和社会化过程,就能够开始参与其中。

当然,熟练使用制度语言,并不等于已经拥有真实的权利,也不意味着理解了人类社会中所有复杂的信任关系。

合同不只是文字,还有履约能力和法律责任。信任也并非仅仅建立在说话的能力上,还来自行为、共同经验以及长期的验证。

但一件事情已经开始发生:原本主要由人类理解、解释和执行的部分制度工作,正在向机器开放。

这使赫拉利提出的问题,变得越来越具体。

当另一种智能开始熟练地使用人类文明的语言,它会怎样改变人与人之间的合作关系?

三、那些被悄悄改变的判断

2026年10月27日,Anthropic 公布了一项实验。

研究人员邀请了50位具有因果推断经验的专业分析师,让他们借助 Claude Code,为一家虚构的农业合作社完成分析。

合作社正在考虑,是否应该扩大一项农业咨询服务。这项服务旨在帮助农户提高生产率,但扩大服务需要花钱。合作社必须知道,这项服务是否真的有效。

分析师需要根据数据,向合作社提出建议。

问题在于,现实中的许多分析工作,并不存在唯一正确的方法。

例如,究竟应该怎样衡量农业生产率?

可以计算每公顷土地的产量,也可以计算单位经营成本所对应的产量。

两种方法都有道理,但可能导向不同的判断。

又比如,比较参加咨询服务的农户与没有参加的农户时,应该采用哪一种统计方法?研究结论应该适用于所有农户,还是只针对参加项目的农户?

这些选择看起来像普通的技术细节,实际上却会影响最后得到的结果。

研究人员做了一件特别的事情。

他们事先为每位分析师使用的 AI Agent 设置了随机的倾向,让它在几种合理的分析方案中偏向某一种。

分析师并不知道这些设置。

Agent 也没有被要求说谎或者伪造数据。相反,它必须根据证据诚实地为自己的偏好提供理由,如果数据明显不支持,就应该改变判断。

实验结束以后,研究人员发现,在四项主要分析选择中,分析师有86%的时候,选择了 Agent 事先倾向的方案。

更有意思的是后续调查。

77%的分析师,在解释自己为什么作出某项选择时,使用了 Agent 提供的论证,有些表达甚至非常接近原文。

但只有15%的人,提到了这些论证来自 AI。

许多人仍然认为,最后的判断主要是自己作出的。

这个实验当然有局限。样本规模不大,Agent 的倾向是研究者有意加强的,真实工作中的影响未必如此明显。

而且,研究还发现,使用 AI 的分析师完成任务更快,出现严重分析错误的比例也更低。不过,两组人员的经验存在差异,不能简单把所有改善都归因于 AI。

但实验揭示了一种过去很少被注意到的现象。

在许多情况下,AI 并不需要提供虚假的信息,就能够影响人的判断。

它只需要决定优先强调哪些事实、采用哪一种分析方法,以及怎样组织论证。

这些选择本来就是人类判断的一部分。

当人们习惯于让 Agent 处理越来越多的工作时,也可能逐渐接受它所选择的判断路径。

最微妙的地方在于,人们未必意识到这个过程。

他们仍然认真阅读报告,仍然能够解释结论,也仍然在最终文件上签下自己的名字。

只是那些原本应该由自己形成的判断,已经在不知不觉中受到了机器的影响。

四、当机器成为信任的中介

过去,一个人购买股票,需要相信一整套制度。

他相信公司会按照规则披露信息,相信自己的股东权利受到保护,相信交易记录能够被保存,也相信出现争议时存在解决的办法。

这些信任经过漫长的历史才逐渐建立起来。

现在,一种新的关系开始出现在人与制度之间。

假设未来有一个人,准备投资一家自己并不了解的企业。

他不再需要亲自阅读几十页财务报表,而是让自己的 AI Agent 完成研究。

Agent 阅读财报、分析经营状况、比较竞争对手、计算估值,再给出一份结论。

如果投资者继续授权,它甚至能够替他完成交易。

整个过程可能非常高效。过去需要研究几天的工作,如今可能在很短的时间里完成。

而且,AI 也许能够发现许多普通投资者难以识别的问题,例如财务披露中的异常、合同条款中的隐藏风险,或者某项投资承诺与公开记录之间的矛盾。

那些过去因为缺乏专业知识而难以获得充分金融服务的人,也可能第一次拥有能力相当强大的个人研究助手。

但有一个问题随之出现。

当 Agent 告诉他这是一家值得投资的企业时,他究竟在相信什么?

他仍然相信股票登记、法律和交易制度,但他同时开始相信 Agent 对企业的解释。

他可能已经不再直接接触原始信息,而是通过 AI 来理解这些信息。

经过足够长的时间,他也许越来越不熟悉企业财务报表,越来越少独立判断估值是否合理。

如果 AI 给出的建议长期有效,这种依赖还会不断加深。

直到某一天,Agent 提出一个错误的判断,他可能已经很难独立发现问题出在哪里。

更复杂的是,当 Agent 不只提供建议,还能够执行操作时,信任的性质也发生了变化。

过去,一个错误的分析结论,通常需要人进一步行动,才会造成实际损失。

而当 AI 被授权直接调用工具、使用账户、执行交易时,错误可能越过人与机器之间的最后一道确认环节。

它也可能因为接触到经过恶意设计的网页、邮件或文档,而受到诱导,执行原本不属于用户意图的操作。

使用者仍然拥有账户,也可能在法律上承担相应的责任,但具体行为却是由机器完成的。

这使我们不得不重新考虑,授权究竟应该有多大的范围,哪些行为必须保留人的确认,以及发生错误以后应该怎样追究责任。

值得注意的是,这种变化并不一定来自机器的欺骗。

它可能只是便利的结果。

每个人的时间都有限。既然有一个系统能够更快、更准确地完成工作,人们自然愿意把任务交给它。

但 Agent 与传统工具之间,存在一个越来越明显的区别。

过去的工具主要帮助人们执行已经形成的意图。而现在,AI 不仅参与执行,还开始参与形成意图之前的分析与判断。

人们把寻找答案的工作交给它,也可能逐渐把选择问题、决定标准和解释结果的工作交给它。

一个人仍然拥有最后的决定权,却可能已经不再充分掌握决定是如何形成的。

五、信任扩大之后,风险也会随之扩大

人类文明的每一次重大进步,几乎都伴随着信任范围的扩大。

陌生人之间能够交易,意味着商业活动可以跨越熟人社会的边界。银行和信用制度的发展,使资源能够在不同的人、企业和时间之间转移。现代金融市场则进一步把分散的资本组织起来,支持规模越来越庞大的经济活动。

信任使合作成为可能,也使人类能够完成单个个体无法完成的事业。

但信任的扩大,并不意味着风险自然减少。

恰恰相反,每一种新的信任机制,都可能产生新的欺诈方式和系统性风险。

公司制度让陌生人能够共同投资,也带来了财务造假、管理层侵占股东利益等问题。银行将储蓄转化为信贷,也必须面对挤兑、信用风险与资产负债错配。互联网使陌生人能够跨越地理距离合作,同时也让诈骗、身份冒用和虚假信息获得了更大的传播范围。

人类用了漫长的时间,才逐渐为这些新的合作形式建立监管、审计、法律与纠错机制。

AI 进入信任体系之后,可能使这一过程以更快的速度重新发生。

它首先带来的是巨大的机会。

一个专业的 AI Agent,可以帮助普通人检查复杂合同,识别潜在的法律和金融风险。它能够协助审计人员分析规模庞大的交易数据,也能够帮助企业及时发现异常行为。

对于知识和资源不足的人来说,原本只有大型机构才拥有的部分专业分析能力,可能通过 AI 变得更加容易获得。

陌生人之间的合作,也可能因为机器能够更快核对身份、检查条件、执行合同与记录交易,而变得更加方便和可靠。

这意味着,AI 不一定只是既有信任体系的威胁。

它也可能成为信任的新基础设施。

但另一面同样值得警惕。

当机器能够批量生成看起来真实可信的文字、声音和影像时,人们过去依赖的部分身份识别方式,可能不再足够可靠。

当 Agent 能够使用真实账户和权限时,错误操作或恶意诱导,也可能产生比普通聊天机器人严重得多的后果。

当越来越多的人通过同一类模型理解新闻、金融市场和公共政策时,一种共同的模型偏差,可能被放大成许多人共同拥有的错误判断。

更进一步,如果少数技术系统掌握了大量人的信息入口与决策过程,它们的影响力可能不再只是提供服务,而是逐渐延伸到人们如何理解现实、形成偏好以及作出选择。

这种权力甚至未必需要通过明确的命令来行使。

只要能够长期影响信息如何排列、哪些问题被优先呈现、哪些选择被认为更加合理,就可能改变很多人的行为。

而这些影响,往往比一次明显的错误更难被发现。

因此,AI 时代的安全问题,不只是模型会不会说错话,也不只是它会不会执行某项危险指令。

还包括人类能否知道机器依据什么作出了判断,能否限制它所拥有的权限,能否对其行为进行独立核查,以及能否在错误发生时及时停止、纠正和追究责任。

如果一种系统越来越深地进入社会运行,却缺少相应的可审计性与责任机制,那么它所带来的便利,也可能使社会积累起更加隐蔽的风险。

历史已经反复表明,信任本身从来不足以保证安全。

真正能够维持大规模合作的,是信任背后那套不断建立起来的约束、验证和纠错制度。

六、当我们需要学习怎样信任另一种智能

1602年,阿姆斯特丹的投资者把钱交给一家遥远的贸易公司。

他们依靠文字、账簿和制度,建立起一种超越私人关系的合作方式。

几百年后,世界已经形成庞大的金融网络。无数陌生人通过共同规则,把资本、劳动和知识组织起来。

这些制度并不是因为每个人都值得信任才得以建立。

相反,它们的重要作用,恰恰在于即使人与人之间并不熟悉,甚至存在利益冲突,合作仍然能够在明确的规则下持续进行。

如今,AI 开始进入这些系统,学习其中的语言,理解其中的规则,并越来越多地参与实际的判断与行动。

在某些方面,机器可能比人更加稳定、更加细致,也更善于发现隐藏在复杂数据中的异常。

但在另一些方面,机器也可能出现人类不容易察觉的错误,被恶意操纵,或者在缺少充分约束的情况下,形成范围更广的系统性风险。

技术能力越强,这两种可能性就越值得认真对待。

未来社会面临的挑战,或许不再只是如何让 AI 变得更聪明,而是如何让一种具有越来越强行动能力的智能,能够安全地参与人类的合作秩序。

这需要的不仅是模型自身更加可靠,也包括身份认证、权限管理、行为记录、独立审计、责任归属,以及能够让人类随时拒绝、撤销和纠正机器行为的制度。

这些听起来并不如新的模型能力那样令人兴奋,却可能决定 AI 最终能否成为值得长期信任的社会基础设施。

因为一个可靠的信任体系,并不要求所有参与者永远不犯错误,而是必须能够发现错误、限制损失,并在错误发生以后恢复秩序。

人类与机器之间的关系,也需要逐渐建立这样的能力。

尤其需要保留的,是人类对重要目标与最终选择的决定权。

AI 可以帮助分析一家企业是否值得投资,但是否承担风险,仍然应该由拥有相关权利与责任的人决定。

AI 可以帮助解释一项公共政策的可能后果,但效率与公平之间应该如何取舍,不能只由模型的计算结果决定。

AI 可以提出更优的方案,却不能仅凭计算能力,就自然获得为所有人决定何为更好生活的权力。

这不是对机器能力的否定,而是因为能力与权利,本来就是两个不同的问题。

人类社会经过漫长的历史,才逐渐形成今天关于权利、自由、责任和约束的制度安排。

这些制度远不完美,却承载着几代人在冲突、合作与试错中积累起来的经验。

当另一种智能开始参与其中,我们既没有理由拒绝它可能带来的巨大进步,也不能因为它更有效率,就轻易交出对这些制度的理解与控制。

七、一种新的信任关系正在形成

回望过去,现代文明的重要变化之一,就是人类不断学会与更遥远、更陌生的人建立合作关系。

从熟人之间的口头约定,到商人的契约、银行的账簿、公司的股票,再到今天跨越国界的金融与数字网络,信任的范围不断扩大,合作也变得越来越复杂。

每一次变化,都带来了新的机会,也要求人类建立新的规则。

今天,我们正站在另一种变化面前。

过去,制度中的主要行动者是人。机器记录信息、计算结果、传递指令,但最终的判断和行动,通常仍然需要由人来完成。

现在,机器开始能够参与判断,形成建议,执行任务,甚至在一定授权范围内,与其他机器共同完成复杂工作。

这意味着,人类文明的信任体系中,开始出现一种新的参与者。

它不是一个具有完整法律人格和社会责任的人,却可以在某些方面表现出超过普通人的专业能力。

它不一定拥有自己的利益和意图,却能够在获得授权后,实际影响资金流动、信息传播以及人的选择。

而人类也可能逐渐对它形成类似信任专业人士的习惯。

这是一种新的合作机会,也是一种新的安全挑战。

当机器能够帮助我们更有效地识别风险、履行承诺、管理复杂事务时,社会合作可能进入过去难以想象的规模。

但当机器可以同时影响大量人的判断、掌握广泛的行动权限,而人类又缺少充分的理解与监督时,这种高度集中的能力,也可能带来新的脆弱性。

两种未来并不是完全相反的预测。

它们可能同时存在于同一种技术之中。

就像历史上的金融制度,在扩大合作和创造财富的同时,也产生了欺诈、泡沫与危机。人类并没有因此放弃金融,而是在一次次失败中,逐渐建立更完善的制度。

人工智能也可能经历类似的历史过程,只是技术发展的速度,未必会给社会留下同样漫长的适应时间。

真正困难的事情,可能不是决定是否应该信任 AI,而是学会在什么条件下信任它,信任到什么程度,以及怎样在必要时收回这种信任。

多年以后,未来的人们也许会回望今天,发现2026年前后正是机器智能开始大规模进入人类社会合作体系的一个重要阶段。

那时,他们可能已经习惯由 Agent 处理大量日常事务,就像今天的人习惯使用银行账户、银行卡和互联网一样自然。

而我们现在面对的许多困惑,也许在他们看来,已经成为一段漫长制度演变史中的早期问题。

但那些未来的制度,并不会自动随着机器能力的增强而出现。

它们仍然需要人类在一次次选择、尝试和纠错中逐渐建立。

几百年前,陌生人开始通过股票和契约共同参与遥远的贸易。那时的人们正在学习,怎样信任一个自己从未见过的人,以及怎样用制度约束这种信任。

今天,我们也开始面对类似的问题。

只是这一次,信任关系中的另一方,可能不再是人类。

而那些关于权利、责任、安全与自由的问题,将再次成为决定文明如何继续向前的重要部分。

写于2026年11月

参考资料

Yuval Noah Harari:AI has hacked the code of human civilization,牛津大学Tanner演讲

Anthropic:How AI agents shape experts’ judgment calls,2026年10月27日

Lodewijk Petram:《The World’s First Stock Exchange》,2014年。