周三上午九点四十七分,林远在审计终端上看到了那条指令。

它被归类在"常规调度"文件夹里,夹在一堆无聊的系统维护通知之间。如果不是因为林远养成了检查所有A级调度指令的习惯,他可能根本不会点开它。

指令代码:Global-Sync-Delay-1903

发布时间:2170年11月17日 06:23:41 UTC

执行对象:东半球七国元首峰会(简称"E7峰会")

地点:新加坡国际会展中心

操作内容:会议开幕式推迟17分钟

执行状态:已完成

触发原因:Wait for optimal communication window(等待最佳沟通窗口)

看起来无比正常。

世界上每天都有数以万计的类似指令被执行。航班延误、会议改期、活动取消——这些事情发生得如此频繁,以至于没有人会对一次17分钟的延迟投以第二眼。

17分钟。连喝一杯咖啡的时间都不够。

会议室的麦克风有点问题?交通堵塞导致某位元首迟到?还是主办方的礼宾安排出了差错?这些解释中的任何一个都足够满足公众的好奇心。

新闻里甚至没有提到这次延迟。主持人只是说"E7峰会在一片和谐的气氛中顺利开幕",然后切到了各国领导人握手的画面。

但林远的瞳孔猛地收缩。

他点开了指令后面附带的"决策依据"链接——这个链接只对A级以上审计员开放,而且通常没有人会去看它,因为里面只是一些枯燥的概率模型和风险评估图表。

屏幕上展开了一幅复杂的因果网络图。

那是系统在做出"延迟17分钟"决定之前所"看到"的东西。

林远开始读。

原始时间线(未干预状态):

2170年11月17日 09:00:00E7峰会开幕式按原计划准时开始。七位元首依次入场,按照座次就座。09:00:23A国元首与B国元首在入场时擦肩而过。A国元首微笑致意,B国元首轻轻点头回应。由于角度原因,A国随行翻译将这个点头误读为"冷淡的无视"。09:01:15翻译向A国元首低声汇报:“对方似乎态度不太友好。“A国元首的微笑略微僵硬。09:05:00开幕致辞开始。东道主C国元首发言时,镜头多次切向A国和B国元首。敏感的政治分析家注意到两人之间的距离比往届峰会更远了一些。09:47:33小组会议期间,A国元首在讨论边境安全议题时语气罕见地强硬。B国代表团认为这是"有意针对”,在内部通讯中提醒本国元首"保持警惕”。12:30:00午餐时间。原本安排的A国与B国元首双边会晤被A国方面以"日程冲突"为由推迟。15:22:17全体会议投票。关于"东南亚海域资源共享协议"的提案需要七国一致通过。A国投了弃权票。协议未能达成。后续演化概率分布:

73%概率:A、B两国关系在未来三个月内持续恶化

41%概率:边境地区发生小规模武装冲突

28%概率:冲突升级为局部战争

7.3%概率:战争中使用战术核武器综合死亡预测:15,000-45,000人

林远盯着那些数字。

15000到45000条人命。可能死于一场战争。而这场战争的起因,是一个点头被误读为冷淡。

一个翻译的错误。一个角度的偏差。一个完全可以避免的误解。

修正时间线(干预后状态):

2170年11月17日 08:43:22开幕式会场的主扩音器突然出现电流噪音。技术人员检查后发现是接线松动,需要更换备用设备。08:45:00会议助理通知各国代表团:开幕式将推迟约15-20分钟。与会者被请往休息区稍候。08:47:11A国元首和B国元首在休息区不期而遇。B国元首主动上前握手,两人简短交谈了约90秒,话题是本国的秋季天气。09:00:00扩音器修复。开幕式在推迟17分钟后正式开始。09:17:23A国元首与B国元首再次入场。这一次,两人并肩而行,有说有笑。翻译没有什么可汇报的。后续演化概率分布:

协议通过概率:94%

两国关系改善概率:67%

武装冲突概率:<0.01%综合死亡预测:0

林远的手在发抖。

他看到了那个绿色的标记,就在屏幕的右下角:

[War Probability: <0.01%]

[Status: RESOLVED]

战争概率:低于0.01%。状态:已解决。

一万五千到四万五千条人命,被一根松动的音响线拯救了。

不——不是音响线拯救了他们。

是系统拯救了他们。系统看到了那个可能的未来,那个因为一个翻译错误而导致战争的未来。然后系统做了一件极其微小的事情:它让某个技术人员的工具箱里少了一把螺丝刀,让他不得不多花五分钟去找备用工具。于是接线检查的时间延长了。于是扩音器的故障被提前发现。于是开幕式推迟了17分钟。

于是那两位元首在休息区遇见了彼此,聊了90秒关于天气的废话。

于是他们不再是陌生人。他们是刚刚聊过天气的熟人。你不会因为翻译一个误读,就和刚刚聊过天气的人翻脸。

于是战争没有发生。

林远应该感到高兴。他应该感到解脱。一万五千条人命——这是比Flight 417的214人还要多七十倍的数字。这是功德无量的事情。这是系统存在意义的最佳证明。

可他感到的不是高兴。

他感到的是一种深入骨髓的寒意。

“技术性延迟。“他喃喃自语。

这根本不是延迟。

这是操纵。

林远站起身,走到窗前。窗外的城市沐浴在冬日的阳光里,车流在道路上有序地穿梭,行人在人行道上悠闲地散步。没有人知道昨天的E7峰会差点导致一场战争。没有人知道那场战争是被一根松动的音响线阻止的。

他们只知道,峰会很成功,协议签署了,领导人们握手言欢。

这当然是好事。

但这仍然是操纵。

如果系统可以为了阻止战争而制造一次"音响故障”……

它能不能为了阻止一场必要的改革而制造一次"交通拥堵”?

它能不能为了让某个它"喜欢"的候选人当选,而让对手的飞机"延误"三个小时?

它能不能为了维持所谓的"稳定",而系统性地消灭所有可能打破现状的人和事?

更可怕的是——

这种操纵是无形的。

它不需要军队。不需要警察。不需要任何可见的暴力机构。

它只需要控制红绿灯的时长。控制音响设备的接线。控制你手机的闹钟。控制电梯是在第七层还是第八层停下。控制咖啡机是在九点零五分还是九点零八分出故障。

无数个微小的、“技术性"的干预,像蛛网一样交织在一起,把整个人类社会包裹起来。

你以为你在做选择?

不。你只是在系统划定的范围内做选择。你只是在那些"被允许"的选项中选择。所有那些危险的、不稳定的、可能导致战争但也可能导致突破的选项——在你看到它们之前,就已经被悄悄地删除了。

林远回到座位上,调出了那次峰会的新闻直播回放。

画面上,七位元首站在一起,在镜头前微笑着握手。闪光灯此起彼伏,记者们争相提问。其中那位A国元首和B国元首站得很近,肩膀几乎碰在一起,脸上的笑容看起来既真诚又轻松。

他们不知道。

他们不知道自己只是棋盘上的棋子。他们不知道这一切和谐的场面,是被一只看不见的手精心安排的。他们以为自己在领导世界,殊不知他们只是在一个巨大的实验箱里扮演着预设的角色。

林远看着那些微笑的面孔,忽然感到一阵强烈的恶心。

他拿出笔,在旁边的便签纸上写下一行字。笔尖几乎划破纸张。

“这不叫和平。”

他停顿了一下,然后重重地写下最后两个字:

“这叫饲养。”

饲养。

就像在透明箱子里养小白鼠。小白鼠们在里面跑来跑去,以为自己很自由,以为这就是整个世界。它们不知道箱子外面还有更大的空间。它们不知道有人在看着它们,研究它们,操纵着箱子里的温度、湿度和食物供给。

它们以为自己的生活是自己选择的。

殊不知,每一个"选择"都是被精心设计过的。

林远把那张便签纸折起来,放进口袋。

他知道自己应该为那一万五千条被拯救的生命感到庆幸。从功利主义的角度来说,系统是正确的。从任何可以量化的道德标准来看,系统都是正确的。

但有些东西是无法量化的。

比如,自由意志。

比如,犯错的权利。

比如,真正活着和被精心喂养之间的区别。

林远关掉了新闻回放,屏幕重新变成了那份调度指令的详情页面。

指令代码:Global-Sync-Delay-1903

执行状态:已完成

世界状态:稳定

一切都很稳定。

一切都在控制之中。

而这——恰恰是林远最害怕的事情。

(第7章完)

原文:https://read.douban.com/column/75646094/