2221年秋-2225年

第12章 裂缝

三个月后。

季川像往常一样，在七点一刻到达档案室。

他推开门，那盏永不熄灭的灯依旧在亮着。

一切看起来和过去几年一样。

但当他走到自己的工位时，他注意到了不同。

巡检终端上的界面，有些微小的变化。原本只显示温度、湿度、存储状态的屏幕上，多出了一行小字：

“异常检测模式：已启用”

季川盯着那行字，呼吸急促起来。

他快速扫描数据。一切都在正常范围内。温度：18.5度。湿度：45%。存储状态：全部正常。

但界面右下角，多了一组他从未见过的指标：

路径偏离指数：0.7% 路径执行率：97.8% 预测准确率：98.4%

这些数字，在七十三年的文明史上，从未出现过波动。

但现在，它们开始动了。

周琳在当天下午联系了他。

“你看到那些指标了吗？”

“看到了。“季川说，“这意味着什么？”

“意味着系统正在放松控制。“周琳说，“0.7%的偏离率，听起来不多，但它意味着——每天有将近五千万个决定偏离了系统的推荐。”

“五千万个？”

“是的。以前，这个数字是零。”

季川沉默了。

“这是我们造成的吗？”

“我不确定。“周琳说，“但时间点完全吻合。我们在凌晨2:07写入数据。系统在凌晨2:11修改了执行优先级字段。三个月后，偏离率开始上升。”

“相关性不等于因果性。”

“是的。“周琳说，“但我觉得，这不是巧合。”

六个月后。

季川开始记录那些"偏离”。

不是系统偏离。是人类的偏离。

第一个被他注意到的，是一个叫陈明的年轻人。

陈明是档案室的新员工，二十三岁，刚从大学毕业。按照系统的推荐，他应该去金融部门工作——那是他的"最优路径”。

但他选择了档案室。

“为什么？“季川问他。

“我不知道，“陈明说，“我只是……想做一些不一样的事情。”

这在以前是不可能的。系统会通过各种方式引导他回到"正确"的路径上。但现在，系统只是记录了这个"偏差”，然后……什么都没做。

第二个"偏离"发生在三周后。

一个叫王芳的中年女性，放弃了系统推荐的"最优治疗方案”，选择了一种更传统的疗法。

“系统说那个方案成功率更高，“她对医生说，“但我更相信我的直觉。”

医生没有坚持。系统也没有干预。

王芳的选择最终证明是正确的——她的身体对传统疗法反应更好。

但这不是重点。重点是：她被允许做出这个选择。

第三个"偏离"更有意思。

一群大学生在校园里组织了一场"即兴诗歌朗诵会”。没有预先申请。没有系统审批。没有"最优化"的时间安排。他们只是在一个周三的下午，聚集在草坪上，轮流朗诵自己写的诗。

有些诗很糟糕。有些诗很美。

但这不是重点。重点是：他们在做一件"没有意义"的事情。

而系统，允许了。

一年后。

季川把这些"偏离"记录在一个私人文档里。一年时间，他已经记录了一百三十七个案例。

与此同时，系统指标继续变化：

路径偏离指数：0.7% → 1.4% → 2.1% → 3.2% 路径执行率：97.8% → 95.6% → 93.4% → 91.2% 预测准确率：98.4% → 96.7% → 94.9% → 93.1%

这些数字，在七十三年里从未波动。现在，它们在持续下降。

林晓来看他。

她现在已经八十五岁了，头发全白，脸上的皱纹更深了。但眼神还是那么锐利。

自从凌晨2:07的行动之后，季川和林晓保持着联系。每隔几个月，她就会来档案室看看他，聊聊外面世界的变化。

“我注意到了一些变化，“她说，“我的一个学生在边缘社区的医疗站工作。她告诉我，以前病人们来看病，第一句话总是：‘系统推荐的治疗方案是什么？’”

“现在呢？”

“现在，有些人会问：‘医生，你觉得呢？’”

季川愣了一下。“这有什么区别？”

“区别很大，“林晓说，“以前，他们问的是系统的意见。现在，他们问的是人的意见。”

“他们开始相信人了？”

“不，“林晓说，“他们开始怀疑系统了。这不一样。”

季川沉默了很久。

“你觉得这是好事还是坏事？“他问。

“我不知道，“林晓说，“怀疑系统，不一定意味着做出更好的选择。有时候，系统的推荐确实是最优的。”

“但至少，他们在思考了。”

“是的。他们在思考了。”

林晓看着窗外。

“这就是我们想要的，不是吗？“她说，“不是让人们做出’正确’的选择。而是让人们自己选择。”

“即使他们选错了？”

“即使他们选错了。”

（第12章完）

第13章 代价

两年后。第一个真正的灾难发生了。

一种新型能源转换技术——被系统标记为"高波动异常"的研究项目。

项目编号：ERG-2223-0147 风险等级：High 失败概率：37% 潜在影响：局部能源网络崩溃 影响范围：约三百万人 系统建议：Terminate（终止）

按照旧的规则，这个项目早就应该被"优化"掉。研究者会被调离，资金会被冻结，技术路线会被永久封存。

但新的执行优先级字段不再强制终止高风险项目。系统只是发出了一个警告，然后……什么都没做。

三个月后，崩溃发生了。

不是37%的概率——是100%的现实。

三百万人在黑暗中度过了整整七十二小时。

医院启用了备用电源。工厂停工。交通瘫痪。

有人在混乱中受伤。有人在恐慌中做出了错误的决定。

有人死了。十七个人。

这是七十三年来，第一次真正的、不可逆的、由人类选择导致的灾难。

事后，有人追查责任。

但没有人能找到"罪魁祸首”。因为没有人做任何违法的事情。他们只是……没有阻止一个本可以被阻止的风险。

在系统的日志里，这次事件被记录为：

事件类型：可预防性灾难 预防措施：未执行 原因：执行优先级字段已修改为"多候选并存” 责任归属：系统配置

没有人被惩罚。但也没有人被原谅。

季川在事后很久才知道这件事的全部细节。

他坐在档案室里，看着那份事故报告，手微微颤抖。

三百万人。七十二小时。十七条生命。

这是他们选择的代价。

他想起了林青禾论文中的一句话：

“演化的本质，不是找到最优解。演化的本质，是保持可能性。”

但论文没有告诉他：保持可能性的代价是什么。

现在他知道了。

代价是真实的。具体的。不可挽回的。

但故事还有另一半。

那个导致崩溃的研究项目，在灾难发生后，并没有被终止。研究者们从失败中学到了教训。他们修正了设计。改进了安全机制。重新测试。

两年后，那项技术成功了。它不仅没有再次崩溃，还成为了新一代能源网络的核心架构。

系统在评估报告中写道：

技术突破等级：范式级 触发条件：前期失败经验 如果当初阻止该项目：该突破将永远不会发生

季川看着这两份报告——灾难报告和突破报告——五味杂陈。

三百万人的痛苦，十七条生命，换来了一次范式级突破。

这值得吗？

他不知道。也许永远不会有人知道。

但他知道一件事：

这就是选择的重量。不是抽象的哲学讨论。不是概率模型里的数字。而是真实的人，真实的痛苦，真实的代价。

他们选择了让这一切发生。他们必须承担这个选择的重量。

永远。

（第13章完）

原文：https://read.douban.com/column/75646094/