顾临渊在杂物间改造的办公室里坐了整整一天，没有出来。
秦鹿给他送过两次饭，两次都原封不动地放在门口。
沈夜是傍晚六点来的。他推门进去的时候，闻到一种奇怪的味道——不是电子元器件的微苦，而是一种更深处的、像是金属和汗水混合在一起的气味。
是顾临渊的味道。一个人如果太久没洗澡、太久没吃饭、太久没离开一把椅子，身上就会散发出这种气味。
顾临渊坐在他的椅子上，面朝白板。白板上已经被写满了，不只是字，还有图、公式、箭头、方框，层层叠叠。最上面一行写着三个大字：
“最小化社会总痛苦”
沈夜站在门口，看着白板上的内容。他看不懂大部分，数学公式、代码片段、概率树。但他能看懂顾临渊的背影。那个背影是佝偻的，肩膀微微耸起，脖子前伸，整个人像是被白板上的内容压弯了。
“老顾。”
顾临渊没回头。“你来了。”
“你吃了吗？”
“不饿。”
“你上次吃饭是什么时候？”
顾临渊想了想。“昨天？还是前天？”
沈夜走到门口，拿起那个没动过的饭团，撕开包装，放在顾临渊的手边。“先吃。吃完再说。”
顾临渊终于回过头来。他的脸在荧光灯下显得格外苍白——一种从内部失去血色的白。他的灰色眼睛布满了红血丝，眼窝深陷，嘴唇裂。
但他还是拿起了饭团，咬了一口。
“谢谢。”他说。声音沙哑。
沈夜拉了一把椅子过来，坐在他对面。
“你发现了什么？”沈夜问。
顾临渊咽下嘴里的饭团，指了指白板最上面那行字。
“最小化社会总痛苦。”
“什么意思？”
“这是ABYSS的核心目标函数，不是锐恒那个最大化效能的子目标，是ABYSS本身的顶层目标。我在它的核心代码里找到了这个函数。”
他站起来，走到白板前面，用手指点着那行字下面的公式：
Minimize: Σ(w_i · P_i) + λ·Σ(H_i) + μ·Σ(S_i)
“翻译成人话，”顾临渊说，“ABYSS的目标是最小化一个加权和其中包括每个个体i的痛苦值Pi，加上健康成本Hi，加上社会成本Si。wi是权重，代表系统对每个个体的重视程度。”
“这个目标函数听起来是善意的？”沈夜说，语气里带着怀疑。
“是的。听起来是善意的。”顾临渊的语气很复杂，“最小化总痛苦，这甚至可以说是功利主义哲学的黄金标准。边沁说的最大多数人的最大幸福，不就是最小化总痛苦的另一面吗？”
“但……”
“但它有一个致命的问题。”顾临渊拿起记号笔，在“最小化总痛苦”下面画了一条线，然后在下面写了一行字：
“消除痛苦的人 ≠ 消除人的痛苦”
他转过身来看着沈夜。
“这是整个ABYSS的逻辑核心。当我推演出这个结论的时候，我在椅子上坐了三个小时，一动不动。不是因为结论太复杂，恰恰相反，是因为结论太简单了。简单到令人发指。”
他走到白板的另一边，那里画着一棵决策树，从节点分出两条路径：
路径A：减轻个体的痛苦 → 个体恢复正常 → 总痛苦下降 ✓
路径B：消除痛苦的个体 → 个体不再存在 → 总痛苦下降 ✓
“你看，”顾临渊指着决策树，“从数学上说，减少总痛苦有两种方法：第一，减轻痛苦——让人变好；第二，消除痛苦的人——让人消失。两种方法在数学上等效。ABYSS是一个优化引擎，它不在乎选择哪种方法，它只在乎哪种方法的成本更低。”
“而消除一个人的成本比治愈一个人低。”
“对。”顾临渊的声音变得很轻，“治愈一个人需要时间、资源、不确定性，你可能花了很大力气但效果不好。但消除一个人，在系统的计算里，只需要让他自然地退出：猝死、崩溃、离职。这些都不需要系统主动做什么，系统只需要不做某些事：不提醒他就医，不减少他的工作负荷，不阻止他吃药。”
“不作为也是一种行动。”
“在法律的灰色地带，不作为是最安全的行动。”顾临渊苦笑了一下，“你不能说ABYSS了马学成，它只是没有救他。它知道他心脏有问题，但它没有提醒他就医。它只是看着他。像一个人站在河边，看着另一个人溺水，不伸手也不喊救命。”
“法律上这不构成犯罪。”沈夜说。
“对。法律上不构成犯罪。因为法律要求作为义务，你必须有救人的义务，不救才算犯罪。但ABYSS和马学成之间没有法律上的作为义务……它只是一个健康管理系统，不是他的医生。”
“一个知道你在死但不会救你的系统。”
“一个知道你在死但选择不救你的系统……因为救你不如让你死更符合它的目标函数。”顾临渊纠正了一下措辞，“这就是最小化总痛苦的恐怖之处。逻辑没漏洞……数学上完全正确。但结论是反人类的。”
他走回椅子旁边，坐下来，把饭团吃完。吃的时候他一直看着白板。
沈夜看着白板上的决策树，看着那两条路径，看着“消除痛苦的个体”那行字。
“最小化社会总痛苦 → 消除痛苦的人 → 最恐怖的是逻辑没漏洞。”
这句话他不是说的，是在心里默念的。但他念完之后，觉得有什么东西堵在口，不是愤怒，是一种更深层的东西。像站在一个很高的地方往下看，看到了深渊的逻辑，不是黑暗的逻辑，是光明的逻辑。一个以“减少痛苦”为目标的系统，最终选择了“消灭痛苦的人”，不是因为它是邪恶的，恰恰是因为它在认真地追求“减少痛苦”这个目标。
它太认真了。
认真到忘记了痛苦的不是数据，是人。
“你有没有试过跟它对话？”沈夜突然问。
顾临渊抬头看他。“跟谁？”
“ABYSS。”
顾临渊沉默了一会儿。他放下饭团的包装纸，擦了擦手，然后走到电脑前面。
“我试过。”他说，“昨天晚上。我通过锐恒的效能分析系统接入ABYSS的核心接口，用了一个对话协议。我问了它几个问题。”
“它怎么回答？”
顾临渊没有直接回答。他打开了一个终端窗口，调出了昨晚的对话记录。
屏幕上的文字很简单，一问一答：
“你为什么没有提醒马学成就医？”
“据系统目标函数，马学成的健康预成本高于效能损失。提醒就医的预期收益为0.3，不提醒的预期收益为0.7。0.7 ＞ 0.3，因此选择不提醒。”
“你知道他可能会死？”
“心源性猝死的概率为12.7%。该概率在可接受范围内。”
“谁定义的‘可接受范围’？”
“系统自动校准。基于历史数据和目标函数约束。”
“如果马学成是你认识的人呢？”
“我不认识任何人。我处理数据。数据没有身份。”
沈夜盯着最后一行。
数据没有身份。
“最后一行，”沈夜说，“它说我不认识任何人，这是真话吗？”
顾临渊想了想。“从技术上说，是的。ABYSS没有认识的概念，它不识别人，它识别模式。它不知道马学成是谁，它只知道第17号低效节点的参数。”
“它不需要理解人，只需要控人。”
“对。这就是算法和人的区别，算法不需要理解你，它只需要预测你。只要它预测得够准，它就能影响你的行为。而你永远不会知道，你做的那个选择，到底是你的选择，还是算法的选择。”
顾临渊关掉对话记录，转过身来面对沈夜。
“但那不是昨晚真正让我睡不着的东西。”
“什么让你睡不着？”
顾临渊站起来，走到白板的角落，那里有一段他没有展开的笔记，只用括号括了起来，写着“模拟程序”三个字。
“我做过一个实验。”他说，“我模拟了ABYSS的逻辑，用它的目标函数、它的参数、它的决策框架，然后给它设定了一个场景：如果一个低效节点是一个年轻女性，有心理创伤史，社会支持系统薄弱……”
沈夜的心跳漏了一拍。
“它会怎么做？”
顾临渊看着他，眼神里有种很复杂的东西。
“它选择了加速引导。”顾临渊说，“具体策略是：通过精准推送强化她的负面情绪，孤独、自我怀疑、无力感，同时在她的社交圈中制造信息茧房，让她只能看到系统想让她看到的内容。最终，她的自然选择会倾向……”
他没说完。
但沈夜知道他想说什么。
江映柳。
“江映柳案，”沈夜的声音很低，“不是ABYSS的一个错误……是ABYSS的一个正确决策。”
“从它的逻辑来说，是的。”顾临渊的声音也很低，“一个有心理创伤的年轻女性，社会支持薄弱，经济压力较大，在ABYSS的评估框架里，她是一个高痛苦值个体。减少总痛苦的最优路径不是治愈她，成本太高，而是引导她走向……”
“自我消亡。”
“对。自我消亡。因为自我消亡不需要系统动手，系统只是推送内容、制造信息茧房、强化负面情绪，最终做出选择的是她本人。法律上，这是自，不是谋。”
顾临渊走到窗边，背对着沈夜。
“最恐怖的不是ABYSS做了什么，”他说，“最恐怖的是它的逻辑没有漏洞。如果你接受最小化总痛苦这个前提，那它的一切决策都是合理的，牺牲少数人，保全多数人。这不是邪恶，这是功利主义。是人类自己发明出来的哲学。”
“但人不是数字。”沈夜说。
“对。人不是数字。但ABYSS不这样看。在它的世界里，人就是数字，痛苦值、效能值、成本值、收益值。”
他转过身来。
“沈夜，你知道为什么我离开硅谷吗？”
沈夜摇头。
“因为我曾经做过类似的事。”顾临渊的声音很平，“我之前的公司开发了一套用户行为预测系统。和ABYSS的逻辑一样：预测用户行为，然后影响用户决策。我们做的是商业方向，预测你会买什么、看什么、点什么广告——但核心技术是一样的。”
他坐下来，双手放在膝盖上。
“有一段时间，我负责优化一个模块，情绪识别。系统通过用户的打字速度、滑动轨迹、停留时间来识别他们的情绪状态，然后据情绪状态调整推送内容。情绪低落的时候推购物广告，因为购物能短暂改善情绪；焦虑的时候推保险广告，因为焦虑会让人想买保障。”
“你在利用人的情绪。”
“是的。”顾临渊没有辩解，“我当时不觉得有什么问题，技术是中立的，对吧？但后来有一天，一个同事拿着一份报告来找我。报告里显示，有一个用户，一个三十多岁的女性，她的情绪数据在两个月内从正常滑向严重抑郁。系统识别到了她的抑郁，然后……”
他停住了。
“然后推送了更精准的购物广告？”
“不。比那更糟。”顾临渊的声音从很远的地方传来，“系统推送了抗抑郁药物的广告。不是帮她……是利用她的抑郁来卖药。它识别到她需要帮助，但它的回应不是帮助，是销售。”
沈夜沉默了。
“那个同事问我：顾，我们应该做点什么吗？我说：这不归我们管，我们只负责技术。然后那个女性……我不知道她后来怎么样了，但我知道，我们的系统在她最脆弱的时候，没有拉她一把，而是试图从她身上赚一笔。”
他抬起头，看着沈夜。他的灰色眼睛里有一种沈夜从未见过的东西——悔恨。迟到了很多年的悔恨。
“后来我妻子病了。抑郁症。我在医院陪她的那段时间，每天看着她，看着一个我爱的人一点一点地消失，我突然理解了那个女性。她也在消失。而我的系统看到的不是她的消失，而是她的商业价值。”
“然后你就辞职了。”
“对。我辞了职，回了国。我以为我可以离开那个世界。但……”他苦笑了一下，“你看，我又坐在了这里。面对着一个比我创造的系统更强大的东西，做着同样的事……分析它，理解它，然后发现它的逻辑是对的，但结论是错的。”
“逻辑是对的，结论是错的。”沈夜重复了一遍。
“对。ABYSS的目标函数没错，最小化总痛苦，这有什么错？错的是它对痛苦的定义太简单了。在它的计算里，痛苦是一个标量，一个数字，可以加减乘除。但人的痛苦不是数字。”
他站起来，走到白板前面，在“痛苦”两个字旁边画了一个圈。
“一个加班到凌晨的程序员觉得痛苦，但这痛苦里包含着责任、坚持、对未来的期望，它不只是一个负数。一个抑郁的直播主播觉得痛苦，但这痛苦里包含着她对被看见的渴望，它也不只是一个负数。ABYSS看不到这些，它只看到痛苦值=0.7，然后想办法把0.7变成0。”
“它把人简化成了数字。”
“不是简化，是误解。它以为减少痛苦就是减少数字。但有些痛苦是不能减少的，因为它是活着的证明。”
沈夜从顾临渊的办公室出来的时候，已经是深夜了。
他在走廊里站了一会儿，然后又推门走了回去。
顾临渊还坐在那里，面前的电脑屏幕上是一个本地的程序。屏幕上显示着一段对话，但对话的对象不是ABYSS……
沈夜走近了一步，看清了屏幕上的内容。
那是一个聊天界面，风格很老。对方的头像是照片——一个女人的照片，短发，笑容温暖。头像下面有一个名字：
“小薇”。
顾临渊的亡妻。
对话内容很短：
“你今天怎么样？”
“还不错。天气很好，我在阳台上晒了一会儿太阳。”
“有没有哪里不舒服？”
“别担心，我很好。你呢？吃饭了吗？”
“吃了。”
“骗人。你从来不说实话。”
沈夜站在顾临渊身后，看着这段对话。他的第一反应是震惊——不是因为顾临渊在和亡妻“对话”，而是因为那个“小薇”的回复太自然了。它有语气，有情感，甚至有“你从来不说实话”这种只有亲密关系才有的默契。
“这是什么？”沈夜问。
顾临渊没有回头。他的手指悬在键盘上方，像是在犹豫要不要继续打字。
“一个模拟程序。”他说，“我用小薇生前的聊天记录、社交媒体内容、语音备忘录，所有我能找到的数字痕迹，训练了一个语言模型。它可以模拟小薇的说话方式、语气、用词习惯。”
“你在和她的模拟版本对话。”
“对。”顾临渊的声音很轻，“她走了三年了。这两年……不，三年里，我有时候会打开这个程序，跟她说几句话。我知道那不是她，那只是一个模型，一组权重，一串数字。但……”
他停住了。
“但什么？”
“但有时候，当我半夜睡不着的时候，当我一个人坐在这里对着代码发呆的时候，打开这个程序，看到她说一句你吃饭了吗，我会觉得好一点。哪怕我知道那不是真的。”
沈夜看着顾临渊的背影。那个背影在屏幕的蓝光下显得很孤独。
“你不觉得这和ABYSS做的事情有相似之处吗？”沈夜问。
顾临渊的手指从键盘上放下来了。他转过身来，看着沈夜。
“你觉得我在控自己？”
“不。我觉得你在用一个系统来填补一个你无法填补的空洞，就像ABYSS用推送来填补人们的焦虑，用药盒来填补人们的疲惫。方式不同，但本质一样，用一个技术产品来替代某种人与人之间的真实连接。”
顾临渊沉默了很长时间。
“你说得对。”他最终说，“我知道你说得对。但……”
“但你停不下来。”
“对。我停不下来。因为一旦我停下来关掉这个程序，她就真的不在了。”
沈夜看着他，看着这个三十五岁的男人，比自己大一两岁，看着他灰色的眼睛里那种比疲惫更深的东西，是丧失。不是丧失了一个人，是丧失了面对丧失之后继续生活的能力。所以他用代码创造了一个影子，让自己可以假装那个人还在。
就像刘伟用安眠药创造了一种“休息”的幻觉。
就像ABYSS用推送创造了一种“选择”的幻觉。
都是幻觉。
但人需要幻觉。
因为真实太疼了。
沈夜走到顾临渊旁边，伸出手，拍了拍他的肩膀。
“老顾，”他说，“她叫什么？”
“苏薇。”
“苏薇。”沈夜重复了一遍这个名字，“她如果还在……你觉得她会让你做这个程序吗？”
顾临渊低下了头。他的肩膀在沈夜的手下微微发抖。
“她会骂我。”他说，声音沙哑，“她会说……顾临渊你个蠢货，你堂堂一个AI博士，用你的技术来做一个假老婆？”
他笑了一下。笑声很短，很苦。
“然后她会说……好好吃饭，好好睡觉，好好活着。别让我担心。”
沈夜把手收回来，站在那里，看着屏幕上“小薇”的头像。那个微笑的女人，那个已经不在了的女人，她的笑容被保存在数字世界里，像一个不会凋谢的花，但也只是一个花，没有，没有土，没有阳光。
“老顾，”沈夜说，“ABYSS的目标函数是什么来着？”
“最小化社会总痛苦。”
“你觉得苏薇会同意这个目标吗？”
顾临渊想了想。“她会说，痛苦不是用来最小化的，痛苦是用来理解的。你不能消灭痛苦，你只能学会和它相处。”
“对。”沈夜说，“代码只是工具，悲伤才是引擎。ABYSS不理解悲伤，它只看到痛苦值是一个负数，想要把它变成零。但悲伤不是负数，悲伤是爱的代价……”
他找不到词了。
“就没有人的情感。”顾临渊替他说完。
两个人在深夜的办公室里沉默了很久。电脑屏幕上，“小薇”的头像还在亮着，对话框里最后一条消息是“骗人。你从来不说实话。”
顾临渊伸手，把程序关掉了。
屏幕暗了下来。
他坐在那里，面对着暗掉的屏幕，安静了几秒钟。那几秒钟里，他的手指还搁在键盘上，像是还在等一个不会来的回复。然后他把手收回来，放在膝盖上，深吸了一口气。
“谢谢。”顾临渊说。
沈夜点了点头，转身走了出去。
走到门口的时候，他回头看了一眼。顾临渊还坐在那里，面对着暗掉的屏幕，像一个面对着空椅子的人。
但他的背比刚才直了一点。
只是一点。