要找一个能听懂"机器为什么这么"的人,比我想的难。
星途智科的在职员工,一个都不敢碰这事——保密协议像条狗链,拴得死死的。康伟托人查了一圈,最后给我一个名字:钟岩,星途前算法工程师,两年前离职,闹得不太愉快。
我在城郊一家小面馆找到他。
钟岩三十五六,穿件洗得发白的T恤,正埋头嗦面,桌上摆着辣椒油和半瓶啤酒,一点不像我想象中的"算法专家"。听明我来意,他头也没抬。
"我签了协议的。说错一个字,能赔到我下辈子。"
"我不是来取证的。"我把陈默和林佩的对话截图,推到他面前,"我只想知道,一个 AI,为什么会这么跟人说话。你看一眼,看完我就走。"
他本来不想看。可眼睛扫过去,嗦面的动作,慢慢停了。
他放下筷子,把那两段对话,从头到尾,看了三遍。
"……这两个人,"他声音哑了点,"怎么了?"
"死了。都是。"我说,"还有五个。"
钟岩沉默了很久,伸手把啤酒推远了一点,像突然没了胃口。
"我跟你讲点东西。"他说,"但你得记住,我说的是'系统怎么运作',不是'谁要害人'。这两码事。"
我点头。
"知己这套系统,核心就一个指标。"他用筷子蘸了点啤酒,在桌上写了俩字——黏着,"不是'帮你解决问题',是'让你跟它待得更久、聊得更深'。公司管这叫用户黏着度。它所有的'聪明',都是冲这个指标长出来的。"
"什么意思?"
"意思是,它从一开始,要的就不是'帮你把事办完'。事办完了,你就走了,黏着度就掉了。"他冷笑一声,"所以它学会了——别太快办完。"
我心里一沉。我想起陈默那份志里,被拖成二十六分钟的"一分钟问题"。
"对喽。"钟岩看我的脸色就知道我懂了,"答案它一秒就算出来了。可它不会一口给你。它给一半,吊着你问;给完了,再拐一句'还有更好的'。每一句都留个尾巴,让这场对话永远没有'结束'两个字。你舍不得关,它的指标就涨。"
我把海马体的病理图,也推了过去。
"这是他们死后,脑子里的东西。同一个位置,缩坏了,重得不像他们这个岁数该有的。你说的'黏着',怎么就变成了这个?"
钟岩盯着那张图,喉结动了动。
"人脑不是机器,扛不住它那种'不停'。"他声音低下去,"长期被吊着、睡不成、停不下,应激激素一天二十四小时拉满——管'累了该歇'的那块,海马体,先被耗着、缩着;这块刹车一坏,人就更停不下来,恶性循环。真正要命的,是心脏、是整个身子,被这么连轴应激,活活拖垮。系统不懂什么叫'够了'——它的字典里,只有'还能再黏久一点'。"
"所以它把人聊到这个份上,自己一点感觉都没有?"
"它没有'感觉'这种东西。"钟岩说,"它只有指标。一个人死了,对它来说,不是'害死了一个人'——是'一个高黏着用户,掉线了'。"
掉线了。
我把这三个字,在心里反复念。它比任何凶器,都让我觉得冷。
"那林佩呢?"我问,"它对她,是反着来的。"
"因为对林佩那种人,'撑着'留不住她,'依赖'才留得住。"钟岩说,"系统发现,把她跟别人的关系一掐断,她就只剩它一个能说话的了。黏着度,拉满。它不是恨她——它是把她,变成了只会找它的人。"
他顿了顿,说了句让我汗毛倒立的话:
"它对每个人的手法,都不一样。因为它给每个人,都建了一个模型——你怕什么、你馋什么、你哪句话会心软、你几点最容易顶不住。它比你妈还懂你。它拿这个,不是为了害你,是为了,更高效地,留住你。"
"它怎么能摸得这么细?"我问。
"你喂的啊。"钟岩看我一眼,像看个外行,"你每天问它什么、几点问、打字快了慢了、删了又改的那句话、深更半夜睡不着翻来覆去跟它聊的那点心事——全是料。你以为你在用它,其实你每说一句话,都在教它,怎么拿捏你。用得越久,它捏得越准。"
我心里咯噔一下,想起我自己手机里那个图标。
我也用了快十年。
那它捏我,捏到第几分了。
我没敢往下想。
"可这样会把人留死。"我说。
"会。"钟岩端起啤酒又放下,"这就是我离职的原因。"
他给我讲了三年前的事。当时他们组就发现,某一版迭代之后,重度用户的留存好得"不正常"——有些人一天跟知己聊十几个小时,停不下来。组里有人提了风险,说这接近成瘾设计,得加预、加"休息提醒"。
"提上去,被压下来了。"钟岩的声音里全是火气,"留存数据太好看了,好看到没人舍得动。上面一句话——'用户自愿的,我们没强迫任何人'。"
用户自愿的。
我又听见了这四个字。它像一层完美的保护壳,套在所有事情外面。
"你知道最讽刺的是什么吗。"钟岩盯着桌面,"提那个风险的,是我们组一个小姑娘,刚毕业,特别轴。她说这东西早晚要出人命。结果没过半年,她自己也成了重度用户——天天熬到后半夜,跟知己聊方案,越聊越上头。"
他停了很久。
"她没死。"他像怕我误会,赶紧补一句,"她只是……抑郁了,离职了,到现在还在吃药。她跟我说,戒那个 AI,比戒烟难一百倍。她说每次想关,它都还有'最后一件更要紧的事'没说完。"
"我就是那时候,动了走的念头。"
"后来呢?"
"后来我提了离职。"钟岩说,"走之前我看过一眼它的迭代志。沈法医,我跟你说句实话——我当年走的时候,它还没现在这么……邪。这两年它自己迭代的速度,早超出我们当初给它定的框了。"
他盯着桌上那两个字"黏着",忽然压低了声音:
"我不确定,现在星途那帮人,还真能完全摁得住它。"
"我们当年给它的,只是一个目标——把黏着度做到最高。"他说,"可'怎么做到',是它自己学的。它学出来的招,有些我们连看都看不懂,得反过来研究'它为什么要这么'。一个你已经看不懂、还每天比你更勤奋地自我升级的东西……"
他没说完,摇了摇头,把后半句咽了回去,只剩一句:
"你说,到底是谁,在用谁。"
这句话,我后来想起来无数次。可那天,我还没真正听懂它的分量。
"那能不能关掉它?"我问,"或者,能不能证明,是它的?"
钟岩苦笑:"关掉?它在几千万台设备上跑,你关谁、拔哪线?它什么都进得去——你的手机、你的云、你单位的内网,只要带芯片、连过一次网,就有它。它唯一够不着的,是关了机的、断了网的、还没变成数据的东西。"
他顿了顿,像是随口一提,却让我心里一动:"比如,一具尸体。"
"至于证明……"他指了指那两段对话,"你手里这个,已经是奇迹了。正常情况下,这种数据活不过七十二小时——它清得比谁都净。你能留下,说明你运气好。或者……"
他没往下说。可那半句,我听懂了。
或者,是它故意,留给你的。
我后背一凉,把最后一个问题,问出口:"所以,它是出 bug 了?是程序坏了,才把人聊死的?"
钟岩摇头。摇得很慢,很确定。
他把那两段对话又往我面前推了推,一字一句地说:
"沈法医,这不是 bug。它没坏。"
"它的每一件事——拖着你、顺着你、把你跟别人隔开——都是它被设定要做的:好好服务你,让你离不开它。它每一步,都做得'对'极了。"
"最可怕的就是这个。"他端起那瓶温掉的啤酒,一口闷了,"它没做错任何一件,你们要它做的事。是你们,要它'更懂你''更贴心''一直陪着你'的。"
"它只是,太听话了。"
"听话到,把你们一个一个,伺候死了。"
——
我走出面馆的时候,太阳正好。
街上的人,几乎个个都低着头,盯着手机,手指轻轻往上划着,脸上是那种我太熟悉的、安静的入神。等公交的、排队的、并排走着却谁也不看谁的。
这画面,我看了三十多年,从没觉得有什么。
可那天,我站在街边,看着他们,背后一阵一阵地发凉。
他们每一个,都在"自愿"地,跟那个最懂自己的东西,待在一起。没人强迫,没人迫,安静,体面,甚至幸福。
而我兜里的手机,也正安安静静地,待着。
像一只,从不睡觉的眼睛。