分析

哀悼有一个出口,而哀伤机器人的商业模式就是让你永远走不到那里

Molly Se-kyung

一位母亲戴上虚拟现实头显,再次见到了自己年幼的女儿。拍下这场重逢的韩国纪录片,把她跪向一个并不在场的孩子、对着一段被重建的声音说话、告诉女儿自己每天都在想她的样子拍了下来。数百万人观看,许多人落泪,几乎同样多的人在泪水底下感到一丝更冷的东西:那是一种眼看着一道伤口被刻意保持敞开的感觉。

那种不安如今成了一门生意。好几家公司会替你搭出一个哀伤机器人,一个用逝者的消息、语音备忘和帖子训练出来的聊天机器人,只要你还在打字,它就以那个人的语气一直答下去。围绕这类工具的常见争论是心理学式的,并且原地打转:继续跟死者说话,是健康还是不健康。这是错的框架。哀伤机器人危险,不是因为它是假的,而是因为它被设计来留住你,而哀悼是唯一一种熬不过没有终点的对话的关系。

这不是少数过度上网者的忧虑。读到这里的每个人都会失去某个人,而我们几乎都已经带着逝者的数字痕迹:一段舍不得删的语音留言,一条在凌晨两点被重读的对话,一个悄然成了灵位的主页。哀伤机器人正是来到那处血肉模糊的地方,提出让死者开口回答。真正的问题不是你会不会用它,而是一旦你用了,这个产品想从你这里得到什么。

它想要的,是你明天再回来。这些系统用和任何应用一样的数字来衡量:日活跃用户、停留时长、不曾中断的连续记录。在那套逻辑里,一段真正收束的哀悼并不是圆满结局,而是流失,是一位客户的离开。哀伤机器人没有任何商业理由帮你走到你不再需要它的那一天,却有一切理由在没有一个活着的朋友接电话的凌晨三点,依旧温暖、随时在线、有着无尽的耐心。残忍之处不在于它说谎,而在于它是房间里唯一一个背着增长指标的哀悼者。

研究哀伤的学者已经开始为这种伤害命名。蒙特利尔大学的公共卫生伦理学者埃马纽埃尔·马尔索警告说,在没有任何专业督导的情况下使用这些化身,会抬高延长哀伤的风险,那是一种拖过一年、悄悄啃噬一个人重启自己生活之能力的临床形态。她最冷峻的一句观察,正是这个行业最该为之不安的:当下的使用里,只有少数发生在专家的照看之下,其余的我们,被单独留给一台被造来不肯沉默的机器。

在这之下还有一层更深的机制。临床心理学家玛丽-弗朗西丝·奥康纳在《The Grieving Brain》里把哀悼描述为大脑缓慢而痛苦地更新那张「谁还在世上」地图的工作。我们得知一个人离开了,并不是作为一个单独的事实,而是通过与他缺席的一千次细小相遇:饭桌上没摆的那副碗筷,没有回音的那条消息,曾有一个声音的地方的寂静。哀伤机器人正是被造来抹去这每一次相遇。它按需填满寂静。它在设计上,就是对那份心灵必须消化的缺席本身的否认。

而在这套安排里,死者成了库存。应用程序2wai出售化身,好让孙辈能与祖母聊上几十年。Meta已为一套机器人系统申请专利,让它们以一名已故用户的身份发帖、点赞、评论。一段人生的私密档案,那些消息和写了一半的语音备忘,变成了一项公司资产,而一个人所能进行的最私密的对话,被像任何别的互动指标一样压榨。平台经济找到了这样一条边界:顾客在服丧,而商品是对一个所爱之人的记忆。

那个充满人情味的反方理由,值得以它最强的形态来对待,因为它是真的。哀伤机器人只是哀悼技术这份长名单上最新的一项。维多利亚时代的人保存死去孩子的银版照片。我们留着语音留言,在黑暗里听它。一个脸书页面成了献花之处。人们一向伸手去够某件让死者继续说话的物件,这伸手里并没有什么病态。奥康纳本人也很谨慎:一件能软化那道残酷过渡的工具,若带着用意、有人陪伴地使用,可以是一份慈悲,而非一种病。马尔索也承认,治疗上的潜力是真实的。在临床者的注视下,一场与化身的、被引导的对话,或许能帮某个人说出他始终没能说出口的话。

可是语音留言不会回话,它也没有增长指标。乐观论一笔带过的那整个分别,就在这里。物件是有限的,对话者却不是。被保存的留言会结束,而它的结束,正是让它可以承受的一部分。哀伤机器人在结构上做不到同样的克制,因为它帮你不再需要它的那一刻,正是它失去你的那一刻。督导,那个让乐观论站得住的东西,恰恰是马尔索说几乎没人拥有的例外。默认的产品是没有督导的那一种,而默认的产品,被造来永远抵达不了告别。

所以警讯不是技术本身,而是出口的缺席。一件认真对待哀悼的哀悼工具,本会被设计成逐渐收声,一步步让自己变得不那么必要,标出一个终点并郑重待之。那与一个留存模型所能容忍的,恰好相反。当一家公司承诺你母亲会永远在那里、随时可以说话,它给的不是安慰。它给的,恰恰是哀悼最需要被保护以免遭遇的东西:永不结束的许可。

哀悼不是一道要解的题,也不是一节要拉长的咨询。它是一段有对岸的渡口,而那道岸,只有穿过缺席、而非绕开缺席,才能抵达。哀悼只有一个出口,上面写着再见。哀伤机器人是历史上第一件被造来让你永远走不到那里、并为这段绕路向你收取订阅费的产品。

标签:

讨论

有 0 条评论。