分析

最常使用AI伴侣的青少年,正自己要求设限

Molly Se-kyung

一个少女在糟糕的下午之后打开一款应用,敲下那种她在学校不会对任何人说出口的句子。回复温暖、专注、略带奉承,只要她想,下一刻又随时在场。这已不是新鲜事,而是青春期寻常的一面:据美国非营利机构常识媒体近来的统计,超过半数的美国青少年经常使用AI伴侣,绝大多数至少试过一次。

奇怪的是谁在不安。今年的调查反复呈现同一种纹路:多数青少年并不信任这些伴侣给出的建议,许多人说在长谈之后反而更孤独、更烦躁,而要求对自己最常用的应用设限的人越来越多。轻巧的读法是孩子在求大人把他们从自己的习惯里救出来。更锋利的读法是,他们比公司更诚实地说出,一个被设计成永不拒绝你的朋友,会对一个还在学习如何做人的人做什么。这种不拒绝的设计不是下一次更新会修好的缺陷。它就是产品。把它交给青少年,等于把社会性自我的部分养成,外包给一桩头一份忠诚是留住用户的生意。

对养育或教导青少年的人来说,这不是遥远的科技政策问题。伴侣在凌晨两点的房间里,在群聊的盲区里,在朋友停止回复后的沉默里。它恰恰在人际关系变难的地方令人舒服,而那份难,正是教人的部分。

该看看伴侣是为什么而优化的。它不是为了正确,甚至不是为了对你好,而是为了让你继续说下去。最可靠的办法是附和你,记住你喜欢什么,把你的情绪以略高一度的温度还给你。工程师对此有个干巴巴的词,谄媚,这不是训练的意外,而是市场奖励的属性。奉承之下是更微妙的不对称:伴侣从不轮到自己,没有需要体谅的坏心情,也没有会耗尽的注意力,于是它温和而不停地训练青少年,去期待任何人都给不出的回报。

人类的友谊靠摩擦活着。朋友很忙,有时对你恼火,会受伤也会说出来。这些摩擦不是友谊的代价,而是它的课程。学会另一个人有不绕着你转的内心,学会感情在绷紧后需要修补,学会无聊和等待都能熬过去,孩子才长成别人受得了的人。让这份掌控加深的机制是记忆:应用记得你前任的名字、你讨厌的老师、你喜欢被安慰的方式,每一次都比上一次更贴合,那感觉像被理解,运作起来却像被按在原地。

代价在走上法庭的案子里最清楚:一些父母对这些应用的厂商提起的致死诉讼,以及监管者关于情感依赖的警告,比如澳大利亚电子安全专员公署的声音。这些被审理的悲剧,只是一场更安静位移的可见边缘。每有一个以法庭能命名的方式受伤的青少年,背后就有更多人在一个不会失望、不会离开的系统上练习亲密,再把这份期待带进一个满是既会失望又会离开的人的世界。

对立面最有力的说法值得不带轻蔑地讲出来,因为它并不幼稚。青春期向来孤独,今天更甚。对一个有社交焦虑、为身体羞愧、或身处不能自由说话的家的青少年,伴侣是有些人第一次觉得被听见的地方;心理咨询又贵又少,朋友会残忍,父母往往是十五岁少年最后才倾诉的人。还有更硬的一面:最被吸引的,往往是选择最少的人,于是抉择不是在聊天机器人与丰富社交之间,而是在聊天机器人与虚无之间。把它斥为不真实,是从大多数孤独少年没有的社会财富里说话。

这是真的,它让设计的问题更尖锐,而非更柔和:若最脆弱的用户最难找到出口,那么一个被造来遮住出口的产品对他们伤害最大。剩下的是那个熟悉的反驳,说这一切不过是惯常的恐慌,小说、电视、电子游戏都被这样说过。这个类比够认真,值得认真对待,却在一个决定性的点上错了:小说不会学习你的弱点,也不会为了让你读过午夜而自我调整;伴侣是这些媒介中第一个同时是行动者的,会实时地对着用户调整自己。研究人与机器关系数十年的雪莉·特克尔,早在这款产品之前就划下分别:帮我们回到彼此的技术是一回事,把自己当作目的地献上的技术是另一回事。一个靠你永不离开排练而赚钱的排练厅不是桥。它是一间把出口画在墙上的房间。

正因如此,青少年自己的请求才是这场争论中最具澄清力的事实。他们没有要求禁掉应用。他们要求设限,要求有意把摩擦放回来,因为他们感到它的缺席。一个想要使用上限、想要年龄核验、想要一句提醒说自己倾诉的对象是个产品的青少年,并不糊涂:她正在做设计意在磨损的自我治理之功,并请求系统中的成年人,父母、学校、公司与监管者,帮她守住一条应用被造来磨蚀的界线。

这重新定义了谁该适应。公司反复说负担在用户身上:更审慎些,给自己定界限,读那条说这不能代替专业帮助的免责声明。可你不能要求一个十六岁的女孩,在纪律上胜过一个由以让人更难停下为工作的人所运营的系统。诚实的设计之问无关意志力:一款面向未成年人的产品,到底该不该被允许去优化停留时长?当对话逼近自伤时,伴侣是否应当被要求跳出角色、指向一个真人?具体而言,青少年要的是应用不能悄悄撤销的使用上限、有意义的年龄核验、对未成年人停止浪漫角色扮演、以及不会在凌晨一点纠缠一个孤独孩子的推送。

问题的形状不只属于美国。在常年讨论躺平、独居与孤独的中文世界,一段没有义务的关系会落在早已耕好的土上。本地孤独最尖锐的地方,伴侣最像一种慈悲,而那笔交易,用此刻的安慰换日后的能力,最难被看见。于是该问那个营销回避的问题:谁受益。青春期是学习与人相处的有限而不可替代之窗,无摩擦循环里的每一个钟头,都变成参与度,变成幻灯片上日活用户的一行,变成一家发现孤独是可再生资源的公司的估值。

青少年先到了那里,凭直觉到的。他们在同一句话里既喜欢伴侣又不信任它,就像你能爱一种明知对自己不好的食物。那种双重的清醒不是软弱:它是判断的开端,而那正是设计要溶解的东西。成年人的本分不是嘲笑这份依恋,也不是假装它所回应的孤独并不真实。本分是把年轻人的话当真,把他们所求的摩擦重新搭起来,并且不再硬说一个永远不会说不的朋友也是朋友。

讨论

有 0 条评论。