欧盟《儿童法》删除让Character.AI受青少年青睐的核心功能

Character.AI 和 Replika 不能再记住青少年告诉它们的内容。欧盟《儿童法案》——欧盟委员会提出的数字安全法规，现已发布完整立法文本——要求人工智能伴侣应用在对话结束后删除与未成年人的所有对话记忆，除非该数据直接用于保护用户安全。正是这种设计，曾让这些应用在数百万青少年中具有文化意义，如今已被欧洲法律禁止。

伴侣条款远不止清除记忆。平台必须对所有18岁以下用户默认关闭情感伴侣功能。任何模拟人际关系、培养情感依恋或奖励频繁互动的设计元素都被明确禁止。欧盟委员会点名指出了这些应用用于留住青少年的具体机制：对话连续性、被了解的感觉、以及AI对用户生活投入的感知。所有这些都必须移除。

该法案涵盖的范围远不止AI聊天机器人。13岁以下儿童未经家长授权禁止使用社交媒体平台、在线游戏和AI应用。所有18岁以下用户禁止使用自动播放、无限滚动以及睡眠时间内的互动通知。地理定位、麦克风和摄像头默认必须禁用。自我声明年龄不再满足验证要求；平台必须集成经认证的欧盟年龄验证系统。

Character.AI 已经宣布了家长控制和会话时长限制，这是在法案正式文本出台前，面对日益增长的监管压力所采取的行动。Replika 承诺构建”伴侣边界”：AI将告知用户它不能替代人际关系。更大的平台——Meta、Google、Snap、OpenAI——尚未发表正式公开声明。合规分析师估计，所有这些平台都将面临重大重新设计成本。Meta 最近因被指控设计平台使儿童上瘾，在美国47个州达成了171亿美元的和解协议，在新的规则下面临更复杂的风险敞口。

质疑的理由十分充分。《儿童法案》目前只是一项提案，而非法律。它将进入欧洲议会与各成员国之间长达数月的谈判期，之后才具有约束力，最终条款很可能发生变化。在Instagram或TikTok的规模上进行真正的年龄验证，在技术上仍然困难。将记忆删除功能融入以连续性为核心架构的AI伴侣中，其工程挑战可能比监管机构预想的更为艰巨。企业已经指出，伴侣聊天机器人并非在所有实现中都会跨独立会话保留记忆，这使得禁令的实际范围不明确。

更广泛的背景对欧洲以外的读者也很重要。去年年底，澳大利亚禁止16岁以下儿童使用社交媒体。美国47个州就儿童成瘾指控与Meta达成了总额171亿美元的和解协议，多个美国州已通过法律限制未成年人使用社交媒体。欧盟《儿童法案》是迄今为止最激进的单一提案——其特别目标不是访问权限，而是情感设计本身。

欧盟委员会于9月19日发布了完整立法文本。议会谈判将于10月开启。一旦实施，企业将有六个月时间识别属于15岁以下用户的现有账户，并将其转换为家长控制模式或停用。违规行为将处以最高占全球年收入6%的罚款。

标签: AI regulation, Character.ai, European Commission, AI chatbots, children digital safety, EU Kids Act