技术

ChatGPT青少年模式上线:家长可设限制,但无法查看对话

Susan Hill

ChatGPT如今为青少年提供了不同的使用体验。OpenAI于8月18日正式推出“ChatGPT for Teens”,该系统为自动生效:13至17岁的用户将自动获得一个版本,其限制比成人默认设置更为严格。青少年无需采取任何操作,家长也无需额外同意。该功能于当周在全球范围内开始推送,预计将在两周内完成所有市场的部署。

通过家庭账户可访问的家长控制功能,比多数平台提供的选项更为细致。家长可以设定静默时段——即每天特定时间段内青少年账户无法使用ChatGPT——并可单独关闭语音模式、图像生成功能或让ChatGPT跨对话记住细节的持久记忆功能。每个开关都是独立的。此外,家长还可选择禁止OpenAI使用青少年的对话记录来训练未来模型,而这一选项在标准账户中默认并未开启。

家长无法做到的是:阅读孩子在ChatGPT中输入的内容。这是一个有意的设计决策,而非实施上的漏洞。OpenAI的立场是:如果青少年怀疑自己的对话可能会被分享给家长,他们干脆就不会用这个产品来讨论那些真正需要帮助的事情——而一个无法在毫无评判的情况下向AI询问敏感话题的青少年,将失去这项技术最有价值的部分。这些控制工具让家长能够限制使用时间和模式;而对话内容本身则保持隐私。

模型本身内置的限制同样适用,无论家长如何设置。“ChatGPT for Teens”在处理自残、饮食失调和暴力等话题时更为严格。该模型经过训练,会引导用户转向其他内容而非直接回应这些话题,同样的限制也适用于“学习模式”——一项将回答转化为测验和练习题而非直接答案的新功能。学习模式旨在辅助完成家庭作业而非替代它,要求青少年自行检索信息而非简单复制。

年龄验证问题则暴露了该系统的局限性。OpenAI使用年龄预测模型而非正式的身份证核查来将用户归类为青少年。那些在首次注册时提供了虚假出生日期的青少年——这在设有年龄限制的平台上是一种常见规避手段——很可能不会被重新归类。此次推送主要针对新账户以及注册时出生日期正确的账户。OpenAI尚未披露其现有用户中13至17岁年龄段的比例,但研究人员一直发现,这个群体规模庞大,且在使用AI工具进行学术目的方面的比例异常之高。

更广泛的设计逻辑值得深思。OpenAI试图同时兼顾两件事:足够的安全架构来满足家长和监管机构,以及足够的隐私来真正对青少年有用。静默时段和话题限制解决了前者;拒绝共享聊天记录则解决了后者。这种平衡是否正确,是一个理性的人可以持有不同看法的问题。值得注意的是,OpenAI明确做出了这种取舍——他们选择了青少年的实用性而非家长的监控,并且公开表明了这一点。

“ChatGPT for Teens”现已可在所有平台上使用。为期两周的全球推送已于8月18日开始。

标签: , , , , ,

讨论

有 0 条评论。