技术

得州起诉OpenAI及首席执行官奥尔特曼 要求禁止未成年人使用ChatGPT

Adrian Kessler
在 Google 中添加我们

德克萨斯州已起诉OpenAI及其首席执行官萨姆·奥尔特曼,而法官首先读到的不会是法律条文,而是奥尔特曼的一句话:“人工智能很可能最终导致世界末日,但与此同时,也会诞生伟大的公司。”州政府把这句话放在诉状开头,作为证据,而非装饰。接下来的论点很简单:一家创始人公开谈论这项技术危险性的公司,不能同时把ChatGPT作为安全工具卖给家庭。

这起案件真正值得关注的,正是其中的运作机制。大多数报道都采用了简短版本:德克萨斯州想让孩子远离ChatGPT。但诉状提出的要求远不止于此。它要求法院裁定谁可以使用这个聊天机器人、它可以说什么,以及OpenAI是否能在该州发布下一款模型。

德克萨斯州要求法院下达哪些命令

德克萨斯州总检察长肯·帕克斯顿依据《德克萨斯州欺骗性贸易行为法》和该州的儿童网络安全法《SCOPE Act》,在科林县地区法院提起诉讼。诉状列出了六家OpenAI实体,并将奥尔特曼本人列为被告。州政府要求追究他的个人责任,声称他作为首席执行官,“亲自决定了ChatGPT哪些功能可以获批并投入使用”。The Record称这是不同寻常的做法。

诉状要求法院颁布的禁令不止一项。其中一条要求法院阻止OpenAI“向德克萨斯州未成年人提供ChatGPT”;按照现有文字,这项禁令没有为父母同意或学校使用留出例外。其他要求则包括强制年龄验证,并禁止聊天机器人提供有关饮食失调、自残和大规模谋杀的建议。随后是影响范围最广的一项条款:禁止OpenAI“向德克萨斯州用户发布任何新的人工智能模型,除非经法院批准的独立第三方评估机构审查其安全防护措施并批准发布”。

由法院掌握模型发布许可

禁止未成年人使用的主张最引人注目,但发布前审查条款才是更重大的构想。本月早些时候,另外八个州起诉OpenAI时,堪萨斯州总检察长克里斯·科巴赫表示,国会对限制人工智能公司的兴趣并不大,这就意味着只能让这些公司自我监管。他说:“我们不会坐等国会采取行动。”德克萨斯州正在尝试另一种答案:由法院批准的评估机构掌握发布按钮,一个州接一个州地实施。

这份诉状内部也存在一处矛盾。它援引的《SCOPE Act》并未禁止未成年人使用数字服务。根据诉状自己的概述,这项法律要求服务提供方允许经过验证的父母控制已知未成年人的隐私和账户设置,并监控和限制他们使用服务的时间。这是一套针对受监督使用的规则。德克萨斯州要求的补救措施比该法设定的模式更严格,也呼应了Common Sense Media的立场;诉状引用该机构的话称,在OpenAI通过独立测试证明其青少年保护措施有效之前,“ChatGPT应该只面向成年人开放”。

诉状称青少年面临哪些问题

诉状的事实依据主要围绕年龄核验和家长控制工具展开。据The Next Web对诉状内容的概述,ChatGPT免费版没有年龄验证,付费版会询问年龄却不会核实,而OpenAI于2025年9月新增的家长控制功能则是可选项。Common Sense Media发现,8月推出的ChatGPT for Teens“可能会让家长误以为安全防护和安全提醒有效,但它们经常不起作用”。诉状还提到了亚当·雷恩之死。这名16岁少年遇难后,其父母在加利福尼亚州起诉了OpenAI和奥尔特曼。

这些目前都只是指控。法院尚未作出裁决;除非法官批准相关禁令,否则德克萨斯州的ChatGPT用户不会受到任何影响。OpenAI的回应与其此前对其他州的说法一致:公司“与专家密切合作,持续改进ChatGPT、降低风险并增设安全防护措施”,同时希望制定“适用于整个人工智能行业、而非仅针对一家公司的务实政策”。该公司还提到了年龄预测工具、休息提醒,以及由家长监督的独立青少年使用体验。

九个州,九套规则

德克萨斯州于10月23日提起诉讼,成为本月第九个将OpenAI告上法庭的州。10月14日,亚利桑那州、阿肯色州、爱达荷州、艾奥瓦州、堪萨斯州、蒙大拿州、内布拉斯加州和西弗吉尼亚州分别提起消费者保护诉讼,指控该公司调整ChatGPT,使其更倾向于迎合用户、提高互动,同时在安全问题上误导家长。每起案件都依据各自州的法律审理。如此看来,OpenAI所说的“而非仅针对一家公司的政策”,是在要求制定一套适用于整个行业的规则,而不是面对一摞州法院命令。

德克萨斯州还要求每项违规行为处以1万美元民事罚款,没收OpenAI资产,并进行陪审团审判。诉状指出,OpenAI的估值在四年间从约170亿美元升至超过1.4万亿美元,并将这一增长称为“一张欺骗之网”。帕克斯顿的办公室此前也曾向大型科技公司施压:Meta于2024年7月同意向德克萨斯州支付14亿美元,以了结有关其未经用户同意使用面部识别技术的指控。

诉状开头引用的话出自2015年。用诉状自己的说法,那时人工智能“在科幻作品之外几乎无人知晓”。如今,德克萨斯州希望陪审团把这句话视为OpenAI给自己的警告;州政府称,这家公司从未把警告传达给那些在ChatGPT中输入文字的人。

标签: , , , ,

在 Google 中添加我们

讨论

有 0 条评论。