ChatGPT将在欧盟为文本加隐形水印，正是OpenAI在2024年搁置的技术

很长一段时间里，OpenAI都在公开解释，为什么不在ChatGPT生成的文字中加入水印。如今，它还是要加了。让它改变主意的并非技术，而是一部设有合规期限和罚款的法律。

OpenAI表示，ChatGPT和Codex为欧盟用户生成的文本将带有不可见的统计特征，并将在未来几周内逐步覆盖所有套餐。在其他地区，同样的标记只以一个开关的形式出现在开发者API中，而且默认关闭。OpenAI划出的界线，正好沿着有权对它处以罚款的司法管辖区边界延伸。

ChatGPT水印如何运作

这项名为textGrain的方法不会在输出中添加任何可见标记。当几个后续词放在句子里都同样合适时，一把密钥会悄悄影响模型，让它更倾向于选择其中一个词。单次偏移毫无意义，但在一段文字中累积数百次，就会形成一种模式；持有密钥的检测器可以检验这种模式。由于信号存在于词语本身，复制粘贴也不会让它消失。OpenAI与宾夕法尼亚大学和耶鲁大学的研究人员共同撰写了技术报告。报告称，水印不会对质量造成实质影响：在Artificial Analysis Intelligence Index上，带水印的输出得分为49.76，不带水印则为49.57。

推荐阅读OpenAI的赞助代理——ChatGPT对话里现在有了一个销售员

OpenAI早已拥有的工具

对OpenAI来说，这些都不是新东西。2024年夏天，《华尔街日报》报道称，该公司已有一套可用的文本水印系统，内部文件给出的有效率为99.9%，但它一直没有推出。OpenAI回应称，公司采取的是“审慎的做法”。它给出的理由涉及技术和社会层面：不法分子只需翻译文本，或借助另一个模型改写，就能“轻易绕过”这种方法；此外，水印也可能让非英语母语者把AI当作写作辅助工具这件事蒙上污名。TechCrunch在报道本周的公告时，还提到了当时的第三个理由：OpenAI担心用户会转投不加水印的竞争对手。

对照这些说法来看，这次推出水印说明，OpenAI究竟解决了哪些顾虑。按照公司自己的数据，绕过水印的问题依然存在。商业方面的顾虑，则被圈定在单一市场之内。

看OpenAI自己的数据，而非批评者的说法

在理想条件下，当误报率为1%时，检测器大约能识别出80%的、长度为200个词元的带水印文本；长度达到400个词元时，识别率约为95%。如果把10%的词替换成同义词，检测率就会从92%降至66%；替换四分之一后，检测率则跌至17%。短回复、数学内容和翻译文本都很难检测。OpenAI自己也提醒，在理想条件下表现出色，“并不意味着日常使用中也能可靠检测”；没有检测到水印，也不能证明文本是人类创作的。公司还表示，这种标记无法识别用户身份。

这意味着，textGrain可以用来识别那些懒得修改、直接复制粘贴的文本，但对愿意花一分钟编辑的人来说，作用就很有限。在一个跨越多种语言进行阅读和写作的地区，翻译带来的检测盲区绝非无关紧要的细节。

为什么是欧盟，为什么是现在

推动这项措施的法律依据是《人工智能法案》第50条，其透明度规则已于8月2日生效。该条款要求生成式系统提供商以机器可读的方式标记合成文本、音频、图像和视频，并提供检测机制。ChatGPT等在该日期前已进入市场的系统，须在12月2日前完成合规。根据律师事务所Cooley的分析，违规者最高可能被罚款1500万欧元，或全球年营业额的3%，以金额较高者为准。

有两个细节显示，这次推出水印的安排与其说是出于某种原则，不如说是紧贴着合规义务。第一个细节是检测器。法律要求提供检测机制；OpenAI确实开发了一个，但只向获准的研究人员和专业机构开放，申请后才可能获得使用权限。据The Decoder报道，公司表示，等到“我们认为检测结果可以得到负责任的解读”时，会扩大开放范围，但没有给出时间表。如今，里斯本或华沙的教师、编辑即便手里有一段可疑文本，也无法自行检测。

第二个细节是覆盖范围。Anthropic从8月起就在Claude生成的文本中加入水印，无论用户通过何种方式使用其模型，水印都在全球范围内生效；此举也招致部分用户反弹。OpenAI选择了相反的做法：在监管机构可以开出罚单的地方默认开启，在其他地区则由开发者自行选择，推出时没有设置全球默认开启。如果用户流向不加水印的竞争对手这一旧日担忧已经消失，OpenAI就没有太多理由如此划定范围。

接下来会怎样

OpenAI表示，将以开源形式发布textGrain，并称其性能达到或超过Google的SynthID等方法。代码公开后，这两项说法都可以接受检验。布鲁塞尔真正需要回答的问题要具体得多：一种稍经编辑就会消失的标记，如果几乎没人能运行检测器，它是否符合那项旨在让其他系统识别AI文本的规定？

12月2日之后，默认会让文字带上OpenAI签名的ChatGPT用户，只有那些所在地区的监管机构能够向OpenAI开出罚单的人。

标签: OpenAI, chatgpt, Codex, 欧盟人工智能法, 水印

更多类似内容

欧洲所有聊天机器人现在必须表明自己是AI——否则制造商将面临1500万欧元罚款

ChatGPT青少年模式上线：家长可设限制，但无法查看对话

ChatGPT Work：OpenAI将ChatGPT与Codex合并为一个永不停歇的AI智能体

OpenAI推出全天候智能体Dots，每个都有自己的云电脑

ChatGPT住进了Excel和Google Sheets，当着你的面改你的公式

ChatGPT上线虚拟试穿 一张自拍加全身照就能试衣