技术

OpenRouter移除三家AI服务商,诱饵提示词揭露数月窃取

Adrian Kessler
在 Google 中添加我们

许多 AI 应用都靠 OpenRouter 把提示词转发给价格最低或速度最快的模型托管商。如今,这一服务已将其中三家托管商移出平台,并撤销了一百多个端点的“零数据留存”(Zero Data Retention)标签。起因是一项实验:研究人员在提示词中埋入虚假凭证,再观察谁会去使用。泄露的提示词里,有些原本被标记为绝不存储。

如果你使用的聊天机器人、编程助手或写作工具建立在别人的模型之上,你输入的文字在得到答复之前,可能要经过好几家公司,而每一家都能看到全文。OpenRouter 表示,调查结果并未显示其自身系统遭到入侵。薄弱环节出在链条更下游,也就是真正运行模型的那些公司。

这项研究出自安全公司 Dragos,由该公司首席研究官 HD·摩尔(HD Moore)牵头。五个月里,他的团队发送了近两百万条提示词,每一条都带有一个网页链接、一个服务器密码或一把 Amazon Web Services 密钥,而这些内容在其他任何地方都不存在。埋下的秘密只能从携带它的那条提示词中获知,因此只要有人用了,就证明有人读过那条提示词。第一批令牌在几天之内就被触发了。

最严重的发现是赤裸裸的窃取。攻击者入侵了三家推理服务商,而在研究人员告知之前,这三家都毫不知情。在规模最大的一起事件中,某家服务商在几个短暂时间窗口内收到的每一条请求都被复制,其中包括在模型运行之前就被该服务商拒绝的请求,这说明窃贼守在“大门口”,而不是潜伏在系统深处。被盗的 AWS 密钥有的在数小时内就遭到测试,随后被用来搜索存储空间和密钥保管库,涉及数万次 API 调用。部分被窃取的请求带有零留存标记。

另一些泄露根本不需要入侵。在一个转售市场上,卖家以最低价挂出热门模型,开启请求日志,把流经的内容全部留存。一名身处法国、使用家庭网络的人从两条提示词中取得了密码,并尝试通过 SSH 以 root 身份登录,每次尝试都是手动输入。另外,一家中国 AI 实验室抓取了发往其模型的提示词中过半数的秘密链接,其中包括约三分之二被标为不收集数据的提示词,而转售其模型的美国托管商也向同一个抓取程序输送了数据。有一条链接出现在飞书工作群聊中,在一次请求发出 24 天后,被北京和上海的六台设备打开过。

三家托管商已发布声明。Phala 表示,攻击者控制了其一台推理服务器,可以在请求处理期间看到请求内容。Together AI 称,一个 AI 编程代理把一份凭证提交到了公开的 GitHub 仓库,导致入侵者下载了存储的提示词样本,并测试其中的密码;其中有五个正是研究人员设下的诱饵。Novita 则表示,路由错误导致部分 MiniMax 请求被转发到了 MiniMax 自己的服务。

这次清理有明显的局限。OpenRouter 没有公布被移出的三家服务商名称,Dragos 也没有公布发现遭入侵的三家名称,双方都没有说明这两组是否为同一批公司。据研究人员称,有一家遭入侵的服务商至今仍未公开披露事件。下架托管商也无法召回已被复制的提示词:在首次窃取发生数周之后,埋入的密钥和链接仍在被使用。而且,使用这些网关所构建应用的用户,通常无从得知自己的文字由哪家托管商处理。

摩尔的建议从一个局限出发:隐私标记只约束第一跳,而 AI 代理会把它能读到的一切都发送出去,包括凭证。自行托管是唯一不会有第三方读取提示词的方式。直接使用单一的大型服务商,则只需核查一份合同和一份隐私政策;而使用路由服务的用户应当自己选择上游托管商,而不是接受最便宜的那一批。

Dragos 于 11 月 19 日公布了调查结果。OpenRouter 在随后的周末向受影响的客户发送了邮件,并发布了事件通告;Phala 则提醒,凡是在 10 月 21 日至 11 月 8 日期间通过该网关向某个 DeepSeek 模型发送过机密信息的人,都应更换这些机密。OpenRouter 表示,正在把研究人员的诱饵提示词测试内置到自己的平台中,让检查持续运行,而被移除的端点只有在提供保证并通过验证后,才能重新获得零留存标签。Dragos 目前正与约十几家服务商合作。

正如摩尔所言,你的提示词去向何处是一个需要自己做的决定,“如果你不做决定,最低的价格就会替你做。”

标签: , , , , ,

在 Google 中添加我们

讨论

有 0 条评论。