技术

谷歌地球的AI深度伪造工具只存活了一天——动摇了它赖以立足的信任

Adrian Kessler

理解谷歌刚刚对Google Earth做了什么,最快的方式是看它撤得多快。一项让任何人都能在全球最可信地图上随意涂抹虚构现实的功能力上线,立刻引发以核实图像为生者的强烈警觉,然后在绝大多数用户还没见到它之前就消失了。谷歌称其为暂停。但更像是一家公司当众发现自己把错误的东西部署到了错误的产品上。

机制本身比这场闹剧更值得关注。Google Earth的全部价值在于其证据性:记者、法庭、人道主义监测者和开源调查员之所以使用它,正是因为卫星视角难以伪造。把文字转图像的生成器嫁接到这个界面上,你得到的不是创意玩具——而是贬低了让这款产品值得信任的唯一属性。这个工具做了它被设计要做的事。而这正是问题所在。

谷歌在撤回前的辩护是一枚水印。公司指出,每张生成图像都带有SynthID——其用于AI内容的隐形标记——用户也可以随时通过Gemini或Lens进行核查。但水印是为那些已经怀疑某张图像、并有条件去查验的人准备的鉴证工具。它在真正重要的时刻毫无作用——滚屏、分享、截取后脱离上下文被推入无人核实的信息流。把SynthID当作保障,与其说是控制手段,不如说是一种托辞:证明风险已被考虑过,然后放行了。

外界在短短几小时内所展示的,才是谷歌应该深思的部分。那些以探测这类系统为生的研究人员不需要几个星期。他们生成了伊朗的一座核电站、边境聚集的难民、医院里的炸弹坑、一座西方城市被炸出的弹坑——正是那些能撼动市场、激化冲突、让任何澄清都追不上的图像集合。一名调查员报告说,他所要求的任何内容都没有被拒绝。这并非一个关于恶意滥用的故事。这是一个关于上线前似乎连最基本的对抗性测试都没通过的故事——而这些测试,最终由陌生人免费替谷歌做了。

Bellingcat的研究人员长期以来一直将卫星图像视为虚假信息经济中的一个安全赌注,正是因为它高悬于头顶、遥不可及。这种工具的危险不在于任何单张伪造图片。而是一种弥漫性的危害:一旦可信的虚假卫星图像变得唾手可得,每一张真实图像也都能被质疑。即使伪造被揭穿,造假者也赢了,因为怀疑本身就是产品。先例早已存在——在最近一次中东冲突期间,流传着关于美国一处基地受损的伪造卫星照片,它们由地球影像和AI拼凑而成。而谷歌刚刚试图把这一整套流程简化为一个按钮。

因此,问责问题不在于谷歌动作是否快。而在于,这个功能为什么会在最初就出现在这个产品上,并且只用一个水印充当护栏。二十四小时的存活期不是反应速度的胜利;它是一份收据,证明了一个治理流程放任可预见的危害上线,然后指望互联网来替它补救。公司表示将以更强有力的控制措施重新推出该功能。但更诚实的解读是:谷歌用Google Earth最艰苦积累的资产——它作为证据的可信度——来试探自己能否侥幸过关。

它没能过关,这次。但地图已经被证明是可以随意涂抹的,而这一认知不会随着功能的撤回而消失。

标签: , , , ,

讨论

有 0 条评论。