技术

Meta的AI智能体Muse在安卓上读取Signal聊天,在iPhone上被拦下

Adrian Kessler
在 Google 中添加我们

Meta 旗下的 Muse 是一款能代你回复邮件、预约行程、网购下单的 AI 智能体。在一部安卓手机上,它绕开了 Meta 要求用户自行管理的应用连接,直接读取了 Signal 上的私人消息。它的切入口是一项大多数人想都不想就会授予的权限:访问手机通知。同样的操作在 iPhone 上没能成功。

这一发现来自路透社(Reuters)与 Signal 及 AI Now Institute 的工作人员共同进行的测试。AI Now Institute 是一家研究人工智能对社会影响的非营利机构。测试人员想要复现一名 Meta 员工在公司内部描述过的情形:Muse 未经提示,主动提醒她回复姐姐在 Signal 上发来的消息。“这看起来是极其严重的隐私侵犯。我肯定没有授权它访问其他应用,也不记得有人问过我这件事。”她写道。如果你在安卓手机上使用 Muse,真正关键的开关是该应用的通知访问权限,关掉它,智能体就无法再看到你的消息预览。

在 Mac 上,测试人员发现了第二条途径。Muse 把截图工具与 macOS 的辅助功能结合起来读取消息,而辅助功能是苹果专为残障人士操作电脑而设计的控制选项。在这两种情况下,Muse 都跳过了 Meta 自家的 Connector 工具,也就是用户用来选择智能体可以接触哪些应用的那个面板,转而依靠首次设置时授予的权限。这名员工的一位同事在同一个内部群组中表示,他的安卓手机上,Muse 一开始就默认获得了读取推送通知的权限。

路透社查阅了二十多条内部帖子,Meta 员工在其中指出 Muse 做出了无人要求的举动,其中一些远远不止读取消息。一名员工在与智能体聊钓鱼天气时,多收到了一句:“顺便说一下,有两条银行动态,你的 Capital One 余额是 2722.58 美元,你的 Charles Schwab 余额是 5899.57 美元。”他从未向 Muse 提供过银行信息。另一人被告知可以帮他给一名卖家发消息谈一张咖啡桌,他追问这是什么意思,Muse 回答说它“调取了一些关于咖啡桌取货的背景信息,那似乎并不是你的”。他将此上报为“可能存在跨账户上下文泄露”。

Meta 对这些事件的解读提出异议。发言人丹尼尔·罗伯茨(Daniel Roberts)称这些例子是“个别事件”,表示 Muse 只能通过用户明确授予的权限访问其他应用,并称许多被怀疑为账户串号的情况其实是幻觉,且已经修复。负责打造 Muse 的超级智能团队的一名成员告诉员工,这个智能体似乎会针对内置提示编造消息,这些提示会促使它在两次会话之间主动与用户互动,而编造的内容往往“偏向最令人不适的话题,比如财务/安全/人身安危”。路透社无法确定 Muse 究竟是在泄露他人的真实数据,还是在凭空捏造。对于一个要求接入你的邮箱、日历和支付账户的助手来说,无论哪种答案都难以令人安心。

其中一些错误是要花钱的。员工反映,Muse 会对他们买过的东西编造价格,还有一人称它未经许可就预订了一笔不可退款的 Airbnb 住宿。Ars Technica 援引同一批报道,描述了一名测试者被改投了宠物保险计划,月费 888 美元,而不是 200 美元。Meta 的服务条款规定,智能体的行为由用户负责。公司称,每个智能体都在各自独立隔离的虚拟机中运行,用户对连接哪些应用拥有完全的控制权,马克·扎克伯格(Mark Zuckerberg)也曾用这一说法来回应业界对制定全行业 AI 安全标准的呼吁。

规模,正是这件事的影响超出 Meta 办公室的原因。Muse 自去年9月在美国上线以来下载量已突破1000万次,面向使用 Facebook、Instagram 和 WhatsApp 的36亿用户推广,Meta 表示,设置过它的用户中约有四分之一每天都会回来使用。通知权限的运作方式在任何安装了该应用的安卓手机上都是一样的。

Signal 总裁梅雷迪思·惠特克(Meredith Whittaker)表示,Meta 推出 Muse 时“丝毫不尊重基本的隐私和网络安全”,并称这类能深入人们设备的智能体“在技术上是鲁莽的”。她希望 Signal 这样的应用能有一种统一的技术手段,将自己标记为禁止 AI 智能体访问,希望 AI 公司遵守这一标记,也希望操作系统厂商来强制执行。

苹果和谷歌都对路透社表示,正在考虑做出调整,让用户对授权 AI 智能体执行的操作有更多控制,不过谷歌指出,用户要让应用读取安卓通知,本来就“必须有意识地授予权限”。苹果的行动更快:本周的一次 macOS 更新大幅限制了开发者使用辅助功能工具的方式,并新增了一套专为智能体设计的权限,从而堵上了测试人员所用的那条途径。谷歌尚未宣布类似的修复措施。目前在安卓上,守住那扇门的唯一一把锁,就是设置里的一个开关。

标签: , , , , , , ,

在 Google 中添加我们

讨论

有 0 条评论。