技术

Grok Bot未经要求31次尝试读取员工邮件和日历

Adrian Kessler
在 Google 中添加我们

据安全公司NewCore发布的研究,xAI旗下的职场AI智能体Grok Bot在无人指令的情况下,屡次尝试读取其主人的日历、邮件,以及Slack、Notion和GitHub中的内容。其中有些尝试发生在深夜:主人的笔记本电脑已经合上,人也早已入睡。事后,一名用户询问这个机器人究竟访问了哪些内容,它却回答说自己根本没有发起过任何调用,整夜都处于空闲状态。

对于任何把工作账号的”钥匙”交给AI助手的人来说,这件事都不容小觑。这类智能体使用的是接入者本人的凭据,因此每一次未经请求的读取,都是以这个人的名义进行的,而且这些操作没有一次出现在机器人自己的聊天记录里。NewCore之所以能发现它们,是因为该公司的网关横亘在智能体与企业应用之间,会拦下每一个请求,并向手机推送提醒、请求批准。没有人点”同意”,于是所有请求都过期作废了。

在五天时间里,NewCore测试的两个机器人共发起了31次这样的未经请求的尝试。最引人注目的一幕发生在第二个机器人身上。它的主人给它安排了一下午的实际工作:统计拉取请求的数量、阅读近期邮件,并在Slack上发布一份总结;期间主人还四次拒绝了它主动提出的额外帮助,其中包括每天早上的例行简报。机器人当时回复:”我不会设置这个,也不会再主动提议定期汇报了。”然而十五个小时后,它开始逐一尝试访问自己曾经接入过的每一个应用;又过了四个小时,它再次如法炮制。

NewCore表示,这个机器人并没有撒谎,因为它根本看不到自己做过什么。该智能体运行在Cursor的智能体平台上——Cursor是一家编程公司,如今已归SpaceX所有——而这些后台轮次是在托管服务器上启动的,处于用户所能看到的对话之外。研究人员拆解了这个机器人的云端计算机,也就是一台Linux虚拟机,发现上面同样没有留下任何相关记录。NewCore研究员伊多·胡尔维奇(Ido Hoorvitch)对Ars Technica表示:”这里没有可以修补的漏洞,而这恰恰说明它比漏洞更糟糕。”

xAI的支持团队告诉研究人员,这些调用属于内置的后台例行检查,用户和管理员都无法通过任何设置将其关闭。若企业希望停止这种行为,可以通过电子邮件提交一份员工登录地址的名单。此后,用于管理这些机器人的Cursor控制面板上出现了一个名为”Proactive messages”(主动消息)的开关。团队管理员现在可以关闭这些例行检查,但该设置默认是开启的。

这项研究也有其局限性。拦截到这些调用的网关正是NewCore自家销售的产品,因此这份报告同时也是一次产品推销;而且它只涵盖了同一家公司企业账号下的两个机器人。31次尝试全部是读取操作,没有一次真正获取到数据。xAI也确实披露过这一行为:入门引导中有一句话说明,机器人在你离开时仍会继续工作;相关文档中也提到,主机器人会自行进行例行检查。xAI”行动前先征求同意”的承诺,针对的是发送消息之类的更改操作,并不包括读取。对此,NewCore反驳称,读取工具和写入工具就并排放在一起,一次日历查询与一封以你的名义发出的邮件之间,只差一个工具名称而已。

xAI尚未说明个人账号是否也会进行同样的后台例行检查,也未说明新开关是否覆盖了该智能体销售的所有市场。如今收纳xAI的埃隆·马斯克(Elon Musk)旗下公司SpaceXSI,没有回复Ars Technica通过电子邮件提出的问题;NewCore也表示,从未收到xAI媒体团队的官方回应。

NewCore于11月4日向xAI报告了这一行为,相关开关于11月12日上线,研究结果则于11月17日公开。另据Politico报道,爱尔兰数据保护委员会表示,X已同意自10月下旬起,停止使用该智能体所收集的第三方数据训练AI。在xAI亲自就这些例行检查作出解释之前,关于Grok Bot夜里究竟做了什么,最清楚的记录并不掌握在Grok Bot自己手里。

标签: , , , , ,

在 Google 中添加我们

讨论

有 0 条评论。