商业与金融

Signal总裁Meredith Whittaker:为何把手机里的AI智能体视为后门

Penelope H. Fritz
在 Google 中添加我们
Meredith Whittaker
Meredith Whittaker
Photo: Martin Kraft / CC BY-SA 4.0, via Wikimedia Commons
出生2000
职业Signal基金会总裁
获奖赫尔穆特·舒密特未来奖

周五,Signal开启了一项大多数用户永远不会留意的设置。在新款iPhone上,这款应用现在会阻止苹果的Siri AI读取聊天窗口内的屏幕内容,并默认禁止截屏;在安卓设备上,只要谷歌的Gemini试图“查看”,应用就会关闭窗口。Signal总裁梅雷迪斯·惠特克(Meredith Whittaker)亲自宣布了这一变更,并在同一篇帖子中承认,这还远远不够。苹果、谷歌和微软正在接入各自操作系统的智能体,依然可以访问设备上存储的内容,而在Mac上,Signal根本无法阻止它们。她称这对自己执掌的这款应用构成了生存威胁。

这场斗争正合她的脾性,同时也暴露出她职业生涯核心的两难。惠特克在谷歌内部工作了十多年,之后成为这套为谷歌提供收入的商业模式最尖锐的批评者之一。如今,她领导着一家拒绝收集数据、不出售任何东西、依靠捐赠维持运转的非营利即时通讯应用,却不得不生存在由那些公司制造的手机上,而她正是把这些公司的AI产品称为鲁莽。Signal可以对一条消息进行端到端加密,却无法对操作系统加密。

她进入科技行业的路径出人意料。惠特克在加州大学伯克利分校学习修辞学和英国文学,2006年加入谷歌,在那里待了十三年。她创立了谷歌的开放研究(Open Research)团队,与学者和开源开发者合作开展网络中立性测量、隐私与安全方面的工作,并联合创办了M-Lab(Measurement Lab,测量实验室)。这个开放网络如今已成为互联网性能数据最大的公共来源。

测量工作让她学会不轻信缺乏证据的说法。2017年,在白宫主办的一场研讨会之后,她与研究员凯特·克劳福德(Kate Crawford)在纽约大学共同创立了AI Now Institute。该研究所关注的是人工智能对被使用者造成的影响,而不是它在演示中能做什么;其报告反复回到同一个论点:更深层的问题与其说在于带有偏见的代码,不如说在于这些系统归谁所有、又被对准了谁。她后来担任纽约大学Minderoo研究教授和AI Now的学院主任,如今则是该机构的首席顾问。

这一论点使她与雇主走上了对撞的道路。2018年,她起草了一份反对Project Maven的请愿书。这是五角大楼的一份合同,谷歌依约为美国无人机项目开发机器视觉工具。超过三千名员工签名,谷歌没有续签该合同。几个月后,她成为“谷歌罢工”(Google Walkout)的核心组织者之一:有报道称公司向被指性不端行为的高管安迪·鲁宾(Andy Rubin)支付了9000万美元的离职补偿,随后两万多名员工离开了工位。惠特克后来表示,谷歌对她进行了报复,要求她放弃在AI Now的工作。2019年7月,她离开了谷歌。

同年夏天,她向众议院科学委员会表示,AI系统可能固化偏见,并呼吁为科技行业员工提供举报人保护。2020年初,她在众议院监督委员会上走得更远,指出人脸识别的问题不仅在于准确性,还在于部署者对权力较小者所施加的权力,并呼吁停止使用这项技术。2021年11月起,她出任联邦贸易委员会主席莉娜·汗(Lina Khan)的人工智能高级顾问。

2022年9月,Signal聘请她担任首任总裁,这一职位是与应用领导层共同设立的。Signal没有广告,也没有可供出售的用户数据,惠特克曾坦率地表示,运营它每年大约需要5000万美元。她任期之初的大量精力,都花在了解释两个问题上:为什么一个几乎不保留用户信息的通讯应用仍然需要庞大的工程团队和稳定的捐助者,以及为什么另一种选择就是以监控来换取收入。

批评者指出了这一模式的局限。Signal的加密协议早已保护着WhatsApp的对话,但这款应用本身的规模,仅仅是基于其密码技术打造的Meta产品的一小部分;惠特克对各国政府的筹码,很大程度上只靠一种威胁:宁可退出一个国家,也不削弱加密。她曾把这一威胁指向欧盟,并在6月再次指向英国。由于靠捐赠运营的应用无需安抚股东,这一威胁是可信的,但这也使Signal对监管者的回应更接近流亡,而非谈判。这款应用获得最大关注的那起事件也显示出类似的落差。2025年3月,人们发现美国高级官员在一个Signal群组中讨论军事计划,而该群组意外地加入了一名记者;惠特克为这套加密辩护,称其为私密通信的黄金标准,同时指出,没有任何应用能阻止人们把错误的人拉进聊天。如此规模的曝光很难拒绝,也更难掌控。

此后,她的关注点已从政府转向制造设备的公司。1月在达沃斯,她称操作系统层面的AI智能体对加密服务极其危险,并警告说,被授予root权限的系统可能被劫持。6月接受彭博社采访时,她说聊天机器人不是你的朋友,并把一个能接触她支付信息和Signal账号的助手形容为一种后门。本周,路透社与Signal和AI Now的工作人员共同进行的测试发现,Meta的Muse智能体在安卓上通过通知访问权限读取Signal聊天内容,惠特克称拥有这种权限的智能体在技术上是鲁莽的。

2023年,《时代》周刊将她列入首份人工智能领域最具影响力人物名单。2024年5月,她在汉堡获得赫尔穆特·施密特未来奖(Helmut Schmidt Future Prize),该奖由《时代周报》(Die Zeit)及其合作伙伴颁发,以表彰她在民主与技术领域的工作;2025年7月,她加入德国媒体集团Hubert Burda Media的董事会。

接下来会发生什么,与其说取决于Signal,不如说取决于苹果、谷歌和微软。惠特克已向这三家公司提出请求,要求提供一种有据可查的方式,让应用能够使AI智能体无法触及它们的屏幕和数据;Signal表示,对谷歌和苹果正在回应持谨慎乐观态度。如果它们真的做出来,她本周开启的这道屏障就会成为行业默认做法。如果没有,这款市场上最私密的通讯应用将继续针对自己所运行的手机推出各种变通方案,而它的总裁也将继续公开地这样说。

标签: , , , , , , ,

在 Google 中添加我们

讨论

有 0 条评论。