AI克隆CEO声音，从医院和银行骗走1.29亿美元

电话那头听起来像老板，紧接着打来的律师电话则像是来自全球最大律所之一的合伙人。曼哈顿联邦检察官称，两人其实都不是真的。他们指控三名男子利用人工智能冒充企业高管和律师，诱骗医院、银行及其他公司的会计人员为根本不存在的机密交易汇款。骗来的钱被兑换成加密货币，再由同伙瓜分。

这起案件的影响远不止那些蒙受损失的公司。没人入侵任何电脑。整个骗局利用的是几乎每个办公室职员都会下意识做的事：相信一个熟悉的声音，并按对方要求提供帮助。企业高管的演讲、业绩电话会和行业会议发言都公开可得，而语音克隆软件可以利用这类音频进行仿制。如果骗子能模仿你的经理，电话就再也无法证明另一端的人究竟是谁。

纽约南区联邦地区法院提交的起诉书指控，41岁的雅各布·索尔（Jacob Soall）居住在西班牙马贝拉和英国；54岁的沙龙·哈赞（Sharon Hazan）来自以色列；42岁的盖伊·谢特里特（Guy Sheetrit）则来自以色列和阿联酋。三人各面临七项指控，包括共谋实施电信诈骗、加重身份盗窃和洗钱。检方称，这伙人从美国及其他国家的公司骗取了约1.29亿美元。

根据起诉书，这套话术几乎没有变化。骗局往往从一封通过DocuSign等电子签名服务发送的邮件开始，邮件看起来像是由目标公司的首席执行官本人发出，要求对方协助处理一笔秘密交易，并附上一份保密协议。随后便是电话：据称，同伙利用人工智能模仿高管的声音，有时还会仿造其面容。假CEO会把员工转交给假律师，而他们通常会冒用一家顶级律所欧洲办公室真实律师的姓名。检方称，索尔还留有一份手写话术，标题是“Lawyer Call”，借助保密要求和内幕交易规定，阻止员工与同事谈论此事。

起诉文件没有公布受害者的姓名，但列出的损失金额几乎涵盖了各行各业。密苏里州一家医疗系统汇出482万9580美元；罗得岛州一家银行损失268万4580美元，加利福尼亚州一家医疗系统损失296万8497美元。英国一家金融科技公司损失1157万8474美元，马萨诸塞州一家共同基金公司损失463万9918美元，佛罗里达州一家宠物食品公司损失524万2747美元。资金先后流入美国、西班牙、葡萄牙、希腊、阿联酋、新加坡、奥地利、斯洛伐克和中国的账户，之后被兑换成加密货币。

有一个目标躲过了骗局。检方称，纽约一家大型投资银行的员工批准了一笔约285万美元的付款，但银行后台部门在电汇款项发出前拦截了交易。奏效的防线不是深度伪造检测器，而是另一双人眼。

人工智能是这类犯罪中较新的部分。美国司法部在公告中称相关工具具有“超级智能”，而起诉书本身使用的是“人工智能”一词；公开文件中没有任何内容表明，涉案技术超出了市面上可以买到的声音和面部克隆工具。除此之外，这仍是老套路：伪造高管邮件、通过多个国家的账户转移资金，然后洗钱。检方称，哈赞曾在2008年被同一家法院判定犯有共谋实施银行诈骗罪；他还吹嘘自己三年内洗钱超过4亿美元，并自称“在全世界排名第一”。目前这些都只是指控，三人均未被定罪；检方也没有说明追回了多少资金，或涉案人员使用了哪些克隆工具。

企业早已见识过类似风险。工程公司Arup在2024年损失约2500万美元，起因是香港一名员工参加了一场视频会议，其他与会者其实都是深度伪造影像。常规建议并没有改变：用已有的电话号码回拨给高管；大额转账必须由第二人审批；把要求保密视为危险信号。美国联邦检察官杰米·麦克唐纳（Jamie McDonald）表示：“我鼓励个人和商界考虑如何更好地保护自己，防范新兴的、由SI技术赋能的犯罪威胁。”

据称，这场共谋至少从2024年7月持续到2026年2月。索尔于6月17日在西班牙被捕，哈赞于8月5日在西班牙被捕，谢特里特则于9月7日在英国被捕。起诉书在11月第一周解封，目前针对三人的引渡请求仍在处理中。电信诈骗和洗钱罪的最高刑罚均为20年监禁；联邦调查局正通过举报页面呼吁其他可能的受害者站出来。

那家保住资金的银行，并没有更先进的AI。它只是有一名后台员工在电汇发出前看了一眼。

标签: Folarin Balogun, Baker Mayfield, Meghan Markle, 网络安全, 深度伪造, 声音克隆, 美国司法部

AI克隆CEO声音，从医院和银行骗走1.29亿美元

更多类似内容

八十名英国演员告诉首相安迪·伯纳姆：三秒音频就足以窃取一名演员的声音

窃密木马Volta翻查Gmail收据，再让AI评估受害者“值多少钱”

Gemini 3.8 Live Avatar给AI客服一张脸价格未公布

OpenAI新语音模型把推理放进音频回路本身，过去暴露AI身份的那段沉默不见了

人们向AI求助心理健康，因为它会回答，而不是因为它有用

美国三家大型出版社被曝用ChatGPT写图书文案

讨论