技术

富国银行新条款规定AI代理出错责任由客户承担

Susan Hill
在 Google 中添加我们

富国银行(Wells Fargo)正在修订其手机应用和网站的用户协议,规定任何外部AI代理在客户账户内的操作,一律视为客户本人的行为。该行表示,将不经核实地执行代理发出的指令,不会监控代理的操作,并将代理的错误视为客户自己的错误。新条款用大写字母写道:“使用任何AI代理,风险由您自行承担。”

对于那些把银行密码交给购物机器人或理财助手的人来说,软件出错时由谁买单,这一点就变了。重复付款、同一件商品下单十次,或是被暗藏陷阱的网页诱发的转账,除非法律另有规定,否则都将由账户持有人而非银行承担。客户无需签署任何文件:变更生效后继续使用网上银行的客户,即视为已接受新条款。布赖恩特大学(Bryant University)研究消费者行为的营销学教授凯西·金(Kacy Kim)对《连线》(Wired)表示:“消费者授权的是目标,而不是每一次点击。”

这一定义相当宽泛。富国银行把任何代表他人采取“自主、半自主或非自主行动”的软件都称为“AI代理”,其范围远远超出了作为个人助理出售的聊天机器人。无论是代理误解指令、做了无人要求的事、依据“被操纵的输入”行事,还是越权操作,代价都由客户承担。客户允许进入账户的其他人所使用的代理,同样适用这些规则,未满18岁的人则完全不得连接代理。

关闭代理同样是客户自己的事。条款规定,客户必须自行撤销代理的访问权限,保留已撤销的证据,并在银行要求时提交。在通知富国银行之前,客户仍须为代理的一切行为负责。这与美国电子转账规则“Regulation E”的逻辑一致:该规则规定,由你交出银行卡或登录信息的人所发起的转账,在你通知银行停止之前,都视为已获授权。

富国银行仍然允许代理接入,这使它处在一个正在关门的行业中较为宽松的一端。据《连线》报道,摩根大通(JPMorgan Chase)修改条款,禁止使用客户凭证登录的第三方代理;美国银行(Bank of America)提醒客户不要与代理共享登录信息;花旗银行(Citibank)和PNC也各自增加了警示。Axios报道称,摩根士丹利(Morgan Stanley)已阻止第三方代理进入其平台。富国银行则保留了切断代理所用连接、或直接封禁任何代理的权利。

这种抵制已不限于银行业。亚马逊(Amazon)已阻止Meta的Muse代理在其商店下单,美国联合航空(United Airlines)则表示,个人机器人将无法为旅客购买机票。在《连线》的报道中,美国运通(American Express)是少有的例外:该公司表示,如果购物者无法从零售商处追回款项,代理的某些失误(例如某件商品订购过量)未来可能有资格获得报销。

新措辞在实践中究竟会改变多少,目前尚不明确。条款中多处反复提到服从“法律或法规”,而对于客户开启的代理做了客户从未想过的事时,损失该由谁承担,目前还没有法院作出裁决。受众规模也很小。Forrester分析师苏查丽塔·科达利(Sucharita Kodali)对《连线》表示:“我们所有的数据都显示,大多数人连代理是什么都不知道,更谈不上使用。”而且银行并非反对代理本身。弗吉尼亚大学(University of Virginia)研究消费心理学和AI的教授卢卡·西安(Luca Cian)说:“它们对外部代理关上了门,同时在打造自己的代理。”富国银行自己的生成式AI助手已处理了超过十亿次交互。

新条款仅适用于富国银行美国网上银行和手机银行的客户,而且目前点名的银行全部来自美国。在欧盟,支付规则已经推动那些读取或转移资金的应用改用银行提供的持牌连接,而不是共享密码,这就让以客户身份登录的代理几乎没有多少空间。

更新后的富国银行协议将于11月24日(周二)生效,适用于在该日之后继续使用该行网站或应用的所有人。摩根大通对凭证登录代理的禁令于10月下旬出台,美国银行也在同一天发出了警示。富国银行还保留了要求客户向银行登记其代理的选项,这样银行就会拥有一份名单,记录那些它声称不会监控的机器人。

标签: , , , , ,

在 Google 中添加我们

讨论

有 0 条评论。