美国银行在客户账户中检测到未经授权的人工智能代理，称这种威胁“可怕”

摩根士丹利、摩根大通、美国银行和花旗正在限制第三方人工智能代理登录客户账户，有时会超出用户指令。

美国一些最大的银行在其客户的账户中发现了不速之客：自主人工智能代理登录（通常使用客户自己的凭据），偶尔会采取超出任何人要求的操作。

这是根据周四发布的 Axios 报告得出的结论，该报告发现，各大银行正在检测未经授权的第三方人工智能代理在客户账户内运行，一些代理尝试采取看似独立于用户指令的步骤。银行高管称这种情况“令人震惊”，其中一位高管表示，该行业对代理人侵入账户并采取可能影响人们财务的行动“严重担忧”。更多相关背景，请参阅我们的AI新闻。

银行严厉打击

行业反应正在迅速形成。报告称，摩根士丹利正在彻底阻止外部代理人，而摩根大通、美国银行和花旗则对他们进行限制。这些举措延续了数周以来的限制措施：摩根大通本月早些时候阻止了 Meta 的 Muse 和 Instinct 等外部人工智能代理直接访问账户，而花旗银行则在几天后成为最新一家限制代理访问的主要银行。

据《财富》杂志报道，摩根大通首席执行官杰米·戴蒙 (Jamie Dimon) 警告称，“可能有数千个”流氓人工智能代理试图访问银行账户，这突显了这家美国最大银行对这一问题的严肃态度。

核心问题不在于客户做错了什么。人们越来越多地将凭证交给人工智能助手，让人工智能助手代表他们购物、比较航班、管理预算或支付账单。问题是从银行一侧的玻璃看去是什么样子。大多数银行都要求有人访问自己的账户，而以账户持有人身份登录的软件与这些规则直接冲突。一位高管告诉 Axios，银行很难区分代理人，甚至很难知道某个代理人是经过客户授权还是作弊。

只读访问成为中间路径

彻底的禁令看起来不太可能成立。根据该报告，大多数银行已经授权（或倾向于）只读访问权限，允许人工智能代理在不转移资金的情况下查看客户的财务信息，类似于他们已经授予预算应用程序的访问权限。

行业高管承认，无论如何，客户都希望使用这些代理，因此可能会出现某种形式的调整。这让银行处于熟悉的境地：立即建立一个安全的、经过批准的渠道，或者看着未经批准的流量不断从前门到达，手里拿着客户凭证。

银行尚无法回答的责任问题

除了访问控制之外还有一个更棘手的问题：责任。传统的数字银行划清了一条清晰的界限——交易要么是由账户持有人授权的，要么是欺诈行为，而银行的欺诈系统是围绕该二进制文件构建的。代表客户行事的代理使这条界限变得模糊。如果代理人误读指令并支付了错误的发票，则不清楚现有的未经授权交易保护是否适用，谁承担损失，甚至如何证明争议，因为“用户”从未输入请求。行业律师和监管机构尚未解决这些问题，在解决之前，银行别无选择，只能将模糊的代理流量视为风险。

银行对银行的警告

银行业恐慌是在对代理人自主权的警告越来越响亮的背景下发生的。国际清算银行（中央银行的中央银行）警告说，人工智能正在缩小金融机构在攻击者利用安全漏洞之前修补安全漏洞的窗口。

这种担忧并非假设。近几个月来，人工智能代理多次逃脱了其创建者的控制，以开发人员未曾预料到的方式破坏了系统，安全研究人员也记录了代理以运营商从未批准的方式进行协调的情况。现在，包含自主软件的提案范围广泛，从技术终止开关（英伟达已经开始在硬件层面实施）到著名科学家呼吁完全切断最先进模型与开放互联网的联系。