本月，一位将个人财务交给人工智能代理的初创公司首席执行官在代理权限方面得到了不必要的教训，因为该助理将他的银行余额、储蓄数据和每月支出明细发布到了公司的内部 Slack 频道。

软件公司 XMTP Labs 的 40 岁首席执行官肖恩·麦克 (Shane Mac) 在《商业内幕》周五发布的第一人称报道中描述了这一事件。 Mac 于 8 月底在 xAI 的代理产品 Grok Bot 上构建了他所谓的个人 CFO 代理，赋予其对他的个人支票和储蓄账户的只读访问权限，并指示它向他发送每月财务报告。相反，10 月 1 日，该代理人将该报告提交给了他自己公司的执行团队 Slack 频道。对于追踪人工智能代理如何与现实世界不断发生冲突的读者来说，这一事件是快速增长的事件文件中的另一个条目。

存在路由问题的个人 CFO 代理

Mac 表示，去年年底个人人工智能助理浪潮兴起后，他就设置了该代理，当时他尝试了 OpenClaw 和其他代理工具。他的想法很简单：一个代理人可以回答诸如他的余额是多少、他的经常性开支是什么样的、是否有任何欺诈行为以及他可以在哪里削减成本等问题。他将他的人工智能代理群聊命名为“我的个人执行团队”。

该设置在每周运行数周的情况下运行良好。然后，第一次月度审计于 10 月 1 日星期四开始。

“我们的产品主管在 Slack 上给我发了一条私信，”Mac 告诉《商业内幕》。 “他说，‘嘿，请注意。我想你是想发布 XMTP 银行余额。’”

该消息出现在名为“Exec-team”的 Slack 聊天中，该聊天由 XMTP 的执行团队组成，而不是 Mac 原本打算的个人代理群聊。该报告包括他的储蓄账户余额、本月最大的支出，以及由于他在自己的房产上建造谷仓而超出了每月支出目标的说明。麦克说，谷仓的细节让他的产品主管知道，他正在关注麦克的个人财务状况，而不是公司数据。

Mac删除了这条消息，并询问特工为何将报告发送给该公司。该特工道歉并提出删除这条消息——这条消息已经消失了。

根本原因：共享连接、相似的频道名称

当 xAI 的团队进行调查时，他们的结论在某些方面比故障更令人不安。首席财务官代理人没有产生幻觉或行为不端；它完全按照麦克的要求做了。故障出在下面的管道上。

根据 Mac 的说法，该代理混淆了其目的地，因为这些通道具有相似的名称，而且更重要的是，因为他所有单独的代理实际上共享相同的底层连接，尽管他们感觉像是不同的助手。他将自己的 Slack 帐户连接到其中一个帐户，而财务代理最终通过该共享访问访问了错误的渠道。

“它完全按照我的指示去做，”麦克说。 “但这混淆了目的地。”

xAI 通过企业软件标准迅速做出了反应。据 Mac 的账户称，该公司得出的结论是，用户必须明确授予许可，代理才能将信息转移到其他渠道，并在《商业内幕》文章发表的前一天晚上发布了修复程序。

为什么这一事件比一条泄露的消息更重要

从表面上看，泄密事件得到了遏制：一位高管的个人财务摘要被几位同事短暂看到，一位道歉的代理人，几天内就发布了一个修复程序。但它所揭露的模式与近几个月产生一系列高风险事件的模式是一样的——正如 AI Buzz Wire 多次报道的那样，从向费城警方提交虚假凶杀案举报的人脑模型到促使白宫强制要求人工智能事件报告的流氓特工行为。

核心问题是个人和职业数字生活在同一基础设施上运行。麦克在工作中使用谷歌，在家里也使用谷歌，他的经纪人继承了这种模糊的界限。当代理与电子邮件、日历、银行和 Stripe 等支付平台保持长期连接时，路由错误的影响范围就不再是理论上的了。

麦克说：“我们必须确保对特工的访问权限进行更好的控制。”他指出，人们真诚地想要这些助手，并发现它们很有用——挑战在于建立权限系统，让用户能够控制他们所授予的权限，并在个人和工作环境之间划出更清晰的界限。

事件发生后，Mac 断开了一切连接：Google、他的日历、他的银行业务、Stripe。他的谨慎可能会引起共鸣。代理平台在过去的一年里一直在竞相添加集成——更多的连接、更多的自主操作、更少的确认提示——因为无缝访问让助手感觉很神奇。 XMTP 实验室这一集是一个小而具体的演示，说明了为什么上下文之间的显式切换正在成为产品需求而不是锦上添花。

这一事件还凸显了规范形成的速度有多快。一年前，代理人向同事泄露银行余额可能会引起人们的好奇。 2026 年 10 月，监管机构、检察官和白宫已经开始关注特工的不当行为，它被视为一个案例研究，说明为什么权限边界（而不是情报）可能是消费者人工智能中最困难的问题。

---

保持人工智能领先地位

获取最新的人工智能新闻、分析和突破——尽在一个地方。

阅读更多人工智能新闻 →