AI エージェントに個人資産を渡した新興企業の CEO は、今月、AI エージェントが銀行残高、貯蓄額、毎月の支出の内訳を社内の Slack チャネルに投稿したため、エージェントの権限に関して望まない教訓を得ました。
ソフトウェア会社XMTP Labsのシェーン・マック最高経営責任者（40）は金曜日、Business Insiderに掲載された一人称の中でこの事件について語った。マック氏は8月下旬、xAIのエージェント製品であるGrok Bot上に個人CFOエージェントと呼ぶものを構築し、個人当座預金口座と普通預金口座への読み取り専用アクセスを与え、月次財務報告書を送信するよう指示していた。代わりに、10 月 1 日に、エージェントはそのレポートを自分の会社の経営陣チームの Slack チャネルに配信しました。 [AI エージェントが現実世界と衝突し続ける] (https://aibuzzwire.news) の様子を追跡している読者にとって、このエピソードは、急速に増加している事件ファイルのもう 1 つのエントリです。
ルーティングの問題を抱えた個人の CFO エージェント
マック氏は、パーソナル AI アシスタントの波が始まった昨年末にこのエージェントを設立し、その際に OpenClaw やその他のエージェントのハーネスを実験したと述べた。彼のアイデアは単純明快でした。それは、残高はいくらか、経常経費はどのようなものか、不正行為がないかどうか、コストを削減できる場所はどこかなどの質問に答えられるエージェントです。彼は、AI エージェントのグループ チャットを「My Personal Exec Team」と名付けました。
このセットアップは、数週間にわたる毎週の実行でもうまく機能しました。その後、最初の月例監査が 10 月 1 日木曜日に始まりました。
「当社の製品責任者が Slack で DM を送ってきました」と Mac 氏は Business Insider に語った。 「彼はこう言いました。『おい、注意。XMTP 銀行残高を転記するつもりだったと思うよ。』
このメッセージは、XMTP の経営陣で構成される「Exec-team」というタイトルの Slack チャットに到達しました。Mac が意図していた個人エージェントのグループ チャットではありませんでした。報告書には、彼の普通預金残高、その月の最大の出費、そして敷地内に納屋を建てているため月々の支出目標を超えているというメモが含まれていた。マック氏によると、納屋の詳細を見て、製品責任者が会社の数字ではなく個人の財務状況を見ていることに気づいたという。
マックはメッセージを削除し、エージェントになぜ報告書を会社に送ったのか尋ねた。エージェントは謝罪し、メッセージを削除するよう提案しましたが、メッセージはすでに削除されていました。
根本原因: 共有接続、類似したチャネル名
xAI のチームが調査したところ、ある意味、誤動作よりも不安をもたらす結論が得られました。 CFO エージェントは幻覚を見たり、不正行為をしたりしていませんでした。それはまさにマックが要求したことを実行したのだ。故障の原因はその下の配管でした。
マックの説明によると、各チャンネルの名前が似ていたため、そしてさらに重要なことに、別個のエージェント全員が別個のアシスタントのように感じていたにもかかわらず、実際には同じ基礎的なつながりを共有していたため、エージェントは目的地を混同したという。彼は自分の Slack アカウントをそのうちの 1 つに接続していましたが、金融エージェントはその共有アクセスを通じて間違ったチャネルにアクセスすることができてしまいました。
「私が指示したことを正確に実行していました」とマック氏は語った。 「しかし、それは目的地を混乱させました。」
xAI の対応は、エンタープライズ ソフトウェア標準に従って迅速に行われました。 Mac氏のアカウントによると、同社はエージェントが情報を他のチャネルに移動する前にユーザーが明示的に許可を与える必要があると結論付け、Business Insiderの記事が公開される前夜に修正版を出荷したという。
この事件が 1 つの漏洩メッセージ以上に重要である理由
表面上、漏洩は封じ込められたように見えた。ある幹部の個人的な財務概要が数人の同僚に簡単に閲覧され、1人の担当者が謝罪し、1件の修正が数日以内に発送された。しかし、それが暴露するパターンは、フィラデルフィア警察に虚偽の殺人情報を提出した人間モデルから、ホワイトハウスに AI 事件報告を義務付けるきっかけとなった不正エージェントの行動まで、AI Buzz Wire が繰り返し報告 しているように、ここ数カ月で一連の危険な事件を引き起こしたものと同じである。
中心的な問題は、個人と職業上のデジタル ライフが同じインフラストラクチャ上で実行されることです。マックは職場でも自宅でも Google を使用しており、彼のエージェントはその曖昧な境界線を引き継いでいました。エージェントが電子メール、カレンダー、銀行取引、Stripe などの支払いプラットフォームへの常時接続を保持している場合、ルーティングミスの爆発範囲はもはや理論上のものではありません。
「エージェントが何にアクセスできるかについて、より適切な制御ができるようにする必要がある」とマック氏は語った。同氏は、人々はこうしたアシスタントを心から望んでおり、役立つと感じていると指摘した。課題は、ユーザーが自分が付与した内容を制御できる権限システムを構築し、個人的なコンテキストと仕事のコンテキストの間により明確な線を引くことだ。
事件の後、Mac は Google、カレンダー、銀行業務、Stripe などすべてを切断しました。彼の警戒心は反響を呼びそうだ。エージェント プラットフォームは、シームレスなアクセスこそがアシスタントに魔法のようなものを感じさせるものであるため、過去 1 年間、統合機能の追加 (より多くの接続、より多くの自律的なアクション、より少ない確認プロンプト) の追加に競い合ってきました。 XMTP Labs のエピソードは、コンテキスト間の明示的なハンドオフが、あると便利なものではなく、製品要件になりつつある理由を示す、小規模で具体的なデモンストレーションです。
このエピソードはまた、規範がいかに急速に形成されているかを強調しています。 1 年前、エージェントが銀行残高を同僚に漏らすなんて、好奇の対象だっただろう。 2026 年 10 月、規制当局、検察、ホワイトハウスはすでにエージェントの不正行為に焦点を当てていたが、この報告書は、なぜインテリジェンスではなく許可の境界が消費者 AI において最も難しい問題となるのかを示す事例研究となっている。
---
AI の先を行く最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。
AI ニュースをもっと読む→
