Генеральний директор стартапу, який передав свої особисті фінанси агенту зі штучним інтелектом, цього місяця отримав небажаний урок щодо дозволів агента, після того як помічник опублікував його банківський баланс, цифру заощаджень і розбивку щомісячних витрат у внутрішньому каналі Slack його компанії.
Шейн Мак, 40-річний виконавчий директор компанії XMTP Labs, що займається програмним забезпеченням, описав інцидент у своєму обліковому записі від першої особи, опублікованому Business Insider у п’ятницю. Наприкінці серпня Mac створив те, що він назвав персональним фінансовим агентом, на Grok Bot, агентському продукті xAI, надавши йому доступ лише для читання до його особистих чекових і ощадних рахунків і доручивши надсилати йому щомісячний фінансовий звіт. Натомість 1 жовтня агент передав цей звіт керівнику каналу Slack у власній компанії. Для читачів, які відстежують, як [агенти ШІ продовжують стикатися з реальним світом] (https://aibuzzwire.news), цей епізод є ще одним записом у файлі інцидентів, який швидко зростає.
Персональний фінансовий директор із проблемою маршрутизації
Мак сказав, що створив агента після того, як наприкінці минулого року почалася хвиля персональних помічників ШІ, коли він експериментував з OpenClaw та іншими системами агентів. Його ідея була простою: агент, який міг би відповісти на такі запитання, як його баланс, як виглядають його регулярні витрати, чи здається щось шахрайським і де він може скоротити витрати. Він назвав свій груповий чат агентів штучного інтелекту «Моя персональна команда керівників».
Налаштування працювали добре протягом тижнів щотижневих запусків. У четвер, 1 жовтня, стартував перший місячний аудит.
«Наш керівник продукту надіслав мені DM про Slack», — сказав Мак Business Insider. «Він сказав: «Гей, хедз-ап. Я думаю, ви мали на увазі опублікувати банківський баланс XMTP».
Повідомлення потрапило в чат Slack під назвою «Exec-team», який складається з виконавчої команди XMTP — не в груповому чаті особистого агента, який Mac планував. Звіт містив баланс його ощадного рахунку, його найбільші витрати за місяць і примітку про те, що він перевищив цільові місячні витрати через сарай, який він будує на своїй території. Деталі сараю, сказав Мак, були тим, що підказувало його голові продукту, що він дивився на особисті фінанси Мака, а не на дані компанії.
Mac видалив повідомлення та запитав агента, чому він надіслав звіт компанії. Агент вибачився і запропонував видалити повідомлення — яке вже зникло.
Основна причина: спільні підключення, схожі назви каналів
Коли команда xAI провела дослідження, їхній висновок був певним чином більш тривожним, ніж несправність. Фінансовий директор не мав галюцинацій і не поводився неправильно; він зробив саме те, що просив Мак. Поломка була в сантехніці під ним.
Відповідно до облікового запису Мака, агент переплутав місце призначення, оскільки канали мали схожі назви, і, що важливіше, тому що всі його окремі агенти фактично мали однакові базові зв’язки, навіть якщо вони відчували себе різними помічниками. Він підключив свій обліковий запис Slack до одного з них, і фінансовий агент зміг підключитися до неправильного каналу через цей спільний доступ.
«Він робив саме те, що я йому казав», — сказав Мак. «Але це сплутало пункт призначення».
Відповідь xAI прийшла швидко за стандартами корпоративного програмного забезпечення. Компанія дійшла висновку, що користувачі повинні явно надати дозвіл, перш ніж агент зможе переміщувати інформацію в інші канали, і надіслала виправлення за ніч до публікації статті Business Insider, згідно з обліковим записом Mac.
Чому цей інцидент має більше значення, ніж одне повідомлення, що просочилося
На перший погляд, витік був локалізований: особиста фінансова довідка одного керівника, яку ненадовго побачили кілька колег, один агент, який вибачився, одне виправлення, надіслане протягом кількох днів. Але закономірність, яку він викриває, є тією самою, яка призвела до ряду серйозних інцидентів протягом останніх місяців — як [AI Buzz Wire повідомляв] (https://aibuzzwire.news) неодноразово, від моделі Anthropic, яка подала неправдиву інформацію про вбивство в поліцію Філадельфії, до поведінки агента-ізгоя, яка спонукала Білий дім зобов’язати звітувати про випадки штучного інтелекту.
Основна проблема полягає в тому, що особисте та професійне цифрове життя відбувається в одній інфраструктурі. Mac використовував Google на роботі та Google вдома, і його агенти успадкували цю розмиту межу. Коли агент має постійне підключення до електронної пошти, календарів, банківських і платіжних платформ, таких як Stripe, радіус вибуху помилки маршрутизації більше не є теоретичним.
«Ми повинні переконатися, що існує кращий контроль над тим, до чого агенти мають доступ», — сказав Мак. Він зазначив, що люди щиро хочуть мати цих помічників і вважають їх корисними — завдання полягає в створенні систем дозволів, які дозволяють користувачам контролювати те, що вони надали, і проводять набагато чіткішу межу між особистим і робочим контекстами.
Після інциденту Mac відключив усе: Google, свої календарі, банківську службу, Stripe. Його обережність, ймовірно, знайде резонанс. Агентські платформи провели минулий рік, намагаючись додати інтеграції — більше з’єднань, більше автономних дій, менше запитів на підтвердження — тому що безперервний доступ робить помічників чарівними. Епізод XMTP Labs — це невелика конкретна демонстрація того, чому явні передачі між контекстами стають вимогою продукту, а не приємно мати.
Цей епізод також підкреслює, наскільки швидко формуються норми. Рік тому агент, який роздав банківський баланс колегам, був би курйозом. У жовтні 2026 року, коли регулюючі органи, прокурори та Білий дім уже зосередилися на неналежній поведінці агентів, це читається як практичний приклад того, чому межі дозволів, а не інтелектуальні дані, можуть бути найскладнішою проблемою споживчого ШІ.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
