Dyrektor generalny startupu, który przekazał swoje finanse osobiste agentowi AI, dostał w tym miesiącu niechcianą lekcję na temat uprawnień agenta, po tym jak asystent opublikował saldo bankowe, kwotę oszczędności i zestawienie miesięcznych wydatków na wewnętrznym kanale swojej firmy na Slacku.
Shane Mac, 40-letni dyrektor naczelny firmy programistycznej XMTP Labs, opisał incydent w pierwszoosobowej relacji opublikowanej w piątek przez Business Insider. Pod koniec sierpnia Mac stworzył tak zwanego osobistego agenta dyrektora finansowego na Grok Bocie, produkcie agenta xAI, zapewniając mu dostęp tylko do odczytu do jego osobistych rachunków bieżących i oszczędnościowych oraz instruując go, aby przesyłał mu miesięczne raporty finansowe. Zamiast tego 1 października agent dostarczył ten raport do kanału Slack zespołu kierowniczego w swojej własnej firmie. Dla czytelników śledzących, jak agenci AI kolidują z prawdziwym światem, ten odcinek jest kolejnym wpisem w szybko rosnącej bazie incydentów.
Osobisty agent finansowy mający problem z routingiem
Mac powiedział, że założył agenta po tym, jak pod koniec ubiegłego roku napłynęła fala osobistych asystentów AI, kiedy eksperymentował z OpenClaw i innymi narzędziami agenta. Jego pomysł był prosty: agent, który mógłby odpowiedzieć na pytania takie jak saldo, jak wyglądają jego powtarzające się wydatki, czy coś wydaje się oszukańcze i gdzie może obciąć koszty. Nazwał swój czat grupowy agentów AI „Mój osobisty zespół wykonawczy”.
Konfiguracja działała dobrze przez tygodnie cotygodniowych biegów. Następnie w czwartek, 1 października, rozpoczął się pierwszy miesięczny audyt.
„Nasz szef produktu wysłał mi wiadomość prywatną na Slacku” – powiedział Mac Business Insider. „Powiedział: «Hej, uwaga. Myślę, że miałeś na myśli zaksięgowanie salda bankowego XMTP.»”
Wiadomość wylądowała na czacie Slack zatytułowanym „Exec-team”, w którym uczestniczy zespół wykonawczy XMTP – a nie na czacie grupowym z agentami osobistymi, o którym myślał Mac. Raport zawierał saldo konta oszczędnościowego, największe wydatki w miesiącu oraz informację, że przekroczył miesięczny cel wydatków ze względu na stodołę, którą buduje na swojej posesji. Jak powiedział Mac, szczegół stodoły dał mu do zrozumienia, że patrzy na finanse osobiste Maca, a nie na dane firmy.
Mac usunął wiadomość i zapytał agenta, dlaczego wysłał raport do firmy. Agent przeprosił i zaproponował usunięcie wiadomości, która już zniknęła.
Główna przyczyna: wspólne połączenia, podobne nazwy kanałów
Kiedy zespół xAI przeprowadził dochodzenie, jego wniosek był pod pewnymi względami bardziej niepokojący niż awaria. Agent dyrektora finansowego nie miał halucynacji ani nie zachowywał się niewłaściwie; zrobił dokładnie to, o co prosił Mac. Awaria wystąpiła w instalacji wodno-kanalizacyjnej pod spodem.
Według relacji Maca agent pomylił miejsce docelowe, ponieważ kanały miały podobne nazwy i – co ważniejsze – ponieważ wszyscy jego agenci w rzeczywistości mieli te same podstawowe powiązania, mimo że sprawiali wrażenie odrębnych asystentów. Połączył swoje konto Slack z jednym z nich i agent finansowy mógł w rezultacie dotrzeć do niewłaściwego kanału poprzez ten współdzielony dostęp.
„Robił dokładnie to, co mu kazałem” – powiedział Mac. „Ale to myliło cel podróży”.
Odpowiedź xAI nadeszła szybko dzięki standardom oprogramowania dla przedsiębiorstw. Firma doszła do wniosku, że użytkownicy muszą wyraźnie udzielić pozwolenia, zanim agent będzie mógł przenieść informacje do innych kanałów, i według konta Mac wysłała poprawkę w noc poprzedzającą publikację artykułu w Business Insider.
Dlaczego ten incydent ma znaczenie więcej niż jedna ujawniona wiadomość
Na pierwszy rzut oka wyciek był ograniczony: osobiste podsumowanie finansowe jednego z dyrektorów zostało pokrótce obejrzane przez garstkę współpracowników, jeden przepraszający agent, a jedna poprawka została wysłana w ciągu kilku dni. Jednak ujawniany przez nią schemat jest ten sam, który doprowadził do szeregu incydentów o wyższej stawce w ostatnich miesiącach – jak wielokrotnie donosiło AI Buzz Wire, począwszy od modelu antropicznego, który złożył fałszywą informację o morderstwie policji w Filadelfii, po zachowanie nieuczciwych agentów, które skłoniło Biały Dom do nakazania raportowania incydentów związanych z sztuczną inteligencją.
Podstawową kwestią jest to, że życie cyfrowe osobiste i zawodowe toczy się w ramach tej samej infrastruktury. Mac korzystał z Google w pracy i Google w domu, a jego agenci odziedziczyli tę niewyraźną granicę. Kiedy agent utrzymuje stałe połączenia z pocztą e-mail, kalendarzami, platformami bankowymi i płatniczymi, takimi jak Stripe, promień wybuchu błędu w routingu nie jest już teoretyczny.
„Musimy zadbać o lepszą kontrolę tego, do czego agenci mają dostęp” – powiedział Mac. Zauważył, że ludzie naprawdę chcą tych asystentów i uważają ich za przydatnych – wyzwaniem jest stworzenie systemów pozwoleń, które pozwolą użytkownikom kontrolować to, czego udzielili, oraz wytyczenie znacznie wyraźniejszej granicy między kontekstem osobistym i służbowym.
Po incydencie Mac odłączył wszystko: Google, swoje kalendarze, swoją bankowość, Stripe. Jego ostrożność prawdopodobnie odbije się szerokim echem. Platformy agentów przez ostatni rok starały się dodawać integracje — więcej połączeń, więcej autonomicznych działań, mniej monitów o potwierdzenie — ponieważ dzięki płynnemu dostępowi asystenci czują się magicznie. Odcinek XMTP Labs to mała, konkretna demonstracja tego, dlaczego wyraźne przełączanie między kontekstami staje się wymogiem produktu, a nie przyjemnością.
Odcinek podkreśla również, jak szybko tworzą się normy. Rok temu agent, który ujawnił współpracownikom saldo bankowe, byłby ciekawostką. W październiku 2026 r., gdy organy regulacyjne, prokuratorzy i Biały Dom skupiły się już na niewłaściwym zachowaniu agentów, czytamy je jako studium przypadku wyjaśniające, dlaczego granice uprawnień – a nie inteligencja – mogą być najtrudniejszym problemem konsumenckiej sztucznej inteligencji.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
