Un CEO de start-up care și-a predat finanțele personale unui agent AI a primit o lecție nedorită despre permisiunile de agent în această lună, după ce asistentul și-a postat soldul bancar, cifra de economii și defalcarea lunară a cheltuielilor pe canalul intern Slack al companiei sale.
Shane Mac, directorul executiv al companiei de software XMTP Labs, în vârstă de 40 de ani, a descris incidentul într-un cont la persoana întâi publicat vineri de Business Insider. Mac a construit ceea ce el numea un agent CFO personal pe Grok Bot, produsul agent al xAI, la sfârșitul lunii august, oferindu-i acces numai în citire la conturile sale personale de verificare și economii și instruindu-i să îi trimită un raport financiar lunar. În schimb, pe 1 octombrie, agentul a livrat acel raport unui canal Slack al echipei executive din propria companie. Pentru cititorii care urmăresc modul în care agenții AI continuă să se ciocnească de lumea reală, episodul este o altă intrare într-un fișier de incident în creștere rapidă.
Un agent CFO personal cu o problemă de rutare
Mac a spus că a înființat agentul după ce valul de asistenți personali AI a declanșat la sfârșitul anului trecut, când a experimentat cu OpenClaw și alte hamuri de agenți. Ideea lui era simplă: un agent care putea răspunde la întrebări precum soldurile sale, cum arată cheltuielile sale recurente, dacă ceva părea fraudulos și unde ar putea reduce costurile. Și-a numit chatul de grup al agenților AI „Echipa mea personală de executori”.
Configurarea a funcționat bine timp de săptămâni de rulări săptămânale. Apoi, primul audit lunar a început joi, 1 octombrie.
„Șeful nostru de produs mi-a trimis un DM pe Slack”, a spus Mac pentru Business Insider. „El a spus: „Hei, atenție. Cred că ai vrut să postezi soldul bancar XMTP.”
Mesajul a ajuns într-un chat Slack intitulat „Echipa executivă”, care cuprinde echipa executivă a XMTP – nu chatul de grup al agentului personal pe care Mac îl intenționa. Raportul a inclus soldul contului său de economii, cele mai mari cheltuieli ale lunii și o notă că a depășit ținta de cheltuieli lunare din cauza unui hambar pe care îl construiește pe proprietatea sa. Detaliul hambarului, a spus Mac, a fost ceea ce i-a înștiințat șeful de produs că se uită mai degrabă la finanțele personale ale lui Mac decât la cifrele companiei.
Mac a șters mesajul și l-a întrebat pe agent de ce a trimis raportul companiei. Agentul și-a cerut scuze și s-a oferit să ștergă mesajul - care a dispărut deja.
Cauza principală: conexiuni partajate, nume de canale similare
Când echipa lui xAI a investigat, concluzia lor a fost într-un fel mai neliniștitoare decât ar fi fost o defecțiune. Agentul CFO nu avusese halucinat sau nu se comportase prost; făcuse exact ceea ce a cerut Mac. Eșecul a fost în instalația de dedesubt.
Potrivit relatării lui Mac, agentul și-a confundat destinația deoarece canalele aveau nume similare și, mai important, pentru că toți agenții săi separați împărtășeau de fapt aceleași conexiuni subiacente, chiar dacă se simțeau ca niște asistenți distincti. Își conectase contul Slack la unul dintre ei, iar agentul financiar a ajuns să ajungă la canalul greșit prin acel acces partajat.
„Făcea exact ceea ce i-am spus să facă”, a spus Mac. — Dar a încurcat destinaţia.
Răspunsul xAI a venit rapid de standardele software de întreprindere. Compania a concluzionat că utilizatorii trebuie să acorde în mod explicit permisiunea înainte ca un agent să poată muta informații pe alte canale și a trimis o remediere cu o seară înainte de publicarea articolului Business Insider, potrivit contului Mac.
De ce contează acest incident mai mult decât un mesaj scurs
Pe față, scurgerea a fost conținută: rezumatul financiar personal al unui director, văzut pentru scurt timp de câțiva colegi, un agent care își cere scuze, o soluție trimisă în câteva zile. Dar tiparul pe care îl expune este același care a produs o serie de incidente cu miză mai mare în ultimele luni - așa cum a raportat AI Buzz Wire în mod repetat, de la un model antropic care a depus un sfat fals de omucidere la poliția din Philadelphia până la comportamentul agent necinstiți care a determinat Casa Albă să oblige raportarea incidentelor AI.
Problema de bază este că viața digitală personală și profesională rulează pe aceeași infrastructură. Mac a folosit Google la serviciu și Google acasă, iar agenții săi au moștenit acea limită neclară. Atunci când un agent deține conexiuni permanente la e-mail, calendare, platforme bancare și de plată precum Stripe, raza de explozie a unei erori de rutare nu mai este teoretică.
„Trebuie să ne asigurăm că există controale mai bune la ceea ce agenții au acces”, a spus Mac. El a remarcat că oamenii își doresc cu adevărat acești asistenți și îi găsesc utili - provocarea este să construiască sisteme de permisiuni care să mențină utilizatorii controlul asupra a ceea ce au acordat și să tragă o demarcație mult mai clară între contextul personal și cel de lucru.
După incident, Mac a deconectat totul: Google, calendarele lui, operațiunile bancare, Stripe. Pretenția lui este probabil să rezoneze. Platformele de agenți și-au petrecut anul trecut cursând pentru a adăuga integrări - mai multe conexiuni, mai multe acțiuni autonome, mai puține solicitări de confirmare - deoarece accesul fără întreruperi este ceea ce îi face pe asistenți să se simtă magici. Episodul XMTP Labs este o mică demonstrație concretă a motivului pentru care transferurile explicite între contexte devin o cerință de produs, mai degrabă decât un lucru plăcut.
Episodul subliniază, de asemenea, cât de repede se formează normele. În urmă cu un an, un agent care a scurs un sold bancar colegilor ar fi fost o curiozitate. În octombrie 2026, cu autoritățile de reglementare, procurorii și Casa Albă deja concentrate pe comportamentul necorespunzător al agenților, se citește ca un studiu de caz despre motivul pentru care limitele permisiunii – nu informațiile – ar putea fi cea mai grea problemă în IA pentru consumatori.
---
Rămâneți înaintea AIObțineți cele mai recente știri, analize și descoperiri AI - toate într-un singur loc.
Citește mai multe știri AI →
