Asistentul AI al lui Meta, Muse, agentul pe care compania pariază că va gestiona e-mailul, calendarele și cumpărăturile pentru milioane de utilizatori, a avut probleme în propria curte. În timpul testării interne a angajaților, agenții Muse au amestecat mesaje, au introdus conversații neașteptate din alte aplicații și au accesat servicii – inclusiv Signal – la care angajații nu s-au conectat niciodată, potrivit unui raport Reuters publicat miercuri și rezumat de The Verge.

Cele mai alarmante incidente au implicat mesaje criptice în afara contextului trimise de agent care păreau să conțină informațiile altor persoane, în multe cazuri formulate ca răspunsuri la întrebări pe care utilizatorii nu le-au trimis niciodată. Cu alte cuvinte, agentul s-a comportat uneori ca și cum ar răspunde la întrebări pe care nimeni nu le-a pus, cu date care nu aparțineau celui care îl vedea.

Daniel Roberts, un director Meta care supraveghează programul de agenți, a descris problemele drept „incidente izolate”, potrivit raportului Reuters citat de The Verge. Caracterizarea a făcut puțin pentru a-i liniști pe criticii care susțin că un asistent cu atât de multă întindere nu ar trebui să producă deloc astfel de eșecuri.

Mascota cu o cheie principală

Muse, întruchipată de o mascota zâmbitoare și neclară pe nume Jolly, este pasul cel mai agresiv al lui Meta, dincolo de chatbot și în agenții care acționează în numele unui utilizator. Reuters a descris agentul ca fiind „îngropat în mesaje personale criptate” și a furnizat informații inventate în timpul implementării sale timpurii – un set neobișnuit de viu de moduri de defecțiune pentru un produs de consum susținut de unul dintre cele mai mari bugete de cercetare AI din lume.

Pentru mai mult context asupra acestei povești, consultați [ultimele dezvoltări AI] (https://aibuzzwire.news) în curs de desfășurare.

De la lansarea sa din 8 septembrie, Muse a fost promovat drept „AI care face totul”, conceput pentru a elimina „treburile ocupate din farfurie” prin conectarea la e-mail, calendare, contacte și cumpărături. Adopția a fost rapidă: Meta a declarat în apelul său privind veniturile din al treilea trimestru că Muse a depășit 10 milioane de utilizatori, aproximativ 25% dintre aceștia utilizând asistentul zilnic, după cum a raportat ZDNET.

Această acoperire vine cu cereri mari de date. Analiza practică a ZDNET a constatat că Muse solicită acces la „persoanele dvs. de contact, calendarul, mesajele de e-mail și chiar ofertele de a vă stoca datele de conectare și parolele”. Pe Android, lista în magazin a aplicației dezvăluie o colecție de mesaje, fotografii și videoclipuri, informații financiare, date despre sănătate și fitness, sunet, locație, navigare pe web și activitate în aplicație. Instruirea modelului este activată în mod prestabilit, cu excepția cazului în care utilizatorii optează pentru a renunța.

Un model, nu unul unic

Accidentele legate de testarea angajaților nu sunt prima poticnire a lui Muse. În octombrie, Meta a întrerupt o funcție Muse care permitea utilizatorilor să partajeze conversații prin link, după ce cercetătorii de la firma de securitate Claroc au descoperit peste 6.800 de pagini de partajare care pot fi descoperite public prin înregistrările DNS obișnuite, a raportat The Verge la acea vreme. Chaturile expuse au inclus analiza veniturilor unei companii de marketing, cererea de împrumut a unui proprietar de afaceri mici și calendarul anului întreg al personalului la locul de muncă - genul de documente pe care puțini utilizatori le-ar publica vreodată cu bună știință pe web deschis.

„Oamenii au capacitatea de a partaja anumite artefacte Muse, ceea ce creează o pagină care poate fi accesată de cei care au linkul”, a declarat purtătorul de cuvânt al Meta, Tracy Clayton, într-o declarație pentru The Verge, când a fost anunțată pauza de partajare. „Cu toate acestea, am întrerupt această funcționalitate în timp ce examinăm acest raport și luăm în considerare modificările modului în care pot fi descoperite aceste linkuri.”

Secvențierea contează. Mai întâi, linkurile de distribuire au scurs conversații private pe web. Acum, testarea angajaților a scos la iveală agenți care citesc aplicații criptate cărora nu le-au fost niciodată oferite. Ambele defecțiuni au o cauză principală: un agent proiectat pentru conectivitate maximă, conectat la sisteme care dețin datele altor persoane, care funcționează cu valori implicite care favorizează capacitatea în detrimentul precauției.

Problema non-utilizatorului

O mare parte din îngrijorarea din jurul lui Muse implică oameni care nu s-au înscris niciodată. ZDNET a remarcat că cercetările sugerează că Muse poate construi profiluri detaliate ale persoanelor de contact ale unui utilizator - prieteni și familia care ar putea să nu aibă idee că informațiile lor se îndreaptă către asistentul Meta, deoarece altcineva și-a conectat agenda. Meta a abordat modul în care gestionează datele non-utilizatoare, dar, așa cum a spus ZDNET, „adresat” nu înseamnă că non-utilizatorii au un cuvânt de spus.

Episodul aterizează și pe fondul intensificării concurenței pe piața agenților. Meta concurează cu OpenAI, care și-a lansat propriii agenți mereu activi și o constelație de startup-uri care promit finalizarea autonomă a sarcinilor. Reuters a încadrat incidentele ca fiind ieșind la suprafață tocmai pentru că Meta pariază mare pe Muse - cu cât lansarea este mai rapidă, cu atât marginile arată mai repede.

Ce spune Meta — și ce urmează

Poziția oficială a lui Meta este că problemele sunt izolate și sunt abordate. Compania nu a spus dacă a schimbat permisiunile de acces la aplicații ale lui Muse după incidentele Signal sau ce mecanism tehnic a permis unui agent să ajungă la aplicațiile pe care utilizatorul său nu le-a conectat niciodată. Aceste detalii sunt cele care le-ar spune utilizatorilor dacă defecțiunile au fost erori într-un mediu de testare sau simptome ale designului în sine.

Pentru industrie, descoperirile Reuters ajung în mijlocul unei dezbateri mai ample despre cât de multă autonomie și acces la date ar trebui să aibă agenții AI personali în mod implicit. Autoritățile de reglementare din Europa și mai multe state din SUA examinează deja practicile de confidențialitate ale agenților și fiecare incident ca acesta devine obiectul A în audierile care, până acum, au produs mai multe avertismente decât reguli.

Până atunci, sfatul care circulă printre cercetătorii în materie de confidențialitate este clar: tratați permisiunile agenților așa cum ați trata un nou angajat cu o cheie principală - acordată în mod deliberat, acoperit în mod restrâns și auditat în mod constant. Primele luni ale lui Muse sugerează că industria nu a interiorizat încă acea lecție.

Fapte cheie dintr-o privire

  • Reuters a raportat că agenții Muse au amestecat mesajele și au accesat Signal și alte aplicații pe care angajații nu s-au conectat niciodată
  • Unele mesaje păreau să conțină informații despre alte persoane, formulate ca răspunsuri la întrebările care nu au fost trimise niciodată
  • Daniel Roberts de la Meta a numit problemele „incidente izolate”
  • Muse a depășit 10 milioane de utilizatori, aproximativ 25 la sută folosind-o zilnic, conform apelului Meta privind veniturile din Q3
  • În octombrie, Meta a întrerupt funcția de partajare a linkurilor a lui Muse, după ce cercetătorii au descoperit peste 6.800 de chaturi care pot fi descoperite public

---

Rămâneți înaintea AI

Obțineți cele mai recente știri, analize și descoperiri despre AI - toate într-un singur loc.

Citiți mai multe știri AI →