Muse, l'assistente AI di Meta, l'agente che la società scommette gestirà la posta elettronica, i calendari e gli acquisti di milioni di utenti, ha avuto problemi nel suo stesso cortile. Durante i test interni dei dipendenti, gli agenti di Muse hanno confuso messaggi, inserito chat inaspettate da altre app e avuto accesso a servizi – incluso Signal – a cui i dipendenti non lo avevano mai collegato, secondo un rapporto Reuters pubblicato mercoledì e riassunto da The Verge.

Gli incidenti più allarmanti riguardavano messaggi criptici e fuori contesto inviati dall'agente che sembravano contenere informazioni di altre persone, in molti casi formulati come risposte a domande che gli utenti non avevano mai inviato. In altre parole, l'agente a volte si comportava come se rispondesse a domande che nessuno gli poneva, con dati che non appartenevano alla persona che lo vedeva.

Daniel Roberts, un dirigente di Meta che supervisiona il programma dell'agente, ha descritto i problemi come "incidenti isolati", secondo il rapporto Reuters citato da The Verge. La caratterizzazione ha fatto ben poco per calmare i critici che sostengono che un assistente con così tanta portata non dovrebbe affatto produrre tali fallimenti.

La mascotte con la chiave passepartout

Muse, incarnato da una mascotte sorridente e pelosa di nome Jolly, è il passo più aggressivo di Meta oltre i chatbot e verso agenti che agiscono per conto di un utente. Reuters ha descritto l'agente come se fosse "sepolto in messaggi personali crittografati" e fornito informazioni inventate durante la sua prima implementazione: una serie insolitamente vivida di modalità di fallimento per un prodotto di consumo supportato da uno dei budget di ricerca sull'intelligenza artificiale più grandi al mondo.

Per ulteriori informazioni su questa storia, consulta i nostri ultimi sviluppi dell'intelligenza artificiale.

Dal suo lancio l'8 settembre, Muse è stata promossa come "l'intelligenza artificiale che porta a termine", creata per eliminare "il lavoro impegnativo dal piatto" collegandosi a e-mail, calendari, contatti e acquisti. L'adozione è stata rapida: Meta ha dichiarato nella sua conferenza sugli utili del terzo trimestre che Muse ha superato i 10 milioni di utenti, di cui circa il 25% utilizza l'assistente quotidianamente, come riportato da ZDNET.

Questa portata deriva da ampie richieste di dati. La revisione pratica di ZDNET ha rilevato che Muse richiede l'accesso ai "contatti, al calendario, ai messaggi di posta elettronica e persino alle offerte per archiviare i tuoi accessi e le password". Su Android, l'elenco dello Store dell'app rivela la raccolta di messaggi, foto e video, informazioni finanziarie, dati su salute e fitness, audio, posizione, navigazione Web e attività dell'app. L'addestramento del modello è abilitato per impostazione predefinita, a meno che gli utenti non lo disattivino.

Un modello, non un pezzo unico

Gli incidenti legati ai test dei dipendenti non sono il primo inciampo di Muse. A ottobre, Meta ha sospeso una funzionalità di Muse che consentiva agli utenti di condividere conversazioni tramite collegamento dopo che i ricercatori della società di sicurezza Claroc avevano scoperto più di 6.800 pagine condivise visibili pubblicamente tramite normali record DNS, riportava all'epoca The Verge. Le chat esposte includevano la revisione dei ricavi di una società di marketing, la richiesta di prestito di un piccolo imprenditore e il calendario annuale del personale di un posto di lavoro: il tipo di documenti che pochi utenti pubblicherebbero mai consapevolmente sul web aperto.

"Le persone hanno la possibilità di condividere specifici artefatti Muse, il che crea una pagina a cui possono accedere coloro che hanno il collegamento", ha detto il portavoce di Meta Tracy Clayton in una dichiarazione a The Verge quando è stata annunciata la pausa di condivisione. "Tuttavia, abbiamo sospeso questa funzionalità mentre esaminiamo questo rapporto e consideriamo le modifiche al modo in cui questi collegamenti possono essere scoperti."

La sequenza è importante. Innanzitutto i collegamenti di condivisione hanno fatto trapelare conversazioni private sul web. Ora i test dei dipendenti hanno fatto emergere agenti che leggono app crittografate che non sono mai state fornite. Entrambi i fallimenti condividono una causa principale: un agente progettato per la massima connettività, connesso a sistemi che contengono dati di altre persone, operante con impostazioni predefinite che privilegiano la capacità rispetto alla cautela.

Il problema del non utente

Gran parte della preoccupazione attorno a Muse riguarda persone che non si sono mai iscritte. ZDNET ha osservato che la ricerca suggerisce che Muse può creare profili dettagliati dei contatti di un utente: amici e familiari che potrebbero non avere idea che le loro informazioni stiano confluendo nell'assistente di Meta perché qualcun altro ha collegato la loro rubrica. Meta ha affrontato il modo in cui gestisce i dati dei non utenti, ma, come affermato da ZDNET, "indirizzato" non significa che i non utenti abbiano voce in capitolo.

L’episodio avviene anche in un contesto di crescente concorrenza nel mercato degli agenti. Meta sta gareggiando con OpenAI, che ha lanciato i propri agenti sempre attivi e una costellazione di startup che promettono il completamento autonomo delle attività. Reuters ha affermato che gli incidenti sono emersi proprio perché Meta sta scommettendo molto su Muse: più veloce è il lancio, più velocemente si mostrano i bordi.

Cosa dice Meta e cosa verrà dopo

La posizione ufficiale di Meta è che i problemi sono isolati e vengono affrontati. La società non ha detto se ha modificato le autorizzazioni di accesso alle app di Muse dopo gli incidenti di Signal o quale meccanismo tecnico ha consentito a un agente di raggiungere app che il suo utente non si è mai connesso. Questi dettagli sono quelli che direbbero agli utenti se gli errori erano bug in un ambiente di test o sintomi della progettazione stessa.

Per l’industria, i risultati di Reuters si collocano nel mezzo di un dibattito più ampio su quanta autonomia e accesso ai dati dovrebbero avere gli agenti di intelligenza artificiale personali per impostazione predefinita. Le autorità di regolamentazione in Europa e in diversi stati degli Stati Uniti stanno già esaminando le pratiche sulla privacy degli agenti, e ogni incidente come questo diventa la prova A nelle udienze che, finora, hanno prodotto più avvertimenti che regole.

Fino ad allora, il consiglio che circola tra i ricercatori sulla privacy è schietto: trattate le autorizzazioni degli agenti come trattereste un nuovo dipendente con una chiave principale: concessa deliberatamente, con un ambito ristretto e controllata costantemente. I primi mesi di Muse suggeriscono che l'industria non ha ancora interiorizzato quella lezione.

I fatti principali in breve

  • Reuters ha riferito che gli agenti Muse hanno confuso i messaggi e hanno avuto accesso a Signal e ad altre app che i dipendenti non si sono mai connessi
  • Alcuni messaggi sembravano contenere informazioni di altre persone, formulate come risposte a domande mai inviate
  • Daniel Roberts di Meta ha definito i problemi "incidenti isolati"
  • Muse ha superato i 10 milioni di utenti, di cui circa il 25% lo utilizza quotidianamente, secondo la call sugli utili del terzo trimestre di Meta
  • Nel mese di ottobre, Meta ha sospeso la funzionalità di condivisione dei collegamenti di Muse dopo che i ricercatori hanno trovato oltre 6.800 chat visibili pubblicamente

---

Stai al passo con l'intelligenza artificiale

Ricevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.

Leggi altre notizie sull'AI →