Secondo uno studio sottoposto a revisione paritaria presentato questa settimana alla Conference on Language Modeling (COLM), trascorrere solo dieci minuti affidandosi a uno strumento di intelligenza artificiale compromette in modo significativo la capacità di una persona di concentrarsi e persistere in compiti difficili.
L’articolo, intitolato “L’assistenza AI riduce la persistenza e danneggia le prestazioni indipendenti”, è stato scritto in collaborazione con lo scrittore e ricercatore Brian Christian, ricercatore presso il Centro per l’intelligenza artificiale compatibile con l’uomo dell’UC Berkeley, insieme a studiosi della Carnegie Mellon University, del Massachusetts Institute of Technology, dell’Università di Oxford e dell’UCLA. Una prima bozza del lavoro era circolata in primavera, ma la versione aggiornata e sottoposta a revisione paritaria è stata presentata alla conferenza questa settimana e l'ufficio di ricerca dell'UC Berkeley ha pubblicato un riassunto dettagliato il 9 ottobre. Per maggiori informazioni su questa storia, consulta la nostra ultimi sviluppi nell'IA.
Cosa hanno scoperto i ricercatori
Per misurare la rapidità con cui la concentrazione e la persistenza delle persone diminuivano, il team ha condotto una serie di studi randomizzati e controllati con 1.222 partecipanti reclutati online.
Nel primo esperimento, a 354 partecipanti è stato chiesto di risolvere 15 problemi sulle frazioni fondamentali. Un gruppo ha lavorato senza aiuto, mentre un secondo gruppo aveva ChatGPT aperto ed era libero di usarlo per ricevere assistenza o anche per chiedere risposte a titolo definitivo. Il gruppo con accesso all'intelligenza artificiale è iniziato in modo più accurato. Poi, dopo 12 problemi, i ricercatori hanno portato via lo strumento. Quasi immediatamente, la precisione in quel gruppo è crollata.
Lo schema si è ripetuto con un secondo gruppo più numeroso di 667 partecipanti. Quando l'assistenza dell'IA è stata ritirata, gli utenti dell'IA hanno ricevuto risposte sbagliate o hanno rinunciato del tutto, mentre il gruppo che aveva lavorato senza aiuto ha continuato a portare a termine l'attività e ha terminato con maggiore successo.
Un terzo esperimento con 201 partecipanti ha sostituito i problemi di matematica con un suggerimento di comprensione della lettura SAT. Il risultato ha fatto eco alle prove precedenti: quando lo strumento è scomparso, sono scomparse anche la persistenza e la precisione.
"Non si potrebbe quasi chiedere una storia più chiara", ha detto Christian nei commenti pubblicati dalla UC Berkeley.
Il "costo umano" delle risposte istantanee
I ricercatori sostengono che il problema non è l’intelligenza artificiale in sé, ma il tipo di aiuto che essa fornisce automaticamente. Quando un sistema produce risposte in pochi secondi, gli utenti si abituano a quella velocità e qualsiasi cosa più lenta inizia a sembrare inefficiente. Affidarsi allo strumento elimina anche ciò che il team chiama “lotta produttiva”, ovvero l’impegno faticoso che aiuta le persone a scoprire i propri punti di forza e interessi.
"Abbiamo costruito questi sistemi perché siano utili, ma ci sono utili in un modo che ci aiuta davvero?" ha detto Cristiano. "Abbiamo dimostrato, ironicamente, che spesso ci aiutano in modi che sono in qualche modo inutili."
Christian, il cui libro del 2020 “The Alignment Problem” è ampiamente considerato come uno dei principali lavori accessibili sulla sicurezza dell’intelligenza artificiale, ha affermato che la scoperta fornisce la prova di un’intuizione che molte persone hanno. "È una scoperta sorprendente, ma in un certo senso fornisce argomenti per una storia che molti di noi sentono nel profondo", ha detto. "Lo sperimento anch'io."
Perché è importante oltre le frazioni
Lo studio rientra nel contesto della crescente preoccupazione per lo scarico cognitivo nell’istruzione. Le stesse società di intelligenza artificiale di frontiera hanno riconosciuto che delegare le attività ai chatbot può ridurre la comprensione di base di un argomento da parte dell'utente, secondo il rapporto di Berkeley. Christian suggerisce una possibile soluzione: le risposte dell’intelligenza artificiale potrebbero essere più istruttive, comportandosi come un tutor che guida piuttosto che come una segreteria telefonica che sostituisce.
"Dobbiamo lavorare per un futuro in cui le capacità umane siano, per quanto possibile, aumentate anziché soppiantate", ha affermato.
La sua preoccupazione si estende alla ricerca professionale. Christian teme che l’eccessivo affidamento agli strumenti di intelligenza artificiale nella scienza possa erodere esattamente le abitudini che rendono un buon scienziato: stare vicino ai dati, immergersi nella materia e lavorare a stretto contatto con un team. Un gruppo di ricerca di dieci persone che genera le idee alla base di una svolta, ha osservato, potrebbe ridursi a due o tre ricercatori e un chatbot.
"Questa non è una storia sulle frazioni e sui problemi SAT", ha detto Christian. "Questo è qualcosa che sta accadendo alla conoscenza umana e alla competenza umana da cima a fondo e dagli studenti delle scuole elementari fino ai maggiori esperti del mondo."
Uno studio diventato mainstream
I primi risultati hanno attirato l’attenzione di WIRED e Psychology Today quando la bozza preliminare è apparsa in primavera, e il New York Times ha pubblicato un articolo sull’articolo e su una ricerca simile la scorsa settimana, secondo l’UC Berkeley. La presentazione sottoposta a revisione paritaria al COLM, una delle sedi principali del settore per la ricerca sulla modellazione del linguaggio, ora conferisce al risultato un timbro formale.
Per educatori e datori di lavoro, il messaggio è scomodo ma concreto: anche una breve esposizione alle risposte istantanee dell’intelligenza artificiale cambia in modo misurabile il modo in cui le persone si comportano quando le risposte non sono più disponibili. E per le aziende di intelligenza artificiale, lo studio aumenta la pressione crescente verso la progettazione di sistemi che insegnano tanto spesso quanto risolvono.
Christian, da parte sua, tiene un taccuino sulla scrivania e ci scrive ogni giorno. La pratica, ha detto a Berkeley, lo mantiene con i piedi per terra e impedisce al suo vantaggio accademico di attenuarsi.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
