Mentre i professionisti di tutti i settori corrono per adottare strumenti di intelligenza artificiale, una domanda preoccupante si sta spostando dalla speculazione al regno delle prove misurate: stiamo perdendo le competenze che questi strumenti avrebbero dovuto aiutare?
Un rapporto pubblicato su Nature rileva che i primi risultati sono arrivati e non sono incoraggianti. La dipendenza dai sistemi guidati dall’intelligenza artificiale sta cominciando a erodere le capacità di medici, ingegneri informatici e altri lavoratori qualificati, sollevando domande urgenti su come preservare la competenza umana in un’era di automazione. Per maggiori informazioni su questa storia, consulta la nostra copertura dell'industria IA.
I medici ottengono risultati peggiori senza l'intelligenza artificiale
Uno degli esempi più chiari viene dalla medicina. Uno studio condotto da medici polacchi specializzati in endoscopia ha esaminato cosa succede quando medici esperti si abituano a un assistente AI e poi perdono l’accesso ad esso.
Ai medici, che avevano tutti eseguito almeno 2.000 colonscopie durante la loro carriera, è stato fornito un sistema di intelligenza artificiale che analizza le immagini della colonscopia in tempo reale e segnala un tipo di lesione intestinale precancerosa chiamata adenoma. Lo strumento era disponibile in alcuni giorni ma non in altri, creando un esperimento naturale.
I risultati sono stati duri. Nei tre mesi precedenti l'introduzione dello strumento AI, gli specialisti hanno riscontrato almeno un adenoma durante il 28,4% delle colonscopie. Dopo l'introduzione dello strumento, il tasso di rilevamento di adenoma per le colonscopie eseguite senza l'assistenza dell'IA è sceso al 22,4%.
In altre parole, una volta che i medici hanno iniziato a fare affidamento sul sistema di intelligenza artificiale, le loro prestazioni diagnostiche sono diminuite quando questo non era disponibile. I risultati sono stati pubblicati lo scorso ottobre su The Lancet Gastroenterology and Hepatology.
Gli autori dello studio hanno concluso che l’esposizione continua a tali strumenti può far sì che i medici diventino “meno motivati, meno concentrati e meno responsabili quando prendono decisioni cognitive senza l’assistenza dell’intelligenza artificiale”.
Un sondaggio mostra che la preoccupazione è diffusa
La paura della perdita di competenze non è limitata a pochi studi. Un sondaggio condotto tra gli operatori sanitari statunitensi pubblicato all’inizio di giugno ha rilevato che il 70% degli infermieri e il 77% dei medici sono preoccupati di perdere le proprie competenze a causa dell’eccessivo affidamento ai sistemi di intelligenza artificiale.
Tale ansia sembra essere giustificata dai dati emergenti. Man mano che sempre più professionisti integrano l’intelligenza artificiale nei loro flussi di lavoro quotidiani, il divario tra ciò che possono fare con la tecnologia e ciò che possono fare senza di essa potrebbe ampliarsi.
Kevin Crowston, scienziato dell'informazione alla Syracuse University, ha inquadrato la sfida in modo chiaro: "Si spera che il solo fatto di essere consapevoli dell'esistenza di questo fenomeno provochi un'autoriflessione su quali competenze le persone vogliono mantenere e quali sono disposte ad affidare" agli strumenti di intelligenza artificiale.
Gli ingegneri del software mostrano modelli simili
L’effetto di dequalificazione non si limita alla medicina. Per indagare se si stia perdendo competenze nel campo dell’informatica, i ricercatori della società di intelligenza artificiale Anthropic hanno progettato uno studio randomizzato e controllato che ha coinvolto 52 ingegneri del software.
A tutti i partecipanti è stato chiesto di eseguire un compito di codifica di base. Ogni ingegnere può effettuare ricerche sul Web e accedere alle istruzioni su come completarlo. Alla metà è stato anche chiesto di utilizzare un assistente AI. Lo studio, pubblicato come prestampa, è stato progettato per isolare l’effetto dell’assistenza dell’intelligenza artificiale sulla capacità fondamentale di codifica.
I risultati si aggiungono a un numero crescente di prove secondo cui scaricare il lavoro cognitivo di routine sull’intelligenza artificiale può indebolire le competenze di base che i professionisti una volta sviluppavano attraverso la pratica ripetuta. Quando l’intelligenza artificiale gestisce il lavoro pesante, il professionista umano ha meno opportunità di sviluppare e mantenere la padronanza.
I meccanismi della dequalificazione
I ricercatori descrivono la dequalificazione come un processo graduale. Quando uno strumento gestisce in modo affidabile un'attività, il coinvolgimento del lavoratore con la competenza sottostante diminuisce. Nel corso del tempo, i percorsi neurali e il giudizio affinati in anni di pratica iniziano a svanire.
In medicina, questo può essere particolarmente pericoloso. Un medico che una volta si affidava all’acuto giudizio visivo per individuare i tessuti sospetti potrebbe, dopo mesi di assistenza dell’intelligenza artificiale, diventare dipendente dai suggerimenti del sistema. Se il sistema fallisce o non è disponibile, le prestazioni del medico senza ausilio potrebbero non soddisfare più gli standard di una volta.
Yuichi Mori, medico ricercatore presso l’Università di Oslo e coautore dello studio sulla colonscopia, avverte che le persone che utilizzano strumenti di intelligenza artificiale dovrebbero essere consapevoli che rischiano di perdere alcune delle proprie capacità. "Non esiste una soluzione consolidata contro la dequalificazione in questo momento", ha affermato. "Dovrebbe essere un argomento di ricerca molto caldo nel prossimo decennio."
Perché i test standard non risolvono il problema
Parte della difficoltà nell’affrontare la dequalificazione è che questa è invisibile finché l’intelligenza artificiale non viene rimossa. I parametri prestazionali appaiono forti quando lo strumento è in uso, mascherando la graduale erosione delle capacità umane sottostanti.
Questo crea un ciclo di feedback. I lavoratori ottengono risultati migliori con l’intelligenza artificiale, quindi la utilizzano di più. Più la usano, meno praticano l'abilità senza assistenza. Nel momento in cui il declino diventa evidente – quando lo strumento è inattivo, ritirato o sostituito – l’abilità potrebbe essere già atrofizzata.
Il fenomeno solleva anche interrogativi su come le organizzazioni dovrebbero strutturare la formazione e la valutazione. Se la competenza professionale viene misurata sempre più mentre l’assistenza basata sull’intelligenza artificiale è attiva, le valutazioni potrebbero sopravvalutare ciò che i lavoratori possono veramente fare da soli.
Preservare la competenza umana
Ricercatori ed esperti sul posto di lavoro stanno ora discutendo su come preservare importanti competenze umane nell’era dell’intelligenza artificiale. Le soluzioni non sono ancora chiare, ma stanno emergendo diversi principi.
Innanzitutto, la consapevolezza conta. Il semplice fatto di riconoscere che può verificarsi una dequalificazione può spingere gli individui e le organizzazioni a mantenere deliberatamente una pratica non assistita. In secondo luogo, i professionisti potrebbero dover fare scelte consapevoli su quali competenze mantenere affinate e quali delegare. Non tutte le competenze meritano di essere preservate al massimo delle loro forze, ma alcune, in particolare quelle legate alla sicurezza, alla diagnosi e al giudizio critico, lo sono chiaramente.
In terzo luogo, le organizzazioni potrebbero dover riprogettare i flussi di lavoro in modo che l’intelligenza artificiale aumenti anziché sostituire il lavoro cognitivo fondamentale. Invece di lasciare che sia lo strumento a pensare, l’intelligenza artificiale potrebbe essere posizionata come un controllo sul giudizio umano, richiedendo al professionista di arrivare a una risposta prima di consultare il sistema.
Una sfida decisiva per l'era dell'intelligenza artificiale
Il rapporto Nature chiarisce che la dequalificazione non è più una preoccupazione ipotetica. Le prove, anche se ancora precoci, sono coerenti in tutti i campi: quando gli esseri umani affidano il lavoro cognitivo all’intelligenza artificiale, le competenze sottostanti possono indebolirsi.
Per i milioni di professionisti che ora integrano l’intelligenza artificiale nella loro routine quotidiana, la posta in gioco è personale oltre che sociale. Un chirurgo che perde la sensibilità per individuare un tumore, un ingegnere che dimentica come eseguire il debug senza un assistente, un’infermiera la cui intuizione clinica si affievolisce: questi non sono rischi astratti.
Come ha osservato Mori, non esiste ancora una soluzione consolidata. Ma il primo passo, concordano i ricercatori, è prendere sul serio la minaccia. I primi risultati sono arrivati e sono un avvertimento: gli strumenti progettati per renderci migliori potrebbero, se usati con noncuranza, lasciarci meno capaci di prima.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
