Lo Utah è diventato il primo stato americano in cui un sistema di intelligenza artificiale può esaminare i pazienti e prescrivere farmaci senza che un medico approvi direttamente ogni decisione. Il programma, costruito attorno alla startup dermatologica Nolla Health, è stato lanciato questa settimana e ha immediatamente attirato l’attenzione nazionale, con il Seattle Times che ha riassunto senza mezzi termini la pietra miliare: l’intelligenza artificiale ha sostituito per la prima volta un medico prescrittore – per curare l’acne.
Il progetto pilota è volutamente limitato, ma il suo significato normativo non lo è. Per anni, l’intelligenza artificiale in medicina è stata posizionata come un ausilio che redige appunti o segnala risultati affinché un medico umano possa approvarli. L'accordo dello Utah rimuove tale approvazione per una classe definita di pazienti, rendendolo il test più chiaro finora per stabilire se i regolatori, i medici e i pazienti accetteranno un algoritmo come parte prescrivente. Per maggiori informazioni su questa storia, consulta la nostra ultimi sviluppi nell'IA.
Come funziona il progetto pilota Nolla Health
Il programma viene eseguito tramite l'app di Nolla Health, che costa $ 4,99 al mese ed è limitato ai pazienti con acne da lieve a moderata. La finestra di trattamento è di un anno.
Un paziente inizia scansionando il proprio viso con l'app e completando un modulo di anamnesi e informazioni personali. L'intelligenza artificiale analizza quindi le immagini della pelle, valuta l'untuosità e genera un punteggio numerico sulla gravità dell'acne che varia dalla pelle chiara all'acne grave, secondo il rapporto di TechSpot sul lancio.
Tale punteggio viene combinato con le informazioni mediche del paziente per produrre una raccomandazione di prescrizione tratta da un elenco di otto trattamenti approvati. Tutti e otto sono farmaci topici piuttosto che pillole, un vincolo che mantiene le classi di effetti collaterali più pericolose fuori dal tavolo.
Luis Wenus, CEO di Nolla Health, ha affermato che gli effetti avversi associati agli otto farmaci approvati sono limitati all’irritazione o alla secchezza cutanea localizzata: un profilo di rischio sostanzialmente inferiore rispetto ai farmaci sistemici e uno dei motivi per cui le autorità di regolamentazione erano apparentemente disposte a lasciare che l’IA operasse con una supervisione ridotta.
Un'eliminazione graduale in tre fasi della revisione umana
Ciò che rende notevole il programma dello Utah non è il compito diagnostico dell'intelligenza artificiale, che è limitato e visivo, ma il ritiro programmato del medico dal circuito.
Nella prima fase, le prime 100 prescrizioni devono ancora essere esaminate dai medici veri e propri prima di essere presentate in farmacia. Nella seconda fase, l’AI stessa presenta alle farmacie le prescrizioni dei successivi 400 pazienti, mentre un medico le esamina retrospettivamente su base settimanale. Nella fase finale, un medico esamina almeno il 10% di tutte le prescrizioni rilasciate, controllandole una volta al mese.
Entro la fine del progetto pilota, una prescrizione può viaggiare dalla fotocamera di uno smartphone a una farmacia senza alcuna revisione umana, ma solo con un campionamento statistico successivo al fatto. L'approccio dello Utah tratta efficacemente le prescrizioni come risultati di un processo di controllo della qualità piuttosto che come decisioni cliniche individuali, un cambiamento strutturale che i commentatori medici avevano da tempo avvertito sarebbe arrivato più velocemente di quanto molti si aspettassero.
Perché l'acne e perché lo Utah
L'acne è per molti versi il terreno di prova ideale per la prescrizione autonoma. È diagnosticabile visivamente, cronico piuttosto che pericoloso per la vita e trattato con un formulario piccolo e ben caratterizzato. Il rischio negativo di una scelta sbagliata all’interno dell’elenco approvato è basso e in gran parte reversibile, che è esattamente ciò di cui un regolatore ha bisogno quando progetta un esperimento limitato.
Lo Utah, nel frattempo, ha trascorso gli ultimi anni posizionandosi come uno dei governi statali più all’avanguardia nel paese. Secondo quanto riportato in precedenza da Bloomberg Law, lo stato stava soppesando il suo progetto pilota di prescrizione del "medico AI" rispetto alle preoccupazioni di supervisione, e punti vendita locali tra cui TechBuzz News hanno descritto un'iniziativa di intelligenza artificiale pro-umana che ha recentemente aggiunto un pilastro sanitario con valutatori indipendenti nominati. La pubblicazione commerciale STAT ha riferito che lo Utah sta portando avanti ulteriori progetti pilota di intelligenza artificiale sanitaria che coprono le prescrizioni e la salute delle donne, mentre MobiHealthNews ha confermato il lancio di Nolla Health nello Utah questa settimana.
In altre parole, il pilota dell'acne non è un'acrobazia isolata. È l’elemento più visibile di una strategia deliberata a livello statale per passare prima all’intelligenza artificiale medica autonoma e costruire attorno ad essa l’infrastruttura di valutazione.
Il dibattito sulla supervisione
I sostenitori della sicurezza dei pazienti hanno sollevato preoccupazioni familiari. La revisione retrospettiva delle prescrizioni significa che gli errori vengono individuati dopo che il paziente ha già ricevuto il farmaco, non prima. Le finestre di campionamento settimanali e mensili lasciano spazio a errori sistematici – del tipo che colpisce intere categorie di pazienti – da ripetere prima che un essere umano se ne accorga.
C’è anche la questione dei precedenti. Se si accetta la prescrizione autonoma per l’acne, l’argomentazione a favore dell’estensione ad altre patologie diagnosticabili visivamente e vincolate a un formulario – congiuntivite, alcune eruzioni cutanee, trattamenti antifungini – si scrive da sola. Ogni estensione sarebbe difendibile individualmente mentre collettivamente si sposterebbe la medicina verso un modello in cui l’algoritmo è il prescrittore predefinito e il medico è l’auditor.
Il disagio della comunità medica è aggravato da un record più ampio di consumatori che si affidano a chatbot generici per consulenze mediche con risultati dannosi, casi che le stesse società di intelligenza artificiale si sono affrettate a limitare. Un sistema appositamente creato con un formulario fisso e una rubrica di punteggio definita è un artefatto molto diverso da un chatbot aperto, ma il pubblico tende a classificare entrambi nella stessa categoria mentale.
Cosa verrà dopo
La finestra di un anno del progetto pilota significa che lo Utah avrà dati reali sulla prescrizione autonoma ben prima che la maggior parte degli stati abbia addirittura elaborato una posizione sulla questione. I numeri che contano sono i tassi di errore in ciascuna fase, i risultati dei pazienti nelle circa 500 prescrizioni supervisionate e se il sistema di revisione retrospettiva rileva effettivamente gli errori che è progettato per rilevare.
Per ora, il programma rimane ciò che intendevano i suoi progettisti: un piccolo esperimento attentamente pianificato. Ma la direzione del viaggio è inequivocabile, e lo Utah è appena diventata la prima giurisdizione negli Stati Uniti a scoprire cosa succede quando il ricettario è un algoritmo.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
