Utah a devenit primul stat din SUA în care un sistem de inteligență artificială poate examina pacienții și poate prescrie medicamente fără ca un medic să aprobe direct fiecare decizie. Programul, construit în jurul startup-ului de dermatologie Nolla Health, a intrat în funcțiune săptămâna aceasta și a atras imediat atenția națională, Seattle Times rezumand direct piatra de hotar: AI a înlocuit un medic care prescrie pentru prima dată - pentru a trata acneea.
Pilotul este în mod deliberat îngust, dar semnificația sa de reglementare nu este. De ani de zile, inteligența artificială în medicină a fost poziționată ca un ajutor care redactează note sau semnalează constatări pentru ca un clinician uman să le accepte. Aranjamentul din Utah elimină această semnătură pentru o clasă definită de pacienți, făcându-l cel mai clar test până acum pentru a stabili dacă autoritățile de reglementare, medicii și pacienții vor accepta un algoritm ca parte care prescrie. For more context on this story, see our ongoing breaking AI news.
Cum funcționează Nolla Health Pilot
Programul rulează prin aplicația Nolla Health, care costă 4,99 USD pe lună și este limitat la pacienții cu acnee ușoară până la moderată. Fereastra de tratament este de un an.
Un pacient începe prin a-și scana fața cu aplicația și a completa un istoric medical și un formular de informații personale. AI analizează apoi imaginile pielii, evaluează gradul de ulei și generează un scor numeric de severitate a acneei care variază de la piele limpede la acnee severă, conform raportului TechSpot privind lansarea.
Acest scor este combinat cu informațiile medicale ale pacientului pentru a produce o recomandare de prescripție extrasă dintr-o listă de opt tratamente aprobate. Toate cele opt sunt medicamente topice, mai degrabă decât pastile, o constrângere care ține de pe masă cele mai periculoase clase de efecte secundare.
CEO-ul Nolla Health, Luis Wenus, a spus că efectele adverse asociate cu cele opt medicamente aprobate sunt limitate la iritația sau uscăciunea localizată a pielii - un profil de risc semnificativ mai scăzut decât medicamentele sistemice și unul dintre motivele pentru care autoritățile de reglementare au fost aparent dispuși să lase AI să funcționeze cu o supraveghere redusă.
O eliminare în trei faze a revizuirii umane
Ceea ce face remarcabil programul Utah nu este sarcina de diagnosticare a AI, care este delimitată și vizuală, ci retragerea programată a medicului din buclă.
În prima fază, primele 100 de rețete trebuie încă revizuite de medicii efectivi înainte de a fi depuse la farmacie. În a doua fază, următorii 400 de pacienți au rețetele depuse la farmacii chiar de AI, iar un medic le revizuiește retrospectiv săptămânal. În faza finală, un medic revizuiește cel puțin 10 la sută din toate rețetele eliberate, verificate o dată pe lună.
Până la sfârșitul pilotului, o rețetă poate călători de la o cameră a unui smartphone la o farmacie fără nicio analiză umană prospectivă - doar eșantionare statistică după fapt. Abordarea Utah tratează în mod eficient prescripțiile ca rezultate într-un proces de control al calității, mai degrabă decât deciziile clinice individuale, o schimbare structurală despre care comentatorii medicali au avertizat de mult că va ajunge mai repede decât se așteptau mulți.
De ce acnee și de ce Utah
Acneea este, din multe puncte de vedere, terenul de probă ideal pentru prescrierea autonomă. Este diagnosticabilă vizual, mai degrabă cronică decât pune viața în pericol și este tratată cu un formular mic, bine caracterizat. Riscul negativ al unei alegeri greșite în lista aprobată este scăzut și în mare măsură reversibil, ceea ce este exact de ce are nevoie un organism de reglementare atunci când proiectează un experiment limitat.
Între timp, Utah și-a petrecut ultimii ani poziționându-se drept unul dintre cele mai avansate guverne de stat din țară. Statul a fost raportat anterior de Bloomberg Law că își cântărește pilotul de prescripție „medic AI” cu preocupările de supraveghere, iar canalele locale, inclusiv TechBuzz News, au descris o inițiativă pro-umană care a adăugat recent un pilon de asistență medicală cu evaluatori independenți numiți. Publicația comercială STAT a raportat că Utah continuă cu proiecte pilot suplimentare de IA în domeniul sănătății care acoperă rețetele și sănătatea femeilor, în timp ce MobiHealthNews a confirmat lansarea Nolla Health în Utah săptămâna aceasta.
Cu alte cuvinte, pilotul acneei nu este o cascadorie izolată. Este cea mai vizibilă piesă a unei strategii deliberate la nivel de stat de a trece mai întâi la IA medicală autonomă și de a construi infrastructura de evaluare în jurul acesteia.
Dezbaterea de supraveghere
Susținătorii siguranței pacienților au exprimat preocupări familiare. Revizuirea retrospectivă a prescripțiilor înseamnă că erorile sunt surprinse după ce un pacient a primit deja medicamentul, nu înainte. Ferestrele de eșantionare săptămânală și lunară lasă loc erorilor sistematice – de tipul care afectează categorii întregi de pacienți – care să se repete înainte ca un om să observe.
Mai este și problema precedentului. Dacă prescrierea autonomă este acceptată pentru acnee, argumentul pentru extinderea acesteia la alte afecțiuni diagnosticabile vizual, legate de formulare - conjunctivită, anumite erupții cutanate, tratamente antifungice - se scrie de la sine. Fiecare extensie ar putea fi apărată individual, în timp ce în mod colectiv se deplasează medicamentul către un model în care algoritmul este prescrictorul implicit și medicul este auditorul.
Neliniștea comunității medicale este agravată de un istoric mai larg de consumatori care se bazează pe chatbot-uri de uz general pentru sfaturi medicale cu rezultate dăunătoare, cazuri pe care companiile de inteligență artificială s-au străduit să le constrângă. Un sistem special creat cu un formular fix și o rubrica de punctare definită este un artefact foarte diferit de un chatbot deschis, dar publicul tinde să le depună pe ambele în aceeași categorie mentală.
Ce urmează
Fereastră de un an a pilotului înseamnă că Utah va avea date reale despre prescrierea autonomă cu mult înainte ca majoritatea statelor să fi elaborat o poziție cu privire la această chestiune. Cifrele care contează sunt ratele de eroare în fiecare fază, rezultatele pacienților din cele aproximativ 500 de rețete supravegheate și dacă sistemul de revizuire retrospectivă prinde de fapt greșelile pe care este proiectat să le surprindă.
Deocamdată, programul rămâne ceea ce intenționau designerii săi: un mic experiment, împrejmuit cu grijă. Dar direcția de deplasare este inconfundabilă, iar Utah tocmai a devenit prima jurisdicție din Statele Unite care a aflat ce se întâmplă atunci când blocul de prescripție este un algoritm.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
