Utah se stal prvním americkým státem, kde systém umělé inteligence může vyšetřovat pacienty a předepisovat léky, aniž by lékař přímo schvaloval každé rozhodnutí. Program, postavený na dermatologickém startupu Nolla Health, byl spuštěn tento týden a okamžitě přitáhl celonárodní pozornost, přičemž Seattle Times shrnul milník otevřeně: AI poprvé nahradila předepisujícího lékaře – k léčbě akné.
Pilot je záměrně úzký, ale jeho regulační význam nikoli. Po celá léta byla AI v medicíně umístěna jako pomocník, který navrhuje poznámky nebo označuje nálezy, aby je mohl podepsat lékař. Uspořádání Utahu odstraňuje toto odhlášení pro definovanou skupinu pacientů, což z něj činí dosud nejjasnější test, zda regulační orgány, lékaři a pacienti přijmou algoritmus jako stranu předepisující lék. For more context on this story, see our ongoing AI trends.
Jak funguje pilotní projekt Nolla Health
Program běží prostřednictvím aplikace Nolla Health, která stojí 4,99 $ měsíčně a je omezena na pacienty s mírným až středně těžkým akné. Léčebné okno je jeden rok.
Pacient nejprve naskenuje svůj obličej pomocí aplikace a vyplní formulář anamnézy a osobních údajů. Umělá inteligence poté analyzuje snímky pleti, hodnotí mastnotu a generuje číselné skóre závažnosti akné, které se pohybuje od čisté pleti po těžké akné, podle zprávy TechSpot o uvedení na trh.
Toto skóre je kombinováno s lékařskými informacemi pacienta a vytváří se doporučení na předpis sestavené ze seznamu osmi schválených léčebných postupů. Všech osm jsou spíše topické léky než pilulky, což je omezení, které drží nejnebezpečnější třídy vedlejších účinků mimo stůl.
Generální ředitel společnosti Nolla Health Luis Wenus uvedl, že nepříznivé účinky spojené s osmi schválenými léky jsou omezeny na lokalizované podráždění nebo suchost kůže – podstatně nižší rizikový profil než u systémových léků a jeden z důvodů, proč byli regulátoři zjevně ochotni nechat AI pracovat se sníženým dohledem.
Třífázové vyřazení lidské recenze
To, co dělá program v Utahu pozoruhodným, není diagnostický úkol AI, který je ohraničený a vizuální, ale plánovaný ústup lékaře ze smyčky.
V první fázi musí prvních 100 receptů ještě zkontrolovat skutečnými lékaři, než je předají lékárně. Ve druhé fázi si dalších 400 pacientů nechává recepty předkládat do lékáren samotnou AI, přičemž lékař je zpětně kontroluje každý týden. V závěrečné fázi lékař kontroluje minimálně 10 procent všech vystavených receptů, kontroluje je jednou měsíčně.
Na konci pilotního projektu může recept putovat z fotoaparátu chytrého telefonu do lékárny bez jakékoli budoucí kontroly člověkem – pouze statistický odběr vzorků později. Přístup Utahu efektivně zachází s recepty jako s výstupy v procesu kontroly kvality, spíše než s individuálními klinickými rozhodnutími, strukturální posun, o kterém lékařští komentátoři dlouho varovali, že přijde rychleji, než mnozí očekávali.
Proč akné a proč Utah
Akné je v mnoha ohledech ideální zkušební půdou pro autonomní předepisování. Je vizuálně diagnostikovatelná, spíše chronická než život ohrožující a léčí se pomocí malého, dobře charakterizovaného vzorce. Negativní riziko špatného výběru v rámci schváleného seznamu je nízké a do značné míry reverzibilní, což je přesně to, co regulátor potřebuje při navrhování omezeného experimentu.
Mezitím Utah strávil poslední roky tím, že se umisťuje jako jedna z vlád státu s nejvyšším pokrokem v oblasti umělé inteligence v zemi. Zákon Bloomberg již dříve informoval, že stát zvažuje svůj pilotní projekt na předpis „doktor AI“ proti obavám z dohledu a místní prodejny včetně TechBuzz News popsaly iniciativu pro-lidskou AI, která nedávno přidala pilíř zdravotní péče se jmenovanými nezávislými hodnotiteli. Obchodní publikace STAT uvedla, že Utah prosazuje další piloty zdravotní umělé inteligence pokrývající předpisy a zdraví žen, zatímco MobiHealthNews potvrdilo, že Nolla Health v Utahu zahájila tento týden.
Jinými slovy, pilot akné není izolovaný trik. Je to nejviditelnější část záměrné strategie na státní úrovni, která nejprve posouvá autonomní lékařskou umělou inteligenci a kolem ní vytváří hodnotící infrastrukturu.
Debata o nadhledu
Zastánci bezpečnosti pacientů vyjádřili známé obavy. Retrospektivní kontrola receptů znamená, že chyby jsou zachyceny poté, co pacient již lék dostal, nikoli dříve. Týdenní a měsíční vzorkovací okna nechávají prostor pro systematické chyby – takové, které postihují celé kategorie pacientů – které se opakují, než si toho člověk všimne.
Je tu také otázka precedentu. Pokud je u akné akceptováno autonomní předepisování, argument pro jeho rozšíření na další vizuálně diagnostikovatelné, na recepturu vázané stavy – zánět spojivek, určité vyrážky, antimykotické léčby – píše sám sebe. Každé rozšíření by bylo jednotlivě obhajitelné a zároveň by společně posunulo medicínu k modelu, kde je algoritmus výchozím předepisujícím lékařem a lékař je auditorem.
Neklid lékařské komunity je umocněn širším záznamem spotřebitelů, kteří se spoléhají na univerzální chatboty pro lékařské rady se škodlivými výsledky, což jsou případy, které se samy společnosti AI snaží omezit. Účelově vytvořený systém s pevným vzorcem a definovanou bodovací rubrikou je velmi odlišný artefakt od chatbota s otevřeným koncem, ale veřejnost má tendenci zařazovat oba do stejné mentální kategorie.
Co přijde dál
Jednoroční okno pilotního projektu znamená, že Utah bude mít reálná data o autonomním předepisování dříve, než většina států vůbec navrhne stanovisko k této otázce. Čísla, na kterých záleží, jsou chybovost v každé fázi, výsledky pacientů v rámci zhruba 500 kontrolovaných receptů a to, zda systém zpětné kontroly skutečně zachytí chyby, které má zachytit.
Program zatím zůstává tím, co jeho konstruktéři zamýšleli: malým, pečlivě ohraněným experimentem. Směr cesty je však nezaměnitelný a Utah se právě stal první jurisdikcí ve Spojených státech, která zjistila, co se stane, když je předpisový blok algoritmem.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
