Utah stało się pierwszym stanem w USA, w którym system sztucznej inteligencji może badać pacjentów i przepisywać leki bez bezpośredniego zatwierdzania każdej decyzji przez lekarza. Program, zbudowany wokół startupu dermatologicznego Nolla Health, został uruchomiony w tym tygodniu i od razu przyciągnął uwagę całego kraju, a Seattle Times bez ogródek podsumował ten kamień milowy: sztuczna inteligencja po raz pierwszy zastąpiła lekarza przepisującego leki – w leczeniu trądziku.
Pilotaż jest celowo wąski, ale jego znaczenie regulacyjne nie jest. Przez lata sztuczna inteligencja w medycynie odgrywała rolę pomocnika, który sporządza notatki lub zaznacza wyniki, aby lekarz mógł je podpisać. Porozumienie ze stanu Utah usuwa tę zgodę w przypadku określonej klasy pacjentów, co czyni go najjaśniejszym jak dotąd testem tego, czy organy regulacyjne, lekarze i pacjenci zaakceptują algorytm jako stronę przepisującą lek. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.
Jak działa pilot Nolla Health
Program działa za pośrednictwem aplikacji Nolla Health, która kosztuje 4,99 USD miesięcznie i jest ograniczona do pacjentów z łagodnym do umiarkowanego trądzikiem. Okno leczenia wynosi jeden rok.
Pacjent zaczyna od zeskanowania swojej twarzy za pomocą aplikacji i wypełnienia formularza z danymi osobowymi i historią choroby. Następnie sztuczna inteligencja analizuje obrazy skóry, ocenia jej tłustość i generuje liczbowy wynik nasilenia trądziku, który waha się od czystej skóry do ciężkiego trądziku – wynika z raportu TechSpot z chwili premiery.
Wynik ten łączy się z informacjami medycznymi pacjenta, aby uzyskać rekomendację na podstawie listy ośmiu zatwierdzonych metod leczenia. Wszystkie osiem to leki do stosowania miejscowego, a nie pigułki, co pozwala uniknąć najniebezpieczniejszych klas skutków ubocznych.
Dyrektor generalny Nolla Health, Luis Wenus, powiedział, że niekorzystne skutki związane z ośmioma zatwierdzonymi lekami ograniczają się do miejscowego podrażnienia lub wysuszenia skóry – profil ryzyka jest znacznie niższy niż w przypadku leków ogólnoustrojowych i jest to jeden z powodów, dla których organy regulacyjne najwyraźniej chciały pozwolić sztucznej inteligencji działać pod ograniczonym nadzorem.
Trójfazowe wycofywanie przeglądu przez człowieka
Tym, co wyróżnia program w Utah, nie jest zadanie diagnostyczne sztucznej inteligencji, które jest ograniczone i wizualne, ale zaplanowane wycofanie się lekarza z pętli.
W pierwszej fazie pierwszych 100 recept musi jeszcze zostać sprawdzonych przez faktycznych lekarzy, zanim zostaną przekazane do apteki. W drugiej fazie recepty kolejnych 400 pacjentów przekazywane są do aptek przez samą sztuczną inteligencję, a lekarz co tydzień sprawdza je retrospektywnie. W końcowej fazie lekarz sprawdza co najmniej 10 procent wszystkich wystawionych recept, sprawdzając je raz w miesiącu.
Pod koniec pilotażu recepta może zostać przesłana z aparatu w smartfonie do apteki bez jakiejkolwiek prospektywnej weryfikacji przez człowieka – jedynie po fakcie pobierane są próbki statystyczne. Podejście stosowane w stanie Utah skutecznie traktuje recepty jak wyniki procesu kontroli jakości, a nie indywidualne decyzje kliniczne. Zmiana strukturalna, która od dawna ostrzegali komentatorzy medyczni, nadejdzie szybciej, niż wielu się spodziewało.
Dlaczego trądzik i dlaczego Utah
Trądzik jest pod wieloma względami idealnym poligonem doświadczalnym dla samodzielnego przepisywania leków. Jest rozpoznawalna wizualnie, raczej przewlekła niż zagrażająca życiu i leczona za pomocą małego, dobrze scharakteryzowanego leku. Ryzyko poniesienia błędnego wyboru w ramach zatwierdzonej listy jest niskie i w dużej mierze odwracalne, a właśnie tego potrzebuje organ regulacyjny przy projektowaniu ograniczonego eksperymentu.
Tymczasem stan Utah przez ostatnie lata pozycjonował się jako jeden z rządów stanowych w kraju, które najbardziej przodują w zakresie sztucznej inteligencji. Według Bloomberg Law stan ten rozważał wprowadzenie pilotażowego programu na receptę „lekarza AI” z obawami dotyczącymi nadzoru, a lokalne media, w tym TechBuzz News, opisały proludzką inicjatywę dotyczącą sztucznej inteligencji, która niedawno dodała filar opieki zdrowotnej z wyznaczonymi niezależnymi oceniającymi. Publikacja branżowa STAT podała, że Utah kontynuuje prace nad dodatkowymi programami pilotażowymi związanymi ze sztuczną inteligencją w zakresie zdrowia, obejmującymi recepty i zdrowie kobiet, natomiast MobiHealthNews potwierdziło wprowadzenie na rynek leku Nolla Health w stanie Utah w tym tygodniu.
Innymi słowy, pilot Acne nie jest odosobnionym wyczynem. Jest to najbardziej widoczny element przemyślanej strategii na poziomie państwa, polegającej na przejściu w pierwszej kolejności na autonomiczną medyczną sztuczną inteligencję i zbudowanie wokół niej infrastruktury ewaluacyjnej.
Debata nadzorcza
Zwolennicy bezpieczeństwa pacjentów zgłosili znane obawy. Retrospektywna weryfikacja recept oznacza, że błędy są wychwytywane po otrzymaniu leku przez pacjenta, a nie wcześniej. Tygodniowe i miesięczne okna pobierania próbek pozostawiają miejsce na błędy systematyczne — takie, które dotyczą całych kategorii pacjentów — które powtarzają się, zanim zauważy je człowiek.
Istnieje również kwestia precedensu. Jeśli w przypadku trądziku zaakceptowane zostanie autonomiczne przepisywanie leku, argument przemawiający za rozszerzeniem go na inne wizualnie rozpoznawalne i ograniczone do recepty schorzenia – zapalenie spojówek, niektóre wysypki, leczenie przeciwgrzybicze – pisze się sam. Każde rozszerzenie dałoby się obronić indywidualnie, a jednocześnie wspólnie zmierzałoby do wprowadzenia medycyny w kierunku modelu, w którym algorytm jest domyślnym lekarzem przepisującym leki, a lekarz jest audytorem.
Niepokój społeczności medycznej pogłębia szersza historia konsumentów polegających na chatbotach ogólnego przeznaczenia w celu uzyskania porad medycznych ze szkodliwymi skutkami, a to przypadki, które same firmy zajmujące się sztuczną inteligencją starają się ograniczyć. Specjalnie zbudowany system ze stałą formułą i zdefiniowanymi rubrykami punktacji jest artefaktem zupełnie odmiennym od otwartego chatbota, ale opinia publiczna ma tendencję do umieszczania obu w tej samej kategorii mentalnej.
Co będzie dalej
Roczne okno pilotażowe oznacza, że Utah będzie dysponować rzeczywistymi danymi na temat autonomicznego przepisywania leków na długo przed opracowaniem przez większość stanów stanowiska w tej kwestii. Liczby, które mają znaczenie, to poziom błędów na każdym etapie, wyniki pacjentów w ramach około 500 nadzorowanych recept oraz to, czy system przeglądu retrospektywnego rzeczywiście wychwytuje błędy, do wychwytywania których został zaprojektowany.
Na razie program pozostaje taki, jaki zamierzyli jego twórcy: mały, starannie ogrodzony eksperyment. Ale kierunek podróży jest niewątpliwy, a Utah właśnie stało się pierwszą jurysdykcją w Stanach Zjednoczonych, która dowiedziała się, co się dzieje, gdy bloczek na receptę jest algorytmem.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
