Utah har blivit den första delstaten i USA där ett artificiellt intelligenssystem kan undersöka patienter och ordinera mediciner utan att en läkare direkt godkänner varje beslut. Programmet, byggt kring dermatologistartupen Nolla Health, gick live den här veckan och väckte omedelbart nationell uppmärksamhet, där Seattle Times sammanfattar milstolpen rakt av: AI har ersatt en förskrivande läkare för första gången - för att behandla akne.
Piloten är medvetet smal, men dess regulatoriska betydelse är det inte. I åratal har AI inom medicin varit positionerad som en hjälpare som skriver anteckningar eller flaggar fynd för en mänsklig läkare att skriva av sig på. Utahs arrangemang tar bort denna sign-off för en definierad klass av patienter, vilket gör det till det tydligaste testet hittills av om tillsynsmyndigheter, läkare och patienter kommer att acceptera en algoritm som förskrivande part. For more context on this story, see our ongoing AI industry coverage.
Hur Nolla Health Pilot fungerar
Programmet går genom Nolla Healths app, som kostar $4,99 per månad och är begränsad till patienter med mild till måttlig akne. Behandlingsperioden är ett år.
En patient börjar med att skanna sitt ansikte med appen och fylla i ett formulär för sjukdomshistoria och personlig information. AI:n analyserar sedan hudbilderna, bedömer oljighet och genererar en numerisk akneallvarlighetspoäng som sträcker sig från klar hud till svår akne, enligt TechSpots rapport om lanseringen.
Den poängen kombineras med patientens medicinska information för att producera en receptrekommendation från en lista med åtta godkända behandlingar. Alla åtta är aktuella mediciner snarare än piller, en begränsning som håller de farligaste klasserna av biverkningar borta från bordet.
Nolla Health CEO Luis Wenus sa att de negativa effekterna förknippade med de åtta godkända läkemedlen är begränsade till lokal hudirritation eller torrhet - en väsentligt lägre riskprofil än systemiska läkemedel, och en av anledningarna till att tillsynsmyndigheter uppenbarligen var villiga att låta AI arbeta med minskad tillsyn.
En trefas utfasning av mänsklig granskning
Det som gör Utah-programmet anmärkningsvärt är inte AI:s diagnostiska uppgift, som är avgränsad och visuell, utan läkarens planerade reträtt från slingan.
I den första fasen ska de första 100 recepten fortfarande granskas av faktiska läkare innan de lämnas in till apoteket. I den andra fasen får de nästa 400 patienterna sina recept inlämnade till apoteken av AI själv, med en läkare som granskar dem i efterhand varje vecka. I slutfasen granskar en läkare minst 10 procent av alla utgivna recept, kontrolleras en gång i månaden.
I slutet av piloten kan ett recept resa från en smartphonekamera till ett apotek utan någon potentiell mänsklig granskning alls - bara statistiskt urval i efterhand. Utahs tillvägagångssätt behandlar effektivt recept som resultat i en kvalitetskontrollprocess snarare än individuella kliniska beslut, en strukturell förändring som medicinska kommentatorer länge varnat för skulle komma snabbare än många förväntat sig.
Varför akne och varför Utah
Akne är på många sätt den idealiska provningsgrunden för autonom förskrivning. Det är visuellt diagnostiserbart, kroniskt snarare än livshotande och behandlas med ett litet, välkarakteriserat formulär. Nedåtrisken för ett felval inom den godkända listan är låg och till stor del reversibel, vilket är precis vad en regulator behöver när man utformar ett avgränsat experiment.
Utah, under tiden, har ägnat de senaste åren åt att positionera sig som en av de mest AI-framåtriktade delstatsregeringarna i landet. Staten har tidigare rapporterats av Bloomberg Law för att väga sin "AI-läkare"-receptpilot mot tillsynsbekymmer, och lokala butiker inklusive TechBuzz News har beskrivit ett pro-mänskligt AI-initiativ som nyligen lade till en vårdpelare med namngivna oberoende utvärderare. Handelspublikationen STAT rapporterade att Utah går vidare med ytterligare hälso-AI-piloter som täcker recept och kvinnors hälsa, medan MobiHealthNews bekräftade Nolla Healths Utah-lansering denna vecka.
Acnepiloten är med andra ord inte ett isolerat stunt. Det är den mest synliga delen av en medveten strategi på statsnivå att först gå vidare med autonom medicinsk AI och bygga utvärderingsinfrastrukturen runt den.
Tillsynsdebatten
Patientsäkerhetsförespråkare har tagit upp välbekanta farhågor. Retrospektiv granskning av recept innebär att fel upptäcks efter att en patient redan har fått medicinen, inte tidigare. Vecko- och månadsprovtagningsfönster lämnar utrymme för systematiska fel - sådana som påverkar hela kategorier av patienter - att upprepas innan en människa märker det.
Det finns också frågan om prejudikat. Om autonom förskrivning accepteras för akne, skriver argumentet för att utvidga det till andra visuellt diagnostiserbara, formelbundna tillstånd - konjunktivit, vissa utslag, svampdödande behandlingar - sig själv. Varje förlängning skulle vara individuellt försvarbar samtidigt som medicinen kollektivt flyttas mot en modell där algoritmen är standardförskrivaren och läkaren är revisorn.
Det medicinska samfundets oro förvärras av ett bredare register av konsumenter som förlitar sig på chatbots för allmänna ändamål för medicinsk rådgivning med skadliga resultat, fall som AI-företag själva har försökt begränsa. Ett specialbyggt system med ett fast formulär och en definierad poängrubrik är en helt annan artefakt än en chatbot med öppen slut, men allmänheten tenderar att arkivera båda under samma mentala kategori.
Vad kommer härnäst
Pilotens ettåriga fönster innebär att Utah kommer att ha verkliga data om autonom förskrivning långt innan de flesta stater ens har utarbetat en ståndpunkt i frågan. Siffrorna som spelar roll är felfrekvenser i varje fas, patientresultat över de 500 eller så övervakade recepten och om det retrospektiva granskningssystemet faktiskt fångar upp de misstag som det är utformat för att fånga upp.
För närvarande förblir programmet vad dess designers avsåg: ett litet, noggrant inhägnat experiment. Men färdriktningen är omisskännlig, och Utah har precis blivit den första jurisdiktionen i USA som tar reda på vad som händer när receptskylten är en algoritm.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
