Utah is de eerste Amerikaanse staat geworden waar een kunstmatig intelligentiesysteem patiënten kan onderzoeken en medicijnen kan voorschrijven zonder dat een arts elke beslissing rechtstreeks goedkeurt. Het programma, opgebouwd rond de dermatologische startup Nolla Health, ging deze week live en trok onmiddellijk nationale aandacht, waarbij de Seattle Times de mijlpaal botweg samenvatte: AI heeft voor het eerst een voorschrijvende arts vervangen – om acne te behandelen.

De pilot is bewust beperkt gehouden, maar de regelgevende betekenis ervan niet. Jarenlang is AI in de geneeskunde gepositioneerd als een helper die aantekeningen maakt of bevindingen markeert, zodat een menselijke arts deze kan aftekenen. De regeling van Utah schrapt die aftekening voor een bepaalde klasse patiënten, waardoor het de duidelijkste test tot nu toe wordt van de vraag of toezichthouders, artsen en patiënten een algoritme als voorschrijvende partij zullen accepteren. Voor meer context over dit verhaal, zie ons AI-nieuws.

Hoe de Nolla Health-pilot werkt

Het programma loopt via de app van Nolla Health, die $ 4,99 per maand kost en beperkt is tot patiënten met milde tot matige acne. De behandelperiode bedraagt ​​één jaar.

Een patiënt begint door zijn gezicht te scannen met de app en een formulier voor medische geschiedenis en persoonlijke informatie in te vullen. De AI analyseert vervolgens de huidbeelden, beoordeelt de vettigheid en genereert een numerieke score voor de ernst van acne die varieert van een heldere huid tot ernstige acne, volgens het rapport van TechSpot over de lancering.

Die score wordt gecombineerd met de medische informatie van de patiënt om een ​​receptadvies op te stellen op basis van een lijst van acht goedgekeurde behandelingen. Alle acht zijn actuele medicijnen in plaats van pillen, een beperking die de gevaarlijkste klassen van bijwerkingen van tafel houdt.

Nolla Health CEO Luis Wenus zei dat de nadelige effecten die verband houden met de acht goedgekeurde medicijnen beperkt zijn tot plaatselijke huidirritatie of droogheid – een aanzienlijk lager risicoprofiel dan systemische medicijnen, en een van de redenen waarom toezichthouders blijkbaar bereid waren de AI met minder toezicht te laten werken.

Een uitfasering van menselijke beoordeling in drie fasen

Wat het Utah-programma opmerkelijk maakt, is niet de diagnostische taak van de AI, die begrensd en visueel is, maar de geplande terugtrekking van de arts uit de kringloop.

In de eerste fase moeten de eerste 100 recepten nog door echte artsen worden beoordeeld voordat ze naar de apotheek worden gestuurd. In de tweede fase worden de recepten van de volgende 400 patiënten door de AI zelf bij de apotheken ingediend, waarbij een arts ze wekelijks achteraf beoordeelt. In de laatste fase beoordeelt een arts minimaal 10 procent van alle verstrekte recepten, maandelijks gecontroleerd.

Tegen het einde van de pilot kan een recept van een smartphonecamera naar een apotheek worden overgebracht, zonder dat er sprake is van een menselijke beoordeling; er wordt alleen achteraf een statistische steekproef genomen. De aanpak van Utah behandelt recepten effectief als outputs in een kwaliteitscontroleproces in plaats van individuele klinische beslissingen; een structurele verschuiving waarvan medische commentatoren al lang hebben gewaarschuwd dat deze sneller zou plaatsvinden dan velen hadden verwacht.

Waarom acne en waarom Utah

Acne is in veel opzichten de ideale proeftuin voor autonoom voorschrijven. Het is visueel diagnosticeerbaar, eerder chronisch dan levensbedreigend, en wordt behandeld met een klein, goed gekarakteriseerd recept. Het neerwaartse risico van een verkeerde keuze binnen de goedgekeurde lijst is laag en grotendeels omkeerbaar, wat precies is wat een toezichthouder nodig heeft bij het ontwerpen van een begrensd experiment.

Utah heeft zich de afgelopen jaren intussen gepositioneerd als een van de meest AI-vooruitstrevende staatsregeringen van het land. Eerder werd door Bloomberg Law gemeld dat de staat zijn ‘AI-arts’-receptpilot afweegt tegen zorgen over toezicht, en lokale media, waaronder TechBuzz News, hebben een pro-menselijk AI-initiatief beschreven dat onlangs een gezondheidszorgpijler heeft toegevoegd met benoemde onafhankelijke beoordelaars. Vakpublicatie STAT meldde dat Utah doorgaat met aanvullende AI-pilots op het gebied van de gezondheidszorg, die betrekking hebben op recepten en de gezondheid van vrouwen, terwijl MobiHealthNews de lancering van Nolla Health in Utah deze week bevestigde.

Met andere woorden: de acnepilot is geen geïsoleerde stunt. Het is het meest zichtbare onderdeel van een weloverwogen strategie op staatsniveau om als eerste stappen te zetten op het gebied van autonome medische AI ​​en daar de evaluatie-infrastructuur omheen te bouwen.

Het toezichtdebat

Voorvechters van patiëntveiligheid hebben bekende zorgen geuit. Retrospectieve beoordeling van recepten betekent dat fouten worden ontdekt nadat een patiënt de medicatie al heeft gekregen, en niet eerder. Wekelijkse en maandelijkse bemonsteringsvensters laten ruimte voor systematische fouten – het soort dat hele categorieën patiënten treft – die zich kunnen herhalen voordat een mens het merkt.

Er is ook sprake van een precedent. Als autonoom voorschrijven voor acne wordt geaccepteerd, spreekt het argument voor uitbreiding ervan naar andere visueel diagnosticeerbare, aan het formulier gebonden aandoeningen – conjunctivitis, bepaalde huiduitslag, antischimmelbehandelingen – vanzelf. Elke uitbreiding zou individueel verdedigbaar zijn, terwijl de geneeskunde collectief in de richting van een model zou evolueren waarin het algoritme de standaardvoorschrijver is en de arts de auditor.

Het onbehagen van de medische gemeenschap wordt nog verergerd door een bredere reputatie van consumenten die vertrouwen op algemene chatbots voor medisch advies met schadelijke resultaten, zaken die AI-bedrijven zelf hebben proberen te beperken. Een speciaal gebouwd systeem met een vast formulier en een gedefinieerde scorerubriek is een heel ander artefact dan een chatbot met een open einde, maar het publiek heeft de neiging beide onder dezelfde mentale categorie te plaatsen.

Wat komt erna

De periode van één jaar van de pilot betekent dat Utah over praktijkgegevens over autonoom voorschrijven zal beschikken, lang voordat de meeste staten zelfs maar een standpunt over de kwestie hebben geformuleerd. De cijfers die er toe doen zijn de foutenpercentages in elke fase, de patiëntresultaten voor de ongeveer 500 recepten die onder toezicht staan, en de vraag of het retrospectieve beoordelingssysteem daadwerkelijk de fouten opmerkt waarvoor het is ontworpen.

Voorlopig blijft het programma wat de ontwerpers bedoelden: een klein, zorgvuldig omheind experiment. Maar de reisrichting is onmiskenbaar, en Utah is zojuist het eerste rechtsgebied in de Verenigde Staten geworden dat ontdekt wat er gebeurt als het receptboekje een algoritme is.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →