Utah ist der erste Staat, der KI Medikamente verschreiben lässt, ohne dass ein Arzt auf dem Laufenden ist

Utah ist der erste US-Bundesstaat, in dem ein künstliches Intelligenzsystem Patienten untersuchen und Medikamente verschreiben kann, ohne dass ein Arzt jede Entscheidung direkt genehmigt. Das rund um das Dermatologie-Startup Nolla Health aufgebaute Programm ging diese Woche online und erregte sofort landesweite Aufmerksamkeit, wobei die Seattle Times den Meilenstein unverblümt zusammenfasste: KI hat zum ersten Mal einen verschreibenden Arzt ersetzt – zur Behandlung von Akne.

Der Pilot ist bewusst eng gefasst, seine regulatorische Bedeutung jedoch nicht. Seit Jahren wird KI in der Medizin als Helfer positioniert, der Notizen erstellt oder Befunde markiert, damit ein menschlicher Arzt sie abzeichnen kann. Durch die Vereinbarung von Utah entfällt diese Freigabe für eine definierte Patientengruppe und ist damit der bisher klarste Test dafür, ob Aufsichtsbehörden, Ärzte und Patienten einen Algorithmus als verschreibende Partei akzeptieren. Weitere Informationen zu dieser Geschichte finden Sie in unserer neueste KI-Entwicklungen.

So funktioniert der Nolla Health Pilot

Das Programm läuft über die App von Nolla Health, die 4,99 US-Dollar pro Monat kostet und auf Patienten mit leichter bis mittelschwerer Akne beschränkt ist. Das Behandlungsfenster beträgt ein Jahr.

Ein Patient scannt zunächst sein Gesicht mit der App und füllt ein Formular zur Krankengeschichte und persönlichen Daten aus. Die KI analysiert dann die Hautbilder, bewertet die Fettigkeit und generiert einen numerischen Akne-Schweregrad, der von reiner Haut bis hin zu schwerer Akne reicht, so der Bericht von TechSpot zur Markteinführung.

Dieser Score wird mit den medizinischen Informationen des Patienten kombiniert, um eine Verschreibungsempfehlung aus einer Liste von acht zugelassenen Behandlungen zu erstellen. Bei allen acht handelt es sich eher um topische Medikamente als um Pillen, eine Einschränkung, die die gefährlichsten Klassen von Nebenwirkungen vom Tisch hält.

Luis Wenus, CEO von Nolla Health, sagte, die mit den acht zugelassenen Medikamenten verbundenen Nebenwirkungen beschränken sich auf lokalisierte Hautreizungen oder Trockenheit – ein deutlich geringeres Risikoprofil als bei systemischen Medikamenten und einer der Gründe, warum die Aufsichtsbehörden offenbar bereit waren, die KI mit reduzierter Aufsicht arbeiten zu lassen.

Ein dreistufiger Ausstieg aus der menschlichen Überprüfung

Was das Utah-Programm bemerkenswert macht, ist nicht die Diagnoseaufgabe der KI, die begrenzt und visuell ist, sondern der geplante Rückzug des Arztes aus der Schleife.

In der ersten Phase müssen die ersten 100 Rezepte noch von echten Ärzten geprüft werden, bevor sie an die Apotheke abgegeben werden. In der zweiten Phase werden die Rezepte der nächsten 400 Patienten von der KI selbst an die Apotheken übermittelt und wöchentlich von einem Arzt überprüft. In der letzten Phase überprüft ein Arzt einmal im Monat mindestens 10 Prozent aller ausgestellten Rezepte.

Am Ende des Pilotprojekts kann ein Rezept von einer Smartphone-Kamera in eine Apotheke gelangen, ohne dass es überhaupt einer menschlichen Überprüfung bedarf – sondern nur einer statistischen Stichprobe im Nachhinein. Utahs Ansatz behandelt Verschreibungen effektiv wie Ergebnisse eines Qualitätskontrollprozesses und nicht wie individuelle klinische Entscheidungen, ein struktureller Wandel, vor dem medizinische Kommentatoren schon lange gewarnt haben, dass er schneller eintreten würde, als viele erwartet hatten.

Warum Akne und warum Utah

Akne ist in vielerlei Hinsicht das ideale Testfeld für die autonome Verschreibung. Es ist visuell diagnostizierbar, eher chronisch als lebensbedrohlich und kann mit einer kleinen, gut charakterisierten Formel behandelt werden. Das nachteilige Risiko einer falschen Wahl innerhalb der genehmigten Liste ist gering und weitgehend reversibel, was genau das ist, was eine Regulierungsbehörde beim Entwurf eines begrenzten Experiments benötigt.

Utah hingegen hat sich in den letzten Jahren als eine der KI-vorwärtsgewandtesten Landesregierungen des Landes positioniert. Bloomberg Law berichtete zuvor, dass der Staat sein Pilotprojekt zur Verschreibung von „KI-Ärzten“ gegen Aufsichtsbedenken abwägt, und lokale Medien wie TechBuzz News haben eine pro-menschliche KI-Initiative beschrieben, die kürzlich eine Gesundheitssäule mit benannten unabhängigen Gutachtern hinzugefügt hat. Die Fachzeitschrift STAT berichtete, dass Utah die Einführung zusätzlicher Gesundheits-KI-Pilotprogramme vorantreibt, die sich mit Verschreibungen und der Gesundheit von Frauen befassen, während MobiHealthNews den Start von Nolla Health in Utah diese Woche bestätigte.

Mit anderen Worten: Der Akne-Pilot ist kein isolierter Stunt. Es ist der sichtbarste Teil einer bewussten Strategie auf Landesebene, zunächst auf autonome medizinische KI umzusteigen und die Bewertungsinfrastruktur darauf aufzubauen.

Die Aufsichtsdebatte

Befürworter der Patientensicherheit haben bekannte Bedenken geäußert. Eine retrospektive Überprüfung von Verschreibungen bedeutet, dass Fehler erkannt werden, nachdem ein Patient das Medikament bereits erhalten hat, und nicht vorher. Wöchentliche und monatliche Probenahmefenster lassen Raum für systematische Fehler – die Art, die ganze Kategorien von Patienten betreffen –, die sich wiederholen, bevor ein Mensch es bemerkt.

Es stellt sich auch die Frage des Präzedenzfalls. Wenn eine autonome Verschreibung bei Akne akzeptiert wird, ergibt sich das Argument für eine Ausweitung auf andere visuell diagnostizierbare, formelgebundene Erkrankungen – Konjunktivitis, bestimmte Hautausschläge, antimykotische Behandlungen – von selbst. Jede Erweiterung wäre einzeln vertretbar, während die Medizin gemeinsam in Richtung eines Modells bewegt würde, bei dem der Algorithmus der Standardverschreiber und der Arzt der Prüfer ist.

Die Beunruhigung der medizinischen Gemeinschaft wird durch eine breitere Zahl von Verbrauchern verstärkt, die sich bei medizinischen Ratschlägen auf Allzweck-Chatbots verlassen – mit schädlichen Folgen – Fälle, die KI-Unternehmen selbst mit aller Kraft unterdrücken müssen. Ein speziell entwickeltes System mit einer festen Formelsammlung und einer definierten Bewertungsrubrik ist ein ganz anderes Artefakt als ein offener Chatbot, aber die Öffentlichkeit tendiert dazu, beide in dieselbe mentale Kategorie einzuordnen.

Was als nächstes kommt

Das einjährige Zeitfenster des Pilotprojekts bedeutet, dass Utah über reale Daten zur autonomen Verschreibung verfügen wird, lange bevor die meisten Bundesstaaten überhaupt eine Stellungnahme zu dieser Frage abgegeben haben. Die Zahlen, auf die es ankommt, sind die Fehlerraten in jeder Phase, die Patientenergebnisse bei den etwa 500 überwachten Verschreibungen und die Frage, ob das retrospektive Überprüfungssystem tatsächlich die Fehler erkennt, die es auffangen soll.

Vorerst bleibt das Programm das, was seine Entwickler beabsichtigt hatten: ein kleines, sorgfältig umzäuntes Experiment. Aber die Richtung der Reise ist unverkennbar, und Utah ist gerade die erste Gerichtsbarkeit in den Vereinigten Staaten, die herausgefunden hat, was passiert, wenn der Rezeptblock ein Algorithmus ist.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →