Die Weltgesundheitsorganisation hat am Montag einen neuen Bericht veröffentlicht, in dem stärkere ethische Schutzmaßnahmen und eine stärkere Aufsicht über künstliche Intelligenz in der Gesundheitsforschung gefordert werden, und warnt davor, dass bestehende Überprüfungsmechanismen nicht immer für den Umgang mit den neuartigen Risiken geeignet sind, die KI in die medizinische Wissenschaft mit sich bringt.
Der Bericht mit dem Titel „Gesundheitsforschung im Zusammenhang mit künstlicher Intelligenz: Überprüfung und Überwachung der Ethik“ bietet Empfehlungen für Forscher, Ethikkommissionen, Regulierungsbehörden, Geldgeber und politische Entscheidungsträger, wie sichergestellt werden kann, dass KI-gestützte Gesundheitsforschung verantwortungsvoll durchgeführt wird. Es wurde gemeinsam von WHO-Experten aus den Bereichen Forschungsethik, Wissenschaft, digitale Gesundheit und künstliche Intelligenz entwickelt und am Montag zusammen mit einer virtuellen Veranstaltung gestartet. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Nachrichten.
Nach Angaben der WHO verändert künstliche Intelligenz rasch die Art und Weise, wie Gesundheitsforschung betrieben wird – sie verändert die Art und Weise, wie Gesundheitsdaten analysiert werden, wie Studien konzipiert werden und wie neue Technologien entwickelt und bewertet werden. Die Organisation warnt jedoch davor, dass KI-bezogene Forschung ohne strenge Schutzmaßnahmen Risiken mit sich bringen könnte, die Menschenrechte, Gerechtigkeit und öffentliches Vertrauen untergraben.
Was der neue WHO-Bericht abdeckt
Der Bericht identifiziert drei große Kategorien der KI-bezogenen Gesundheitsforschung: gesundheitsbezogene Forschung, die KI zur Datenanalyse nutzt, Forschung, die KI-Tools und -Technologien nutzt, und gesundheitsbezogene Forschung, die an KI-Tools und -Technologien selbst durchgeführt wird.
Für jede Kategorie untersucht die Veröffentlichung, wie die ethische Aufsicht über den gesamten Forschungslebenszyklus hinweg gestärkt werden kann – vom Studiendesign und der Ethikprüfung bis hin zur Veröffentlichung, Regulierung und praktischen Umsetzung.
Die WHO warnt davor, dass bestehende Ethikaufsichtsmechanismen „möglicherweise nicht immer in der Lage sind“, die spezifischen Risiken zu bewältigen, die KI in den Forschungsprozess mit sich bringt, einschließlich Fragen im Zusammenhang mit Transparenz, Voreingenommenheit, Fairness, Rechenschaftspflicht, Datenschutz und potenziellen Schäden, die sich aus der schnellen Einführung KI-gestützter Tools ergeben.
Warum bestehende Prüfstrukturen unter Druck stehen
„Künstliche Intelligenz schafft beispiellose Möglichkeiten, die Gesundheitsforschung zu beschleunigen und das Leben der Menschen zu verbessern“, sagte Dr. Meg Doherty, Direktorin der Abteilung für Gesundheitswissenschaften der WHO, in der Ankündigung. „Gleichzeitig muss Innovation von starken ethischen Schutzmaßnahmen geleitet werden, die die Würde, die Rechte und die Gerechtigkeit des Menschen schützen.“
Doherty beschrieb den Bericht als „praktische Überlegungen“, die Forschern, Ethikkommissionen und politischen Entscheidungsträgern helfen sollen, sowohl die Chancen als auch die Risiken zu bewältigen, die mit der KI-bezogenen Gesundheitsforschung verbunden sind.
Der Bericht stellt Forschungsethikkommissionen – die institutionellen Gremien, die Studien mit menschlichen Teilnehmern überprüfen – in den Mittelpunkt des Aufsichtsrahmens. Es wird jedoch anerkannt, dass diese Ausschüsse möglicherweise zusätzliches Fachwissen, Schulungen und Ressourcen benötigen, um immer komplexere KI-bezogene Studien effektiv zu überprüfen, bei denen es sich häufig um undurchsichtige Modelle, große Datensätze und Techniken handelt, die außerhalb der traditionellen Ausbildung von Ethikprüfern liegen.
Verantwortung über die Ethikkommission hinaus
Die Veröffentlichung betont auch, dass die Verantwortung nicht an der Tür der Ethikkommission endet. Laut WHO tragen die Forscher selbst die Pflicht, ethische Risiken frühzeitig zu erkennen und zu mindern, transparent zu kommunizieren und die umfassenderen gesellschaftlichen Auswirkungen der von ihnen entwickelten und eingesetzten KI-Technologien zu berücksichtigen.
Über einzelne Forscher und Ausschüsse hinaus hebt der Bericht die Rolle von Geldgebern, wissenschaftlichen Zeitschriften, Datenverwaltungsgremien, Fachgesellschaften und Regulierungsbehörden bei der Förderung verantwortungsvoller KI-bezogener Gesundheitsforschung hervor. Insbesondere wird argumentiert, dass einige systemische Herausforderungen einfach nicht durch eine projektweise Überprüfung allein bewältigt werden können – eine Erkenntnis, dass die Auswirkungen von KI auf das Forschungsökosystem strukturelle Antworten auf Institutionsebene erfordern.
„Eine effektive Steuerung der KI in der Gesundheitsforschung erfordert die Zusammenarbeit zwischen Disziplinen, Sektoren und Institutionen“, sagte Dr. Alain Labrique, Direktor der WHO-Abteilung für Daten, digitale Gesundheitsanalysen und künstliche Intelligenz. „Da sich KI-Technologien weiterhin rasant weiterentwickeln, brauchen wir Aufsichtsmechanismen, die flexibel und evidenzbasiert sind und in der Lage sind, sicherzustellen, dass Innovationen sicher, vertrauenswürdig und für alle von Nutzen bleiben.“
Die Gerechtigkeitsdimension
Ein wesentlicher Teil des Berichts befasst sich mit Herausforderungen und Chancen in Ländern mit niedrigem und mittlerem Einkommen. Während KI ein erhebliches Potenzial hat, zur Bewältigung anhaltender gesundheitlicher Herausforderungen in diesen Umgebungen beizutragen, stellt die WHO fest, dass ein Großteil der heutigen KI-Forschung und -Technologieentwicklung weiterhin auf Länder mit höherem Einkommen konzentriert ist.
Die Stärkung der lokalen Führung, Kapazität und Beteiligung an der KI-bezogenen Gesundheitsforschung werde daher von entscheidender Bedeutung sein, argumentiert die Organisation – sowohl um sicherzustellen, dass die Vorteile der KI gerecht verteilt werden, als auch um die Entstehung neuer Formen der Ausgrenzung oder Ungleichheit in der globalen Gesundheitswissenschaft zu vermeiden.
Ein Ausgangspunkt, kein letztes Wort
Die WHO erkennt an, wie schnell sich die Technologie weiterentwickelt, und beschreibt den Bericht als Ausgangspunkt für die Stärkung der Ethikaufsicht im Zeitalter der KI-bezogenen Gesundheitsforschung und als Grundlage für die Entwicklung künftiger Standards, Leitlinien und Governance-Ansätze.
Der Bericht kommt zu einem Zeitpunkt, zu dem Gesundheitssysteme weltweit zunehmend mit KI für Diagnose, Arzneimittelentwicklung und klinische Dokumentation experimentieren, was Druck auf Forschungseinrichtungen ausübt, ihre Überprüfungsprozesse anzupassen. Die Botschaft der WHO an die Institutionen lautet, dass die Zeit zum Aufbau einer kompetenten Aufsicht jetzt gekommen ist – bevor KI-generierte Ergebnisse, KI-designte Studien und KI-analysierte Datensätze eher zur Norm als zur Ausnahme werden.
Der vollständige Bericht und Einzelheiten zur virtuellen Auftaktveranstaltung am Montag sind über die offiziellen Kanäle der Weltgesundheitsorganisation verfügbar.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
