De Wereldgezondheidsorganisatie publiceerde maandag een nieuw rapport waarin wordt opgeroepen tot sterkere ethische waarborgen en toezicht op kunstmatige intelligentie in gezondheidsonderzoek, waarin wordt gewaarschuwd dat bestaande beoordelingsmechanismen niet altijd zijn toegerust om de nieuwe risico’s aan te pakken die AI in de medische wetenschap introduceert.
Het rapport, getiteld ‘Artificiële intelligentie-gerelateerd gezondheidsonderzoek: ethische beoordeling en toezicht’, biedt aanbevelingen voor onderzoekers, ethische commissies, toezichthouders, financiers en beleidsmakers over hoe ervoor te zorgen dat op AI gebaseerd gezondheidsonderzoek op verantwoorde wijze wordt uitgevoerd. Het werd gezamenlijk ontwikkeld door WHO-experts die werkzaam zijn op het gebied van onderzoeksethiek, wetenschap, digitale gezondheid en kunstmatige intelligentie, en werd maandag samen met een virtueel evenement gelanceerd. Voor meer context over dit verhaal, zie ons AI-nieuws.
Volgens de WHO verandert kunstmatige intelligentie snel de manier waarop gezondheidsonderzoek wordt uitgevoerd. Het verandert de manier waarop gezondheidsgegevens worden geanalyseerd, hoe onderzoeken worden ontworpen en hoe nieuwe technologieën worden ontwikkeld en geëvalueerd. Maar de organisatie waarschuwt dat zonder robuuste waarborgen AI-gerelateerd onderzoek risico’s zou kunnen introduceren die de mensenrechten, gelijkheid en het vertrouwen van het publiek ondermijnen.
Wat het nieuwe WHO-rapport behandelt
Het rapport identificeert drie brede categorieën van AI-gerelateerd gezondheidsonderzoek: gezondheidsgerelateerd onderzoek dat AI gebruikt om gegevens te analyseren, onderzoek dat AI-hulpmiddelen en -technologieën gebruikt, en gezondheidsgerelateerd onderzoek dat wordt uitgevoerd naar AI-hulpmiddelen en -technologieën zelf.
Voor elke categorie onderzoekt de publicatie hoe ethisch toezicht kan worden versterkt gedurende de gehele onderzoekslevenscyclus – van studieontwerp en ethische beoordeling tot publicatie, regulering en praktijkimplementatie.
De WHO waarschuwt dat de bestaande mechanismen voor ethisch toezicht “misschien niet altijd zijn toegerust” om de specifieke risico’s aan te pakken die AI met zich meebrengt in het onderzoeksproces, waaronder kwesties die verband houden met transparantie, vooringenomenheid, eerlijkheid, verantwoordelijkheid, privacy en potentiële schade die voortvloeit uit de snelle inzet van AI-hulpmiddelen.
Waarom bestaande beoordelingsstructuren onder druk staan
“Kunstmatige intelligentie creëert ongekende mogelijkheden om gezondheidsonderzoek te versnellen en de levens van mensen te verbeteren”, zegt dr. Meg Doherty, directeur van het Department of Science for Health van de WHO, in de aankondiging. “Tegelijkertijd moet innovatie geleid worden door sterke ethische waarborgen die de menselijke waardigheid, rechten en gelijkheid beschermen.”
Doherty beschreef het rapport als 'praktische overwegingen' om onderzoekers, ethische commissies en beleidsmakers te helpen bij het navigeren door zowel de kansen als de risico's die gepaard gaan met AI-gerelateerd gezondheidsonderzoek.
Het rapport plaatst onderzoeksethische commissies – de institutionele organen die onderzoeken beoordelen waarbij menselijke deelnemers betrokken zijn – in het middelpunt van het toezichtskader. Maar het erkent dat deze commissies mogelijk aanvullende expertise, training en middelen nodig hebben om de steeds complexere AI-gerelateerde onderzoeken effectief te kunnen beoordelen, waarbij vaak ondoorzichtige modellen, grote datasets en technieken betrokken zijn die buiten de traditionele opleiding van ethische beoordelaars vallen.
Verantwoordelijkheid die verder gaat dan de ethische commissie
De publicatie benadrukt ook dat verantwoordelijkheid niet stopt bij de deur van de ethische commissie. Onderzoekers zelf, zegt de WHO, hebben de plicht om ethische risico’s vroegtijdig te identificeren en te beperken, transparant te communiceren en rekening te houden met de bredere maatschappelijke implicaties van de AI-technologieën die zij bouwen en inzetten.
Naast individuele onderzoekers en commissies belicht het rapport de rol van financiers, wetenschappelijke tijdschriften, data governance-instanties, professionele verenigingen en regelgevende instanties bij het bevorderen van verantwoord AI-gerelateerd gezondheidsonderzoek. Het stelt met name dat sommige systemische uitdagingen simpelweg niet kunnen worden beheerd door middel van een project-per-project beoordeling alleen – een erkenning dat de impact van AI op het onderzoeksecosysteem structurele reacties op instellingsniveau vereist.
“Effectief bestuur van AI in gezondheidsonderzoek vereist samenwerking tussen disciplines, sectoren en instellingen”, zegt dr. Alain Labrique, directeur van het Department of Data, Digital Health Analytics en Artificial Intelligence van de WHO. “Aangezien AI-technologieën zich snel blijven ontwikkelen, hebben we toezichtsmechanismen nodig die wendbaar en op feiten gebaseerd zijn en die ervoor kunnen zorgen dat innovatie veilig, betrouwbaar en voordelig voor iedereen blijft.”
De aandelendimensie
Een aanzienlijk deel van het rapport gaat in op de uitdagingen en kansen in lage- en middeninkomenslanden. Hoewel AI een aanzienlijk potentieel heeft om hardnekkige gezondheidsproblemen in deze omgevingen aan te pakken, merkt de WHO op dat een groot deel van het huidige AI-onderzoek en de technologische ontwikkeling geconcentreerd blijft in landen met hogere inkomens.
Het versterken van lokaal leiderschap, capaciteit en deelname aan AI-gerelateerd gezondheidsonderzoek zal daarom van cruciaal belang zijn, betoogt de organisatie – zowel om ervoor te zorgen dat de voordelen van AI eerlijk worden verdeeld als om het creëren van nieuwe vormen van uitsluiting of ongelijkheid in de mondiale gezondheidswetenschap te voorkomen.
Een startpunt, geen laatste woord
De WHO erkent hoe snel de technologie evolueert en beschrijft het rapport als een startpunt voor het versterken van het ethisch toezicht in het tijdperk van AI-gerelateerd gezondheidsonderzoek, en als basis voor de ontwikkeling van toekomstige normen, richtlijnen en bestuursbenaderingen.
Het rapport komt op een moment dat gezondheidszorgsystemen over de hele wereld steeds meer experimenteren met AI voor diagnose, medicijnontdekking en klinische documentatie, waardoor onderzoeksinstellingen onder druk worden gezet om hun beoordelingsprocessen aan te passen. De boodschap van de WHO aan de instellingen is dat de tijd om competent toezicht op te bouwen nu is – voordat door AI gegenereerde bevindingen, door AI ontworpen onderzoeken en door AI geanalyseerde datasets eerder de norm dan de uitzondering worden.
Het volledige rapport en de details van het virtuele lanceringsevenement van maandag zijn beschikbaar via de officiële kanalen van de Wereldgezondheidsorganisatie.
---
Blijf Voorop met AIHet laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.
Lees meer AI-nieuws →
