Världshälsoorganisationen publicerade i måndags en ny rapport som efterlyser starkare etiska garantier och tillsyn över artificiell intelligens inom hälsoforskning, och varnar för att befintliga granskningsmekanismer inte alltid är utrustade för att hantera de nya risker som AI introducerar i medicinsk vetenskap.
Rapporten, med titeln "Artificiell intelligens-relaterad hälsoforskning: etikgranskning och tillsyn", ger rekommendationer till forskare, etiska kommittéer, tillsynsmyndigheter, finansiärer och beslutsfattare om hur man säkerställer att AI-aktiverad hälsoforskning bedrivs på ett ansvarsfullt sätt. Det utvecklades gemensamt av WHO-experter som arbetar inom forskningsetik, vetenskap, digital hälsa och artificiell intelligens, och lanserades tillsammans med ett virtuellt evenemang på måndagen. For more context on this story, see our ongoing breaking AI news.
Enligt WHO omformar artificiell intelligens snabbt hur hälsoforskning bedrivs — förändrar hur hälsodata analyseras, hur studier utformas och hur ny teknik utvecklas och utvärderas. Men organisationen varnar för att utan robusta skyddsåtgärder kan AI-relaterad forskning introducera risker som undergräver mänskliga rättigheter, rättvisa och allmänhetens förtroende.
Vad den nya WHO-rapporten omfattar
Rapporten identifierar tre breda kategorier av AI-relaterad hälsoforskning: hälsorelaterad forskning som använder AI för att analysera data, forskning som använder AI-verktyg och -teknologier och hälsorelaterad forskning som bedrivs på AI-verktyg och -teknologier i sig.
För varje kategori undersöker publikationen hur etisk tillsyn kan stärkas över hela forskningslivscykeln - från studiedesign och etikgranskning till publicering, reglering och implementering i verkliga världen.
WHO varnar för att befintliga mekanismer för etiktillsyn "kanske inte alltid är utrustade" för att hantera de specifika risker som AI för med sig i forskningsprocessen, inklusive frågor relaterade till transparens, partiskhet, rättvisa, ansvarsskyldighet, integritet och potentiella skador som uppstår från den snabba implementeringen av AI-aktiverade verktyg.
Varför befintliga granskningsstrukturer är under press
"Artificiell intelligens skapar oöverträffade möjligheter att påskynda hälsoforskningen och förbättra människors liv", säger Dr Meg Doherty, chef för WHO:s Department of Science for Health, i tillkännagivandet. "Samtidigt måste innovation styras av starka etiska skydd som skyddar mänsklig värdighet, rättigheter och rättvisa."
Doherty beskrev rapporten som att den ger "praktiska överväganden" för att hjälpa forskare, etiska kommittéer och beslutsfattare att navigera både möjligheterna och riskerna förknippade med AI-relaterad hälsoforskning.
Rapporten placerar forskningsetiska kommittéer - de institutionella organ som granskar studier som involverar mänskliga deltagare - i centrum för tillsynsramverket. Men den erkänner att dessa kommittéer kan kräva ytterligare expertis, utbildning och resurser för att effektivt granska allt mer komplexa AI-relaterade studier, som ofta involverar ogenomskinliga modeller, stora datamängder och tekniker som faller utanför den traditionella utbildningen av etikgranskare.
Ansvar bortom den etiska kommittén
Publikationen understryker också att ansvaret inte stannar vid etikkommitténs dörr. Forskare själva, säger WHO, bär skyldigheten att identifiera och mildra etiska risker tidigt, kommunicera transparent och överväga de bredare samhälleliga konsekvenserna av den AI-teknik de bygger och distribuerar.
Utöver enskilda forskare och kommittéer, belyser rapporten rollerna för finansiärer, vetenskapliga tidskrifter, datastyrande organ, professionella föreningar och tillsynsmyndigheter för att främja ansvarsfull AI-relaterad hälsoforskning. Det hävdas särskilt att vissa systemutmaningar helt enkelt inte kan hanteras enbart genom projekt-för-projekt granskning - ett erkännande av att AI:s inverkan på forskningsekosystemet kräver strukturella svar på institutionsnivå.
"Effektiv styrning av AI inom hälsoforskning kräver samarbete mellan discipliner, sektorer och institutioner", säger Dr Alain Labrique, chef för WHO:s avdelning för data, digital hälsoanalys och artificiell intelligens. "Eftersom AI-teknik fortsätter att utvecklas snabbt behöver vi tillsynsmekanismer som är smidiga, evidensbaserade och som kan säkerställa att innovation förblir säker, pålitlig och fördelaktig för alla."
Egetkapitaldimensionen
En betydande del av rapporten tar upp utmaningar och möjligheter i låg- och medelinkomstländer. Även om AI har betydande potential att hjälpa till att hantera ihållande hälsoutmaningar i dessa miljöer, noterar WHO att mycket av dagens AI-forskning och teknologiutveckling fortfarande är koncentrerad till höginkomstländer.
Att stärka lokalt ledarskap, kapacitet och deltagande i AI-relaterad hälsoforskning kommer därför att vara avgörande, hävdar organisationen – både för att säkerställa att fördelarna med AI fördelas rättvist och för att undvika att skapa nya former av utanförskap eller orättvisa inom global hälsovetenskap.
En utgångspunkt, inte ett sista ord
WHO inser hur snabbt tekniken rör sig och beskriver rapporten som en utgångspunkt för att stärka etiktillsynen i en tidevarv av AI-relaterad hälsoforskning, och som en grund för utvecklingen av framtida standarder, vägledning och tillvägagångssätt för styrning.
Rapporten kommer när hälsosystem över hela världen i allt högre grad experimenterar med AI för diagnos, läkemedelsupptäckt och klinisk dokumentation, vilket sätter press på forskningsinstitutioner att anpassa sina granskningsprocesser. WHO:s budskap till institutionerna är att fönstret för att bygga kompetent tillsyn är nu – innan AI-genererade fynd, AI-designade försök och AI-analyserade datauppsättningar blir normen snarare än undantaget.
Den fullständiga rapporten och detaljerna om måndagens virtuella lanseringsevenemang är tillgängliga via Världshälsoorganisationens officiella kanaler.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
