Organizația Mondială a Sănătății a publicat luni un nou raport care solicită garanții etice mai puternice și supraveghere a inteligenței artificiale în cercetarea în domeniul sănătății, avertizând că mecanismele de revizuire existente nu sunt întotdeauna echipate pentru a face față noilor riscuri pe care AI le introduce în știința medicală.
Raportul, intitulat „Cercetarea în sănătate legată de inteligența artificială: revizuire și supraveghere etică”, oferă recomandări pentru cercetători, comitete de etică, autorități de reglementare, finanțatori și factori de decizie cu privire la modul de a se asigura că cercetarea în domeniul sănătății bazată pe inteligența artificială este condusă în mod responsabil. A fost dezvoltat în comun de experții OMS care lucrează în etica cercetării, știință, sănătate digitală și inteligență artificială și a fost lansat alături de un eveniment virtual luni. For more context on this story, see our ongoing AI trends.
Potrivit OMS, inteligența artificială modifică rapid modul în care se desfășoară cercetarea în domeniul sănătății – schimbând modul în care sunt analizate datele privind sănătatea, modul în care sunt concepute studiile și modul în care sunt dezvoltate și evaluate noile tehnologii. Dar organizația avertizează că, fără garanții solide, cercetările legate de inteligența artificială ar putea introduce riscuri care subminează drepturile omului, echitatea și încrederea publicului.
Ce acoperă noul raport OMS
Raportul identifică trei categorii mari de cercetare în domeniul sănătății legate de AI: cercetarea în domeniul sănătății care utilizează AI pentru a analiza date, cercetarea care utilizează instrumente și tehnologii AI și cercetarea legată de sănătate efectuată pe instrumentele și tehnologiile AI în sine.
Pentru fiecare categorie, publicația examinează modul în care supravegherea etică poate fi consolidată de-a lungul întregului ciclu de viață al cercetării - de la proiectarea studiului și revizuirea etică până la publicare, reglementare și implementare în lumea reală.
OMS avertizează că mecanismele existente de supraveghere a eticii „s-ar putea să nu fie întotdeauna echipate” pentru a aborda riscurile specifice pe care IA le aduce în procesul de cercetare, inclusiv probleme legate de transparență, părtinire, corectitudine, responsabilitate, confidențialitate și potențiale daune care decurg din implementarea rapidă a instrumentelor activate de IA.
De ce structurile de revizuire existente sunt sub presiune
„Inteligenta artificiala creeaza oportunitati fara precedent de a accelera cercetarea in domeniul sanatatii si de a imbunatati viata oamenilor”, a declarat Dr. Meg Doherty, directorul Departamentului de Stiinta pentru Sanatate al OMS, in anunt. „În același timp, inovația trebuie să fie ghidată de garanții etice puternice care protejează demnitatea umană, drepturile și echitatea.”
Doherty a descris raportul ca oferind „considerații practice” pentru a ajuta cercetătorii, comitetele de etică și factorii de decizie să navigheze atât în oportunitățile, cât și în riscurile asociate cercetării în domeniul sănătății legate de IA.
Raportul plasează comitetele de etică a cercetării – organismele instituționale care analizează studiile care implică participanți umani – în centrul cadrului de supraveghere. Dar recunoaște că aceste comitete pot necesita expertiză, instruire și resurse suplimentare pentru a revizui în mod eficient studiile din ce în ce mai complexe legate de IA, care implică adesea modele opace, seturi mari de date și tehnici care nu se încadrează în formarea tradițională a evaluatorilor de etică.
Responsabilitate dincolo de comitetul de etică
Publicația subliniază, de asemenea, că responsabilitatea nu se oprește la ușa comitetului de etică. Cercetătorii înșiși, spune OMS, poartă datoria de a identifica și atenua riscurile etice din timp, comunicând transparent și luând în considerare implicațiile societale mai largi ale tehnologiilor AI pe care le construiesc și le implementează.
Dincolo de cercetătorii și comitetele individuale, raportul evidențiază rolurile finanțatorilor, revistelor științifice, organismelor de guvernare a datelor, societăților profesionale și agențiilor de reglementare în promovarea cercetării responsabile în domeniul sănătății legate de IA. În special, susține că unele provocări sistemice pur și simplu nu pot fi gestionate doar prin revizuirea proiect cu proiect - o recunoaștere a faptului că impactul AI asupra ecosistemului de cercetare necesită răspunsuri structurale, la nivel de instituție.
„Guvernarea eficientă a inteligenței artificiale în cercetarea în domeniul sănătății necesită colaborare între discipline, sectoare și instituții”, a spus dr. Alain Labrique, directorul Departamentului de date, analiză digitală a sănătății și inteligență artificială al OMS. „Pe măsură ce tehnologiile AI continuă să evolueze rapid, avem nevoie de mecanisme de supraveghere agile, bazate pe dovezi și capabile să ne asigure că inovația rămâne sigură, demnă de încredere și benefică pentru toți.”
Dimensiunea capitalului propriu
O parte semnificativă a raportului abordează provocările și oportunitățile din țările cu venituri mici și medii. În timp ce IA are un potențial semnificativ de a ajuta la abordarea provocărilor persistente de sănătate în aceste situații, OMS observă că o mare parte din cercetarea și dezvoltarea tehnologiei AI de astăzi rămâne concentrată în țările cu venituri mai mari.
Consolidarea leadershipului local, a capacității și a participării la cercetarea în domeniul sănătății legate de IA va fi, prin urmare, esențială, susține organizația – atât pentru a se asigura că beneficiile IA sunt distribuite echitabil, cât și pentru a evita crearea de noi forme de excludere sau inechitate în știința sănătății globale.
Un punct de plecare, nu un cuvânt final
Recunoscând cât de repede se mișcă tehnologia, OMS descrie raportul ca un punct de plecare pentru consolidarea supravegherii etice în epoca cercetării în domeniul sănătății legate de IA și ca bază pentru dezvoltarea viitoarelor standarde, orientări și abordări de guvernare.
Raportul vine pe măsură ce sistemele de sănătate din întreaga lume experimentează din ce în ce mai mult cu IA pentru diagnosticare, descoperire de medicamente și documentare clinică, punând presiune asupra instituțiilor de cercetare pentru a-și adapta procesele de revizuire. Mesajul OMS către instituții este că fereastra pentru a construi o supraveghere competentă este acum – înainte ca constatările generate de AI, studiile concepute de AI și seturile de date analizate de AI să devină mai degrabă norma decât excepția.
Raportul complet și detaliile evenimentului virtual de lansare de luni sunt disponibile prin canalele oficiale ale Organizației Mondiale a Sănătății.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
