Światowa Organizacja Zdrowia opublikowała w poniedziałek nowy raport wzywający do silniejszych zabezpieczeń etycznych i nadzoru nad sztuczną inteligencją w badaniach nad zdrowiem, ostrzegając, że istniejące mechanizmy przeglądu nie zawsze są przygotowane do radzenia sobie z nowymi zagrożeniami, jakie sztuczna inteligencja wprowadza do nauk medycznych.

Raport zatytułowany „Badania zdrowotne związane ze sztuczną inteligencją: przegląd etyczny i nadzór” zawiera zalecenia dla badaczy, komisji etycznych, organów regulacyjnych, fundatorów i decydentów, w jaki sposób zapewnić odpowiedzialne prowadzenie badań zdrowotnych z wykorzystaniem sztucznej inteligencji. Zostało opracowane wspólnie przez ekspertów WHO zajmujących się etyką badań, nauką, zdrowiem cyfrowym i sztuczną inteligencją i zostało ogłoszone w poniedziałek wraz z wirtualnym wydarzeniem. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.

Według WHO sztuczna inteligencja szybko zmienia sposób prowadzenia badań nad zdrowiem – zmieniając sposób analizowania danych na temat zdrowia, projektowania badań oraz opracowywania i oceny nowych technologii. Organizacja ostrzega jednak, że bez solidnych zabezpieczeń badania związane ze sztuczną inteligencją mogą wprowadzić ryzyko podważające prawa człowieka, równość i zaufanie publiczne.

Co obejmuje nowy raport WHO

W raporcie wskazano trzy szerokie kategorie badań zdrowotnych związanych ze sztuczną inteligencją: badania związane ze zdrowiem, w których wykorzystuje się sztuczną inteligencję do analizy danych, badania z wykorzystaniem narzędzi i technologii sztucznej inteligencji oraz badania związane ze zdrowiem prowadzone z wykorzystaniem samych narzędzi i technologii sztucznej inteligencji.

W przypadku każdej kategorii w publikacji zbadano, w jaki sposób można wzmocnić nadzór etyczny na całym cyklu życia badań — od projektu badania i przeglądu etycznego po publikację, regulacje i wdrożenie w świecie rzeczywistym.

WHO ostrzega, że ​​istniejące mechanizmy nadzoru nad etyką „nie zawsze mogą być wyposażone” w rozwiązanie konkretnych zagrożeń, jakie sztuczna inteligencja wnosi do procesu badawczego, w tym kwestii związanych z przejrzystością, stronniczością, sprawiedliwością, odpowiedzialnością, prywatnością i potencjalnymi szkodami wynikającymi z szybkiego wdrażania narzędzi obsługujących sztuczną inteligencję.

Dlaczego istniejące struktury recenzji są obciążone

„Sztuczna inteligencja stwarza bezprecedensowe możliwości przyspieszenia badań nad zdrowiem i poprawy życia ludzi” – stwierdziła w ogłoszeniu dr Meg Doherty, dyrektor Departamentu Nauki ds. Zdrowia WHO. „Jednocześnie innowacjom muszą towarzyszyć silne zabezpieczenia etyczne, które chronią godność ludzką, prawa i równość”.

Doherty określił raport jako zawierający „praktyczne rozważania”, które mają pomóc badaczom, komisjom etycznym i decydentom w zorientowaniu się zarówno w możliwościach, jak i zagrożeniach związanych z badaniami zdrowotnymi związanymi ze sztuczną inteligencją.

W raporcie umieszcza się komisje etyczne ds. badań naukowych – organy instytucjonalne dokonujące przeglądu badań z udziałem ludzi – w centrum ram nadzoru. Przyznaje jednak, że komisje te mogą wymagać dodatkowej wiedzy specjalistycznej, szkoleń i zasobów, aby skutecznie dokonywać przeglądu coraz bardziej złożonych badań związanych z sztuczną inteligencją, które często obejmują nieprzejrzyste modele, duże zbiory danych i techniki wykraczające poza tradycyjne szkolenie recenzentów etycznych.

Odpowiedzialność wykraczająca poza komisję etyki

W publikacji podkreślono także, że odpowiedzialność nie kończy się na drzwiach komisji etyki. WHO twierdzi, że sami badacze ponoszą obowiązek wczesnego identyfikowania i łagodzenia ryzyka etycznego, komunikowania się w sposób przejrzysty i uwzględniania szerszych implikacji społecznych technologii sztucznej inteligencji, które budują i wdrażają.

Oprócz indywidualnych badaczy i komitetów w raporcie podkreślono rolę fundatorów, czasopism naukowych, organów zarządzających danymi, stowarzyszeń zawodowych i agencji regulacyjnych w promowaniu odpowiedzialnych badań zdrowotnych związanych ze sztuczną inteligencją. W szczególności argumentuje, że niektórymi wyzwaniami systemowymi po prostu nie da się sprostać wyłącznie na podstawie przeglądu poszczególnych projektów – co stanowi uznanie, że wpływ sztucznej inteligencji na ekosystem badawczy wymaga strukturalnych reakcji na poziomie instytucji.

„Efektywne zarządzanie sztuczną inteligencją w badaniach zdrowotnych wymaga współpracy między dyscyplinami, sektorami i instytucjami” – powiedział dr Alain Labrique, dyrektor Departamentu Danych, Cyfrowej Analityki Zdrowia i Sztucznej Inteligencji WHO. „Ponieważ technologie sztucznej inteligencji rozwijają się szybko, potrzebujemy elastycznych, opartych na dowodach mechanizmów nadzoru, które zapewnią, że innowacje pozostaną bezpieczne, godne zaufania i korzystne dla wszystkich”.

Wymiar kapitału własnego

Znaczna część raportu dotyczy wyzwań i możliwości stojących przed krajami o niskich i średnich dochodach. Chociaż sztuczna inteligencja ma znaczny potencjał, aby pomóc w stawieniu czoła utrzymującym się wyzwaniom zdrowotnym w tych środowiskach, WHO zauważa, że ​​większość dzisiejszych badań i rozwoju technologii w zakresie sztucznej inteligencji koncentruje się w krajach o wyższych dochodach.

Organizacja twierdzi, że wzmocnienie lokalnego przywództwa, potencjału i udziału w badaniach zdrowotnych związanych ze sztuczną inteligencją będzie zatem miało kluczowe znaczenie – zarówno po to, aby zapewnić sprawiedliwą dystrybucję korzyści ze sztucznej inteligencji, jak i uniknąć tworzenia nowych form wykluczenia lub nierówności w globalnej nauce o zdrowiu.

Punkt wyjścia, a nie ostatnie słowo

Uznając szybkość rozwoju technologii, WHO opisuje raport jako punkt wyjścia do wzmocnienia nadzoru etycznego w erze badań zdrowotnych związanych ze sztuczną inteligencją oraz jako podstawę do opracowania przyszłych standardów, wytycznych i podejść do zarządzania.

Raport pojawia się w momencie, gdy systemy opieki zdrowotnej na całym świecie coraz częściej eksperymentują ze sztuczną inteligencją w diagnostyce, odkrywaniu leków i dokumentacji klinicznej, wywierając presję na instytucje badawcze, aby dostosowały swoje procesy przeglądu. WHO przekazuje instytucjom komunikat, że szansa na stworzenie kompetentnego nadzoru jest już teraz – zanim ustalenia generowane przez sztuczną inteligencję badania zaprojektowane przez sztuczną inteligencję i zbiory danych analizowane przez sztuczną inteligencję staną się raczej normą niż wyjątkiem.

Pełny raport i szczegóły poniedziałkowej wirtualnej inauguracji są dostępne za pośrednictwem oficjalnych kanałów Światowej Organizacji Zdrowia.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →