Světová zdravotnická organizace v pondělí zveřejnila novou zprávu vyzývající k silnějším etickým zárukám a dohledu nad umělou inteligencí ve zdravotním výzkumu a varovala, že stávající kontrolní mechanismy nejsou vždy vybaveny k tomu, aby zvládly nová rizika, která umělá inteligence přináší do lékařské vědy.
Zpráva nazvaná „Výzkum zdraví související s umělou inteligencí: etická kontrola a dohled“ nabízí doporučení pro výzkumné pracovníky, etické komise, regulační orgány, financující subjekty a tvůrce politik, jak zajistit, aby byl zdravotní výzkum s umělou inteligencí prováděn odpovědně. Společně jej vyvinuli experti WHO působící v oblasti etiky výzkumu, vědy, digitálního zdraví a umělé inteligence a v pondělí byl spuštěn spolu s virtuální událostí. For more context on this story, see our ongoing breaking AI news.
Podle WHO umělá inteligence rychle přetváří způsob, jakým se provádí zdravotní výzkum – mění způsob, jakým se analyzují zdravotní údaje, jak jsou navrhovány studie a jak se vyvíjejí a vyhodnocují nové technologie. Organizace však varuje, že bez robustních záruk by výzkum související s umělou inteligencí mohl představovat rizika, která podkopávají lidská práva, spravedlnost a důvěru veřejnosti.
Co pokrývá nová zpráva WHO
Zpráva identifikuje tři široké kategorie zdravotního výzkumu souvisejícího s umělou inteligencí: výzkum související se zdravím, který využívá umělou inteligenci k analýze dat, výzkum využívající nástroje a technologie umělé inteligence a výzkum související se zdravím prováděný na samotných nástrojích a technologiích umělé inteligence.
U každé kategorie publikace zkoumá, jak lze posílit etický dohled v průběhu celého životního cyklu výzkumu – od návrhu studie a etického přezkoumání až po publikaci, regulaci a implementaci v reálném světě.
WHO varuje, že stávající mechanismy etického dohledu „nemusí být vždy vybaveny“ k řešení konkrétních rizik, která umělá inteligence přináší do výzkumného procesu, včetně problémů souvisejících s transparentností, zaujatostí, spravedlností, odpovědností, soukromím a potenciálními škodami vyplývajícími z rychlého nasazení nástrojů s umělou inteligencí.
Proč jsou stávající kontrolní struktury pod tlakem
„Umělá inteligence vytváří bezprecedentní příležitosti k urychlení výzkumu v oblasti zdraví a zlepšení života lidí,“ uvedla v oznámení doktorka Meg Dohertyová, ředitelka Oddělení vědy pro zdraví WHO. "Zároveň musí být inovace vedeny silnými etickými zárukami, které chrání lidskou důstojnost, práva a spravedlnost."
Doherty popsal, že zpráva poskytuje „praktické úvahy“, které mají pomoci výzkumníkům, etickým komisím a tvůrcům politik orientovat se v příležitostech i rizicích spojených s výzkumem zdraví souvisejícím s AI.
Zpráva staví etické komise výzkumu – institucionální orgány, které přezkoumávají studie zahrnující lidské účastníky – do středu rámce dohledu. Uznává však, že tyto výbory mohou vyžadovat další odborné znalosti, školení a zdroje k efektivnímu přezkoumání stále složitějších studií souvisejících s umělou inteligencí, které často zahrnují neprůhledné modely, velké soubory dat a techniky, které nespadají do tradičního školení hodnotitelů etiky.
Odpovědnost nad rámec etické komise
Publikace také zdůrazňuje, že odpovědnost nekončí u dveří etické komise. Samotní výzkumníci, říká WHO, nesou povinnost včas identifikovat a zmírnit etická rizika, transparentně komunikovat a zvažovat širší společenské důsledky technologií AI, které vytvářejí a nasazují.
Kromě jednotlivých výzkumných pracovníků a výborů zpráva zdůrazňuje roli sponzorů, vědeckých časopisů, orgánů pro správu dat, odborných společností a regulačních agentur při podpoře odpovědného zdravotního výzkumu souvisejícího s umělou inteligencí. Zejména tvrdí, že některé systémové výzvy jednoduše nelze zvládnout pouze prostřednictvím hodnocení jednotlivých projektů – což je uznání, že dopad umělé inteligence na výzkumný ekosystém vyžaduje strukturální reakce na úrovni institucí.
„Efektivní řízení umělé inteligence ve výzkumu zdraví vyžaduje spolupráci napříč obory, sektory a institucemi,“ řekl Dr. Alain Labrique, ředitel oddělení WHO pro data, analýzu digitálního zdraví a umělou inteligenci. „Vzhledem k tomu, že se technologie umělé inteligence rychle vyvíjejí, potřebujeme mechanismy dohledu, které jsou agilní, založené na důkazech a schopné zajistit, aby inovace zůstaly bezpečné, důvěryhodné a přínosné pro všechny.“
Dimenze vlastního kapitálu
Významná část zprávy se zabývá výzvami a příležitostmi v zemích s nízkými a středními příjmy. Zatímco umělá inteligence má významný potenciál pomoci řešit přetrvávající zdravotní problémy v těchto prostředích, WHO poznamenává, že velká část dnešního výzkumu a technologického vývoje umělé inteligence zůstává soustředěna v zemích s vyššími příjmy.
Organizace tvrdí, že posílení místního vedení, kapacity a účasti ve zdravotním výzkumu souvisejícím s umělou inteligencí bude zásadní – jak pro zajištění spravedlivého rozdělení přínosů umělé inteligence, tak pro zamezení vytváření nových forem vyloučení nebo nespravedlnosti v globální zdravotnické vědě.
Výchozí bod, ne poslední slovo
WHO si uvědomuje, jak rychle se technologie vyvíjí, a popisuje zprávu jako výchozí bod pro posílení etického dohledu v éře zdravotního výzkumu souvisejícího s umělou inteligencí a jako základ pro vývoj budoucích standardů, pokynů a přístupů k řízení.
Zpráva přichází v době, kdy zdravotnické systémy na celém světě stále více experimentují s umělou inteligencí za účelem diagnostiky, objevování léků a klinické dokumentace, čímž vyvíjí tlak na výzkumné instituce, aby přizpůsobily své procesy hodnocení. Poselství WHO institucím je, že okno pro vybudování kompetentního dohledu je nyní – než se zjištění generovaná umělou inteligencí, studie navržené umělou inteligencí a soubory dat analyzované umělou inteligencí stanou spíše normou než výjimkou.
Úplná zpráva a podrobnosti o pondělním virtuálním spuštění jsou k dispozici prostřednictvím oficiálních kanálů Světové zdravotnické organizace.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
