Organisasi Kesehatan Dunia pada hari Senin menerbitkan laporan baru yang menyerukan perlindungan etika yang lebih kuat dan pengawasan kecerdasan buatan dalam penelitian kesehatan, memperingatkan bahwa mekanisme peninjauan yang ada tidak selalu mampu menangani risiko baru yang ditimbulkan oleh AI dalam ilmu kedokteran.
Laporan tersebut, yang berjudul “Penelitian kesehatan terkait Kecerdasan Buatan: tinjauan dan pengawasan etika,” menawarkan rekomendasi bagi para peneliti, komite etika, regulator, penyandang dana, dan pembuat kebijakan tentang cara memastikan bahwa penelitian kesehatan yang didukung AI dilakukan secara bertanggung jawab. Panduan ini dikembangkan bersama oleh para ahli WHO yang bekerja di bidang etika penelitian, sains, kesehatan digital, dan kecerdasan buatan, dan diluncurkan bersamaan dengan acara virtual pada hari Senin. For more context on this story, see our ongoing AI news.
Menurut WHO, kecerdasan buatan dengan cepat mengubah cara penelitian kesehatan dilakukan — mengubah cara data kesehatan dianalisis, cara penelitian dirancang, dan cara teknologi baru dikembangkan dan dievaluasi. Namun organisasi tersebut memperingatkan bahwa tanpa perlindungan yang kuat, penelitian terkait AI dapat menimbulkan risiko yang melemahkan hak asasi manusia, kesetaraan, dan kepercayaan publik.
Cakupan laporan WHO yang baru
Laporan tersebut mengidentifikasi tiga kategori besar penelitian kesehatan terkait AI: penelitian terkait kesehatan yang menggunakan AI untuk menganalisis data, penelitian yang menggunakan alat dan teknologi AI, dan penelitian terkait kesehatan yang dilakukan dengan menggunakan alat dan teknologi AI itu sendiri.
Untuk setiap kategori, publikasi ini mengkaji bagaimana pengawasan etika dapat diperkuat di seluruh siklus penelitian — mulai dari desain penelitian dan tinjauan etika hingga publikasi, regulasi, dan implementasi di dunia nyata.
WHO memperingatkan bahwa mekanisme pengawasan etika yang ada “mungkin tidak selalu dilengkapi” untuk mengatasi risiko spesifik yang ditimbulkan oleh AI dalam proses penelitian, termasuk isu-isu terkait transparansi, bias, keadilan, akuntabilitas, privasi, dan potensi kerugian yang timbul dari penyebaran cepat alat-alat yang mendukung AI.
Mengapa struktur tinjauan yang ada mengalami tekanan
“Kecerdasan buatan menciptakan peluang yang belum pernah terjadi sebelumnya untuk mempercepat penelitian kesehatan dan meningkatkan kehidupan masyarakat,” kata Dr Meg Doherty, Direktur Departemen Sains Kesehatan WHO, dalam pengumumannya. “Pada saat yang sama, inovasi harus dipandu oleh perlindungan etika yang kuat yang melindungi martabat, hak, dan kesetaraan manusia.”
Doherty menggambarkan laporan tersebut memberikan “pertimbangan praktis” untuk membantu para peneliti, komite etika, dan pembuat kebijakan menavigasi peluang dan risiko yang terkait dengan penelitian kesehatan terkait AI.
Laporan ini menempatkan komite etik penelitian – yaitu badan kelembagaan yang meninjau penelitian yang melibatkan partisipan manusia – sebagai pusat kerangka pengawasan. Namun komite ini mengakui bahwa komite-komite ini mungkin memerlukan keahlian, pelatihan, dan sumber daya tambahan untuk secara efektif meninjau studi terkait AI yang semakin kompleks, yang sering kali melibatkan model yang tidak jelas, kumpulan data yang besar, dan teknik yang berada di luar pelatihan tradisional peninjau etika.
Tanggung jawab di luar komite etika
Publikasi tersebut juga menekankan bahwa tanggung jawab tidak berhenti di pintu komite etik. Para peneliti sendiri, menurut WHO, mempunyai tugas untuk mengidentifikasi dan memitigasi risiko etika sejak dini, berkomunikasi secara transparan, dan mempertimbangkan dampak sosial yang lebih luas dari teknologi AI yang mereka bangun dan terapkan.
Selain peneliti dan komite individu, laporan ini menyoroti peran penyandang dana, jurnal ilmiah, badan tata kelola data, masyarakat profesional, dan badan pengatur dalam mempromosikan penelitian kesehatan yang bertanggung jawab terkait AI. Secara khusus, laporan ini berargumen bahwa beberapa tantangan sistemik tidak dapat dikelola hanya melalui tinjauan proyek per proyek – sebuah pengakuan bahwa dampak AI terhadap ekosistem penelitian memerlukan respons struktural di tingkat institusi.
“Tata kelola AI yang efektif dalam penelitian kesehatan memerlukan kolaborasi lintas disiplin, sektor, dan institusi,” kata Dr Alain Labrique, Direktur Departemen Data, Analisis Kesehatan Digital, dan Kecerdasan Buatan WHO. “Seiring dengan perkembangan teknologi AI yang pesat, kita memerlukan mekanisme pengawasan yang tangkas, berbasis bukti, dan mampu memastikan bahwa inovasi tetap aman, dapat dipercaya, dan bermanfaat bagi semua orang.”
Dimensi ekuitas
Sebagian besar laporan ini membahas tantangan dan peluang di negara-negara berpendapatan rendah dan menengah. Meskipun AI memiliki potensi yang signifikan untuk membantu mengatasi tantangan kesehatan yang terus-menerus terjadi dalam situasi ini, WHO mencatat bahwa sebagian besar penelitian dan pengembangan teknologi AI saat ini masih terkonsentrasi di negara-negara berpenghasilan tinggi.
Oleh karena itu, memperkuat kepemimpinan lokal, kapasitas dan partisipasi dalam penelitian kesehatan terkait AI akan menjadi sangat penting, menurut organisasi tersebut – baik untuk memastikan bahwa manfaat AI didistribusikan secara adil dan untuk menghindari terciptanya bentuk-bentuk pengecualian atau ketidakadilan baru dalam ilmu kesehatan global.
Sebuah titik awal, bukan kata akhir
Menyadari betapa cepatnya kemajuan teknologi, WHO menggambarkan laporan ini sebagai titik awal untuk memperkuat pengawasan etika di era penelitian kesehatan terkait AI, dan sebagai landasan untuk pengembangan standar, panduan, dan pendekatan tata kelola di masa depan.
Laporan ini muncul ketika sistem kesehatan di seluruh dunia semakin banyak bereksperimen dengan AI untuk diagnosis, penemuan obat, dan dokumentasi klinis, sehingga memberikan tekanan pada lembaga penelitian untuk menyesuaikan proses peninjauan mereka. Pesan WHO kepada institusi-institusi tersebut adalah bahwa peluang untuk membangun pengawasan yang kompeten sudah ada sekarang – sebelum temuan-temuan yang dihasilkan oleh AI, uji coba yang dirancang oleh AI, dan kumpulan data yang dianalisis oleh AI menjadi hal yang biasa dan bukan pengecualian.
Laporan lengkap dan rincian acara peluncuran virtual pada hari Senin tersedia melalui saluran resmi Organisasi Kesehatan Dunia.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
