Pertubuhan Kesihatan Sedunia pada hari Isnin menerbitkan laporan baharu yang meminta perlindungan etika yang lebih kukuh dan pengawasan kecerdasan buatan dalam penyelidikan kesihatan, memberi amaran bahawa mekanisme semakan sedia ada tidak selalu dilengkapi untuk menangani risiko baru yang diperkenalkan oleh AI ke dalam sains perubatan.
Laporan itu, bertajuk "Penyelidikan kesihatan berkaitan Kecerdasan Buatan: semakan dan pengawasan etika," menawarkan cadangan untuk penyelidik, jawatankuasa etika, pengawal selia, pembiaya dan penggubal dasar tentang cara memastikan penyelidikan kesihatan yang didayakan AI dijalankan secara bertanggungjawab. Ia dibangunkan bersama oleh pakar WHO yang bekerja merentasi etika penyelidikan, sains, kesihatan digital dan kecerdasan buatan, dan telah dilancarkan bersama acara maya pada hari Isnin. For more context on this story, see our ongoing artificial intelligence updates.
Menurut WHO, kecerdasan buatan sedang membentuk semula dengan pantas cara penyelidikan kesihatan dijalankan — mengubah cara data kesihatan dianalisis, cara kajian direka bentuk dan cara teknologi baharu dibangunkan dan dinilai. Tetapi organisasi itu memberi amaran bahawa tanpa perlindungan yang teguh, penyelidikan berkaitan AI boleh memperkenalkan risiko yang menjejaskan hak asasi manusia, ekuiti dan kepercayaan awam.
Perkara yang diliputi oleh laporan WHO baharu
Laporan itu mengenal pasti tiga kategori luas penyelidikan kesihatan berkaitan AI: penyelidikan berkaitan kesihatan yang menggunakan AI untuk menganalisis data, penyelidikan yang menggunakan alatan dan teknologi AI, dan penyelidikan berkaitan kesihatan yang dijalankan pada alatan dan teknologi AI itu sendiri.
Bagi setiap kategori, penerbitan meneliti cara pengawasan etika boleh diperkukuh merentas keseluruhan kitaran hayat penyelidikan — daripada reka bentuk kajian dan semakan etika hingga kepada penerbitan, peraturan dan pelaksanaan dunia sebenar.
WHO memberi amaran bahawa mekanisme pengawasan etika sedia ada "mungkin tidak sentiasa dilengkapi" untuk menangani risiko khusus yang dibawa oleh AI ke dalam proses penyelidikan, termasuk isu yang berkaitan dengan ketelusan, berat sebelah, keadilan, kebertanggungjawaban, privasi dan potensi bahaya yang timbul daripada penggunaan pantas alatan yang didayakan AI.
Mengapa struktur semakan sedia ada mengalami tekanan
"Kecerdasan buatan mencipta peluang yang tidak pernah berlaku sebelum ini untuk mempercepatkan penyelidikan kesihatan dan meningkatkan kehidupan orang ramai," kata Dr Meg Doherty, Pengarah Jabatan Sains Kesihatan WHO, dalam pengumuman itu. "Pada masa yang sama, inovasi mesti dipandu oleh perlindungan etika yang kukuh yang melindungi maruah manusia, hak dan kesaksamaan."
Doherty menyifatkan laporan itu sebagai menyediakan "pertimbangan praktikal" untuk membantu penyelidik, jawatankuasa etika dan penggubal dasar menavigasi kedua-dua peluang dan risiko yang berkaitan dengan penyelidikan kesihatan berkaitan AI.
Laporan itu meletakkan jawatankuasa etika penyelidikan — badan institusi yang menyemak kajian yang melibatkan peserta manusia — di tengah-tengah rangka kerja pengawasan. Tetapi ia mengakui bahawa jawatankuasa ini mungkin memerlukan kepakaran, latihan dan sumber tambahan untuk menyemak secara berkesan kajian berkaitan AI yang semakin kompleks, yang selalunya melibatkan model legap, set data besar dan teknik yang berada di luar latihan tradisional penyemak etika.
Tanggungjawab di luar jawatankuasa etika
Penerbitan ini juga menekankan bahawa tanggungjawab tidak terhenti di pintu jawatankuasa etika. Penyelidik sendiri, kata WHO, memikul tanggungjawab untuk mengenal pasti dan mengurangkan risiko etika lebih awal, berkomunikasi secara telus, dan mempertimbangkan implikasi masyarakat yang lebih luas daripada teknologi AI yang mereka bina dan gunakan.
Di luar penyelidik dan jawatankuasa individu, laporan itu menyerlahkan peranan pembiaya, jurnal saintifik, badan tadbir urus data, masyarakat profesional dan agensi kawal selia dalam mempromosikan penyelidikan kesihatan berkaitan AI yang bertanggungjawab. Terutamanya, ia berhujah bahawa beberapa cabaran sistemik tidak boleh diuruskan melalui semakan projek demi projek sahaja - pengiktirafan bahawa kesan AI ke atas ekosistem penyelidikan memerlukan respons berstruktur, peringkat institusi.
"Tadbir urus AI yang berkesan dalam penyelidikan kesihatan memerlukan kerjasama merentas disiplin, sektor dan institusi," kata Dr Alain Labrique, Pengarah Jabatan Data WHO, Analitis Kesihatan Digital dan Kepintaran Buatan. "Memandangkan teknologi AI terus berkembang pesat, kami memerlukan mekanisme pengawasan yang tangkas, berasaskan bukti dan mampu memastikan inovasi kekal selamat, boleh dipercayai dan bermanfaat untuk semua."
Dimensi ekuiti
Sebahagian besar laporan menangani cabaran dan peluang di negara berpendapatan rendah dan sederhana. Walaupun AI mempunyai potensi besar untuk membantu menangani cabaran kesihatan yang berterusan dalam tetapan ini, WHO menyatakan bahawa kebanyakan penyelidikan dan pembangunan teknologi AI hari ini kekal tertumpu di negara berpendapatan tinggi.
Oleh itu, memperkukuh kepimpinan tempatan, kapasiti dan penyertaan dalam penyelidikan kesihatan berkaitan AI akan menjadi kritikal, kata organisasi itu — kedua-duanya untuk memastikan manfaat AI diagihkan secara saksama dan untuk mengelak daripada mewujudkan bentuk pengecualian atau ketidaksamaan baharu dalam sains kesihatan global.
Titik permulaan, bukan kata akhir
Menyedari betapa pantasnya teknologi itu bergerak, WHO menerangkan laporan itu sebagai titik permulaan untuk mengukuhkan pengawasan etika dalam era penyelidikan kesihatan berkaitan AI, dan sebagai asas untuk pembangunan standard, panduan dan pendekatan tadbir urus masa hadapan.
Laporan itu tiba ketika sistem kesihatan di seluruh dunia semakin bereksperimen dengan AI untuk diagnosis, penemuan ubat dan dokumentasi klinikal, memberi tekanan kepada institusi penyelidikan untuk menyesuaikan proses semakan mereka. Mesej WHO kepada institusi ialah tetingkap untuk membina pengawasan yang cekap kini — sebelum penemuan yang dijana AI, ujian rekaan AI dan set data yang dianalisis AI menjadi kebiasaan dan bukannya pengecualian.
Laporan penuh dan butiran acara pelancaran maya hari Isnin boleh didapati melalui saluran rasmi Pertubuhan Kesihatan Sedunia.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
