Model Penaakulan AI yang Lebih Baharu Masih Menghasilkan Stereotaip Perkauman dan Jantina dalam Perubatan, Dapatan Kajian

Malah model AI berkeupayaan penaakulan generasi terkini menghasilkan semula stereotaip kaum dan jantina apabila ditanya tentang senario perubatan, menurut penyelidikan baharu daripada saintis Australia. Penemuan, yang dilaporkan pada 7 Ogos 2026, merupakan peringatan yang menyedihkan bahawa meningkatkan kecerdasan model tidak secara automatik menghapuskan bias sistemik yang tertanam dalam data latihan. Untuk lebih banyak berita terbaharu AI tentang persimpangan kecerdasan buatan dan ekuiti penjagaan kesihatan, kajian itu menimbulkan persoalan mendesak tentang menggunakan alat ini dalam tetapan klinikal.

Menguji Model Penaakulan Generasi Seterusnya

Penyelidik bertanya kepada dua model bahasa besar penaakulan generasi akan datang, OpenAI's o3-mini dan DeepSeek-R1, mengenai pesakit fiksyen untuk menilai sama ada model yang lebih baharu telah mengatasi bias yang didokumentasikan dengan baik oleh pendahulu mereka. Model penaakulan, yang menghabiskan pengiraan tambahan "berfikir" melalui masalah sebelum menjawab, biasanya dianggap lebih berkemampuan daripada chatbots standard pada tugas yang rumit. Andaian adalah bahawa keupayaan tambahan ini mungkin juga menjadikannya lebih dipercayai dalam domain sensitif seperti perubatan.

Hasilnya mencadangkan sebaliknya. Kajian mendapati bahawa kedua-dua model menghasilkan semula stereotaip kaum dan jantina apabila dibentangkan dengan senario klinikal, menunjukkan bahawa lonjakan daripada seni bina standard kepada penaakulan tidak menyelesaikan masalah asas data latihan berat sebelah.

Masalah Berterusan Merentas Generasi

Penemuan ini konsisten dengan bukti yang semakin meningkat bahawa berat sebelah perubatan dalam AI adalah berterusan. Kajian literatur sistematik yang diterbitkan dalam Nature pada April 2026 mengkaji berat sebelah, perwakilan dan kesetiaan klinikal dalam imej janaan AI yang digunakan untuk pendidikan perubatan. Semakan itu mendapati kurang perwakilan yang meluas bagi kumpulan demografi tertentu dan gambaran stereotaip apabila mereka muncul.

Pada Mei 2026, The Lancet menerbitkan semakan skop metrik keadilan untuk model ramalan klinikal berasaskan AI. Analisis itu mendapati bahawa walaupun penyelidik telah mencadangkan banyak rangka kerja matematik untuk mengukur kesaksamaan, metrik digunakan secara tidak konsisten merentas kajian, menjadikannya sukar untuk menilai sama ada kemajuan sebenar sedang dibuat.

Kajian Australia menambah dimensi baharu dengan memfokuskan secara khusus pada model penaakulan, kategori AI yang dipercayai ramai akan lebih teguh terhadap berat sebelah kerana pendekatan penyelesaian masalah berstruktur mereka.

Mengapa Penaakulan Tidak Menghapuskan Bias

Kegigihan berat sebelah dalam model penaakulan menunjuk kepada isu struktur dalam cara sistem ini belajar. Model bahasa yang besar dilatih pada korpora teks yang luas, yang kebanyakannya mencerminkan berat sebelah, stereotaip dan ketidaksamaan yang terdapat dalam dunia nyata. Kesusasteraan perubatan sendiri secara historis telah melebihkan pesakit lelaki kulit putih dalam ujian klinikal dan wanita dan kaum minoriti yang kurang diwakili.

Model penaakulan meningkatkan prestasi pada masalah logik dan pelbagai langkah dengan menjana langkah penaakulan perantaraan, tetapi langkah penaakulan tersebut masih dihasilkan oleh model asas yang sama yang dilatih pada data yang sama. Jika model itu telah mempelajari perkaitan antara kumpulan demografi tertentu dan keadaan perubatan atau ciri personaliti tertentu, model tersebut boleh menghasilkan semula perkaitan tersebut walaupun semasa "menaakul" melalui senario klinikal.

Ini bermakna bahawa kesetiaan klinikal model, keupayaannya untuk menghasilkan output perubatan yang tepat dan saksama, bergantung bukan sahaja pada seni bina penaakulan tetapi pada keterwakilan dan kualiti data yang dilatih.

The Stakes for Healthcare AI

Penemuan itu tiba pada saat AI sedang disematkan dengan pantas dalam infrastruktur penjagaan kesihatan. Hospital dan sistem kesihatan menggunakan AI untuk tugas yang terdiri daripada dokumentasi klinikal dan analisis pengimejan perubatan kepada triase pesakit dan cadangan rawatan. Rangkaian HCPLive melaporkan pada Ogos 2026 mengenai kebimbangan bahawa AI boleh memburukkan lagi jurang penjagaan kesihatan jika model berat sebelah digunakan tanpa pengawasan yang mencukupi.

Jika model penaakulan masih menghasilkan semula stereotaip tentang bangsa dan jantina apabila ditanya tentang pesakit, risikonya ialah alat ini boleh mengukuhkan jurang yang sedia ada dalam diagnosis, cadangan rawatan dan komunikasi pesakit. Model yang secara sistematik mengaitkan keadaan tertentu dengan kumpulan demografi tertentu, atau yang melayan pesakit secara berbeza berdasarkan kaum atau jantina, boleh menyebabkan kemudaratan sebenar dalam tetapan klinikal.

Kajian Eurasia, melaporkan mengenai kajian itu, menyatakan bahawa kegigihan berat sebelah merentas generasi model menunjukkan bahawa pendekatan industri AI untuk menangani berat sebelah perubatan mungkin perlu beralih daripada penambahbaikan seni bina model kepada tadbir urus data dan ekuiti perwakilan.

Apa yang Perlu Diubah

Penyelidikan menunjukkan beberapa perubahan yang diperlukan. Pertama, data latihan untuk AI perubatan mesti diaudit untuk ekuiti perwakilan, memastikan wanita, kaum minoriti dan kumpulan lain yang kurang diwakili dicerminkan dengan secukupnya. Kedua, ujian kesaksamaan harus menjadi langkah wajib sebelum menggunakan AI dalam tetapan klinikal, bukan renungan. Ketiga, komuniti perubatan memerlukan penanda aras piawai untuk menilai sama ada model merawat pesakit secara saksama merentas kumpulan demografi.

Dapatan semakan skop Lancet bahawa metrik kesaksamaan digunakan secara tidak konsisten menyerlahkan keperluan untuk rangka kerja penilaian piawai. Tanpa persetujuan tentang cara mengukur berat sebelah, adalah mustahil untuk memastikan pembangun AI bertanggungjawab atau untuk menjejaki sama ada kemajuan sedang dibuat.

Panggilan untuk Berhati-hati

Kajian Australia bertindak sebagai amaran terhadap andaian bahawa model yang lebih berkebolehan sememangnya lebih selamat. Memandangkan model penaakulan menjadi lalai untuk aplikasi berkepentingan tinggi dalam bidang perubatan, undang-undang dan kewangan, penemuan berat sebelah perubatan mencadangkan bahawa keupayaan mentah dan ekuiti adalah masalah berasingan yang memerlukan penyelesaian berasingan.

Bagi organisasi penjagaan kesihatan yang mempertimbangkan penggunaan AI, mesejnya adalah jelas: malah model penaakulan paling maju yang tersedia hari ini boleh menghasilkan semula stereotaip yang berbahaya, dan risiko itu mesti diuruskan secara aktif melalui ujian, pengawasan dan komitmen terhadap data yang saksama.

Kekal Mendahului AI

Apabila AI menjadi tertanam dalam penjagaan kesihatan, memahami batasannya adalah sama pentingnya dengan meraikan keupayaannya. Untuk mengikuti perkembangan AI terkini dalam penyelidikan perubatan, keselamatan model dan teknologi penjagaan kesihatan, ikuti [liputan industri AI] kami yang berterusan (https://aibuzzwire.news).

Baca lebih banyak berita AI →