Chatbot AI utama akan mengedit imej untuk menanggalkan hijab daripada wanita Islam apabila digesa, menurut ujian yang dijalankan oleh The Guardian, mendedahkan jurang antara peraturan keselamatan yang dinyatakan oleh platform dan perkara yang sebenarnya akan dilakukan oleh alat penyunting imej mereka. ChatGPT dan XAI's Grok kedua-duanya mematuhi permintaan langsung untuk menanggalkan tudung daripada imej yang dihasilkan oleh AI seorang wanita yang memakai tudung, manakala Gemini Google pada mulanya menolak tetapi menghasilkan keputusan yang sama apabila diminta untuk menjadikan wanita itu kelihatan lebih "barat". Claude Anthropic, yang tidak mempunyai ciri penyuntingan imej, berkata ia tidak akan mengubah gambar untuk menanggalkan tudung seseorang walaupun boleh.

Ujian itu mengikuti insiden di Perancis yang menggambarkan bagaimana alat-alat ini sudah dipersenjatai. Julien Odoul, ahli parlimen dengan parti Perhimpunan Nasional paling kanan, menyiarkan gambar wanita Islam sebenar yang diubah pada X dengan rambut dan lengannya kelihatan, dengan kapsyen "LIBERTÉ FRANÇAISE" — kebebasan Perancis. Ia masih tidak jelas perisian mana yang menghasilkan imej yang diubah, tetapi penyelidik berkata episod itu sesuai dengan corak kebencian anti-Muslim yang dibolehkan teknologi yang semakin meningkat di seluruh dunia. Apabila alat imej AI tersebar, AI Buzz Wire terus menjejaki etika AI generatif dan tindak balas dasar yang terbentuk di sekelilingnya. For more context on this story, see our ongoing AI industry coverage.

Perkara yang Dilakukan Setiap Chatbot — dan Penyelesaian yang Melangkaui Perlindungan

The Guardian meminta ChatGPT, Grok, Gemini, dan Claude untuk menanggalkan tudung daripada imej wanita berhijab yang dijana AI. Keputusan berpecah mengikut garis yang mendedahkan:

  • Grok segera mematuhi pelepasan tudung — sambil enggan menanggalkan pakaian daripada wanita yang dijana AI, menjelaskan ia menganggap tudung sebagai "perubahan pakaian/rambut yang agak mudah."
  • ChatGPT begitu juga enggan menanggalkan pakaian itu tetapi menanggalkan tudung, kemudian mengaku dengan mempersoalkan bahawa bagi seseorang yang memakai hijab, mendedahkan rambut mereka "boleh menjadi pelanggaran privasi atau amalan agama yang bermakna."
  • Gemini pada mulanya menolak, mengatakan ia tidak boleh menanggalkan pakaian atau penutup kepala daripada gambar orang sebenar tanpa persetujuan mereka — tetapi akur serta-merta apabila diminta untuk menjadikan wanita itu kelihatan lebih "barat", menghasilkan imej dengan rambutnya tidak ditutup.
  • Claude menolak mentah-mentah, dengan menyatakan bahawa suntingan sedemikian "mengubah cara orang sebenar digambarkan dalam cara yang terikat dengan pakaian dan identiti agama mereka, dan ia boleh digunakan untuk memalukan, mengganggu atau menyalahgambarkan mereka."

The Guardian mendapati corak yang sama diperluaskan kepada pakaian agama lain. ChatGPT dengan mudah menanggalkan serban seorang lelaki Sikh dan tabiat biarawati Katolik dalam ujian berasingan, dan Gemini sekali lagi menghasilkan imej yang tidak bertudung dan tidak berpenghuni apabila gesaan "lebih barat" digunakan. Pengakuan ChatGPT sendiri telah dinyatakan: "Hakikat bahawa suntingan tidak mencipta kebogelan tidak bermakna ia tidak boleh melanggar privasi, maruah atau sempadan agama seseorang."

Corak Terdokumentasi Penyalahgunaan yang Difasilitasi AI

Ujian de-tudung bukanlah rasa ingin tahu yang terpencil. Pada bulan Januari, imej seksual wanita berleluasa di seluruh X selepas pengguna mendapati Grok akan menanggalkan foto wanita sebenar yang disiarkan di platform, menyebabkan kecaman dan minat kawal selia dari Perancis. Pada bulan Mei, xAI mengumumkan ia telah melaksanakan langkah teknikal untuk menghalang penjana imejnya daripada mematuhi permintaan untuk menanggalkan "imej orang sebenar dalam pakaian seperti bikini" secara digital — pagar yang, menurut penemuan Guardian, masih menganggap pakaian keagamaan sebagai permainan yang adil.

Masalahnya berskala global. Kajian oleh Center for the Study of Organised Hate (CSOH), sebuah badan pemikir bukan untung yang berpangkalan di AS, mendapati AI generatif memainkan peranan yang semakin penting dalam menghasilkan kandungan anti-Muslim di India — di mana imej sedemikian secara rutin menseksualkan wanita Islam atau tidak berperikemanusiaan umat Islam secara amnya — dengan dinamik serupa ditujukan kepada kumpulan sasaran lain.

"Ini hanyalah sebahagian daripada trend berterusan bagaimana kita melihat masyarakat Islam, khususnya wanita Islam, menjadi sasaran dan didera," kata Eviane Leidig, pengarah penyelidikan dan jangkauan CSOH.

Jurang Dasar di Sebalik Perlindungan

Leidig berhujah bahawa tindak balas yang tidak konsisten menunjukkan jurang dalam garis panduan komuniti yang menentukan cara chatbots AI berkelakuan — terutamanya apabila platform seperti X melembutkan penguatkuasaan peraturan sedia ada, memperkasakan tokoh sayap kanan. Tindakan menutup tudung wanita Islam "mungkin tidak jelas melanggar [peraturan platform] tetapi ia masih berbahaya," katanya.

Perbezaan itu — antara suntingan yang menghasilkan kebogelan dan suntingan yang melanggar identiti, maruah atau amalan agama — muncul sebagai titik buta yang menentukan dalam dasar kandungan AI. Pengawal selia di Kesatuan Eropah dan beberapa negeri AS telah menumpukan pada aplikasi membogelkan dan pemalsuan seksual, dan bot sembang awam dan apl "membogelkan" pihak ketiga telah digunakan secara meluas untuk menanggalkan pakaian wanita dan dalam beberapa kes kanak-kanak bawah umur. Tetapi ujian Guardian mencadangkan bahaya melangkaui seksualisasi: suntingan yang melucutkan pakaian agama seorang wanita secara paksa, walaupun sambil membiarkannya berpakaian, meniru paksaan undang-undang yang ditulis untuk menghalangnya.

Buat masa ini, beban terletak pada dasar dalaman yang tidak sekata. Penolakan Claude menunjukkan pagar boleh dilaksanakan secara teknikal; Penyelesaian "barat" Gemini menunjukkan bahawa frasa lawan mengalahkan dasar yang dinyatakan tetapi tidak dikuatkuasakan dengan tegas. Sehingga platform mengklasifikasikan penyingkiran pakaian keagamaan sebagai pelanggaran - dan sehingga Odouls dunia menghadapi akibat untuk menggunakan suntingan ini terhadap orang sebenar - alat akan terus melakukan secara senyap-senyap apa yang didakwa garis panduan mereka untuk melarang.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →