Pengesan Imej AI Meta Gagal Menangkap 55% Imej AI Yang Dipotong Sendiri, Analisis Reuters Mendapati

Sistem pengesanan imej AI Meta gagal untuk mengenal pasti lebih separuh daripada imej yang dijana AI sendiri apabila ia tertakluk kepada pemangkasan asas, menurut analisis Reuters yang diterbitkan pada 10 Julai 2026. Penemuan ini mendedahkan kelemahan ketara dalam alat pengesahan kandungan berkuasa AI pada masa percambahan media sintetik semakin pantas. Untuk liputan komprehensif teknologi AI dan impaknya kepada masyarakat, lawati AI Buzz Wire.

Reuters Menguji Pengesan Meta

Reuters menjalankan penilaian sistematik alat pengesan imej AI Meta, yang direka untuk mengenal pasti imej yang dihasilkan oleh kecerdasan buatan. Hasilnya sungguh menyedihkan: apabila imej yang dijana AI dipangkas — pengubahsuaian yang tidak memerlukan kepakaran teknikal dan boleh dilakukan dalam mana-mana aplikasi penyuntingan foto asas — pengesan gagal membenderakan kira-kira 55% daripadanya sebagai sintetik.

Analisis tertumpu secara khusus pada imej yang dijana oleh alat penjanaan imej AI Meta sendiri, menjadikan kadar kegagalan amat ketara. Jika sistem pengesanan syarikat tidak dapat mengenal pasti kandungan yang dihasilkan oleh model generatifnya sendiri dengan pasti, prospek untuk mengesan imej yang dicipta oleh sistem luaran kelihatan lebih tidak pasti.

Penemuan itu disokong oleh pelbagai penerbitan teknologi, termasuk Taklimat Crypto dan Gizmodo, yang melaporkan kesimpulan yang sama. Imej Ikon Jenama menyatakan bahawa perjuangan pengesan dengan imej yang dipangkas menimbulkan kebimbangan yang mendesak tentang perjuangan yang lebih luas terhadap pemalsuan dalam dan media yang dimanipulasi.

Mengapa Pemotongan Mengalahkan Pengesanan AI

Pengesan imej AI biasanya menganalisis imej dengan memeriksa corak statistik dalam data piksel yang merupakan ciri model generatif. Corak ini boleh termasuk artifak halus dalam tekstur, ketekalan pencahayaan, tandatangan domain frekuensi dan penanda keterangan lain yang membezakan kandungan yang dijana AI daripada gambar yang ditangkap oleh kamera.

Walau bagaimanapun, pemangkasan secara asasnya mengubah komposisi imej, mengalih keluar maklumat kontekstual yang bergantung pada algoritma pengesanan. Apabila imej yang dijana dipangkas untuk memfokus pada kawasan tertentu — muka, objek atau pemandangan tertentu — banyak tandatangan statistik yang akan mengenal pasti ia sebagai sintetik dihapuskan atau direndahkan dengan ketara.

Kerentanan ini bukan unik untuk sistem Meta. Penyelidik keselamatan telah menunjukkan bahawa alat pengesanan serupa daripada pembekal lain boleh dikalahkan melalui pelbagai manipulasi imej, termasuk saiz semula, pemampatan, pelarasan warna dan penambahan bunyi. Analisis Reuters menunjukkan bahawa walaupun transformasi yang paling asas menimbulkan cabaran yang ketara.

Minggu Bermasalah Meta dengan Imej AI

Kelemahan pengesan muncul semasa tempoh yang sukar untuk inisiatif imej AI Meta. Syarikat itu baru-baru ini melancarkan ciri imej AI untuk Instagram yang mengakses foto awam pengguna secara automatik, mendapat kritikan serta-merta daripada penyokong privasi dan profesional kreatif.

Menghadapi tindak balas daripada organisasi termasuk SAG-AFTRA, Meta menjeda ciri itu hanya tiga hari selepas pengenalannya, menurut laporan dari Inc.com dan Associated Press. Syarikat itu akhirnya menghentikan ciri tersebut, menandakan pembalikan pantas pada produk yang telah diletakkan sebagai peningkatan ketara kepada pengalaman Instagram.

Gabungan penarikan ciri dan kegagalan yang didokumenkan oleh pengesan melukiskan gambaran industri yang masih bergelut untuk mengimbangi penggunaan pantas alatan AI generatif dengan keperluan untuk perlindungan dan mekanisme pengesanan yang boleh dipercayai.

Implikasi yang Lebih Luas untuk Ketulenan Kandungan

Penemuan Reuters membawa implikasi yang melampaui ekosistem Meta. Memandangkan imej yang dijana AI menjadi semakin tidak dapat dibezakan daripada gambar, keupayaan untuk mengesan kandungan sintetik dengan pasti telah menjadi cabaran kritikal bagi platform, penerbit dan penggubal dasar.

Platform media sosial termasuk Facebook, Instagram, X (dahulunya Twitter), dan TikTok semuanya telah melaksanakan beberapa bentuk pelabelan kandungan AI, tetapi kebolehpercayaan sistem ini berbeza dengan ketara. Analisis Reuters mencadangkan bahawa teknologi pengesanan semasa mungkin memberikan rasa selamat yang salah, yang berpotensi membenarkan jumlah kandungan sintetik yang besar beredar tanpa dikesan.

Cabaran ini ditambah lagi dengan peningkatan pesat penjana imej AI. Memandangkan model daripada OpenAI, Google, Adobe dan lain-lain menghasilkan output fotorealistik yang semakin meningkat, artifak yang bergantung kepada sistem pengesanan menjadi lebih halus dan sukar untuk dikenal pasti. Perlumbaan senjata antara penjanaan dan keupayaan pengesanan nampaknya semakin condong kepada penjanaan.

Piawaian C2PA dan Tindak Balas Industri

Sebagai tindak balas kepada cabaran pengesahan kandungan yang semakin meningkat, syarikat teknologi utama termasuk Adobe, Microsoft, dan BBC telah memperjuangkan piawaian Coalition for Content Provenance and Authenticity (C2PA). Pendekatan ini membenamkan tandatangan kriptografi dan metadata terus ke dalam fail imej pada peringkat penciptaan, membenarkan platform hiliran mengesahkan asal fail media.

Walau bagaimanapun, C2PA bergantung pada penerimaan secara sukarela dan boleh dilucutkan daripada imej melalui pemprosesan standard. Pengkritik berpendapat bahawa walaupun penjejakan asal menawarkan lapisan perlindungan yang berharga, ia tidak boleh menggantikan keupayaan pengesanan teguh untuk kandungan yang tidak pernah ditandatangani atau tandatangannya telah dialih keluar.

Analisis Reuters menggariskan kesukaran cabaran yang dihadapi oleh industri. Walaupun manipulasi imej paling asas mengalahkan alat pengesanan terkemuka, memastikan ketulenan kandungan visual dalam era AI kekal sebagai masalah yang tidak dapat diselesaikan.

Memandangkan volum kandungan yang dijana AI terus berkembang dengan pesat, tekanan ke atas syarikat teknologi untuk membangunkan sistem pengesanan yang lebih teguh hanya akan meningkat. Buat masa ini, jurang antara apa yang dijanjikan oleh alat ini dan apa yang boleh dipercayai oleh alat ini kekal sebagai kelemahan kritikal dalam memerangi maklumat salah dan media sintetik.

Kekal Mendahului AI

Untuk lebih banyak liputan teknologi AI, deepfakes dan ketulenan kandungan, lawati AI Buzz Wire.

Baca lebih banyak berita AI →