Anthropic akan mula menggunakan tera air halimunan pada teks yang dijana oleh model Claudenya, syarikat itu mengesahkan minggu ini, menjadi penyedia AI terbaharu untuk menambah isyarat asal yang boleh dibaca mesin sebagai tindak balas kepada peraturan ketelusan Eropah baharu.
Perubahan itu, diperincikan dalam halaman sokongan yang dikemas kini, bermakna kandungan yang dihasilkan oleh Claude akan membawa tandatangan tersembunyi yang direka untuk terus disalin dan ditampal di tempat lain. Ia adalah tindak balas langsung kepada Kod Ketelusan Akta AI Kesatuan Eropah, yang berkuat kuasa pada 2 Ogos dan memerlukan syarikat AI menandai kandungan yang dijana atau diedit dengan cara yang boleh dikesan oleh sistem lain.
Cara tera air berfungsi
Anthropic berkata semua model yang dikeluarkan selepas 2 Ogos akan secara automatik menyertakan teknologi untuk menanda air kedua-dua teks dan fail yang dijana komputer. Untuk fail, syarikat itu mengguna pakai standard terbuka C2PA, rangka kerja kelayakan kandungan yang telah digunakan oleh beberapa pembuat kamera dan alat penyuntingan imej untuk merakam cara sekeping media dicipta.
Tera air teks dibenamkan pada peringkat model dan bukannya digunakan sebagai renungan. Menurut dokumentasi sokongan Anthropic, "kerana tera air adalah sebahagian daripada teks, ia akan bergerak bersama teks apabila ia disalin dan ditampal di tempat lain, dan mungkin berterusan melalui beberapa pengeditan. Penanda air akan digunakan pada peringkat model, yang bermaksud ia akan hadir tidak kira dari mana produk atau permukaan teks berasal dari Claude."
Syarikat itu menambah bahawa ia merancang untuk melanjutkan sokongan penanda air kepada model lama juga. Ciri ini akan digunakan di seluruh barisan produk Anthropic, termasuk API platform Claude, apl sembang Claude, Kod Claude, Claude Cowork dan Claude Tag.
Tepat berapa banyak pengeditan yang perlu dilakukan oleh pengguna untuk menanggalkan tanda itu tidak sepenuhnya jelas, dan Anthropic tidak memperincikan teknik tersebut secara terbuka. Penanda air teks secara teknikalnya sukar kerana perubahan kecil pada perkataan boleh memecahkan corak statistik yang rapuh, cabaran yang telah lama wujud untuk penyelidik dalam bidang tersebut.
Tiada pilih keluar untuk pengguna
Terutama, pengguna Claude tidak akan dapat melumpuhkan tera air. Tetapan ini dikuatkuasakan oleh model itu sendiri dan bukannya ditukar bagi setiap permintaan, yang bermaksud sesiapa yang menjana teks melalui permukaan Claude akan menandainya sama ada mereka mahukannya atau tidak.
Pendirian itu berkemungkinan menarik balik daripada sesetengah pengguna profesional. Penulis, pembangun dan perniagaan yang menggunakan Claude untuk mendraf kandungan telah terbiasa dengan keluaran yang bersih dan tidak bertanda, dan sesetengahnya mungkin tidak selesa dengan tandatangan yang tidak kelihatan mengikuti teks mereka di seluruh internet. Anthropic nampaknya telah membuat kesimpulan bahawa pematuhan peraturan mengatasi keutamaan itu.
Sebahagian daripada perebutan industri yang lebih luas
Anthropic tidak bertindak sendirian. Keperluan ketelusan EU telah mencetuskan perlumbaan antara AI dan platform kandungan untuk menambah isyarat asal sebelum pengawal selia datang mengetuk.
Baru minggu lepas, platform muzik AI Suno berkata ia akan mula menandakan trek yang dibuat pada perkhidmatannya selepas gelombang cabaran undang-undang ke atas audio yang dijana AI. Bulan lalu, platform surat berita Substack bekerjasama dengan firma pengesan Pangram untuk membenderakan kandungan yang dijana AI, dengan Ketua Pegawai Eksekutif Substack Chris Best secara terbuka memanggil "Claudefishing," istilahnya untuk orang yang menggunakan AI untuk membanjiri platform dengan bahan berkualiti rendah.
Tekanan menjangkau jauh melebihi pesaing langsung Anthropic. Black Forest Labs, Google, Meta, Microsoft, OpenAI, dan Synthesia semuanya komited untuk mematuhi kod ketelusan EU, menurut laporan oleh TechCrunch, menandakan bahawa penanda air pantas menjadi jangkaan industri garis dasar dan bukannya pembeza.
Mengapa asal tiba-tiba mendesak
Tekan untuk tera air mencerminkan dua kebimbangan yang menumpu. Yang pertama ialah kawal selia: Akta AI EU kini berkuat kuasa, dan syarikat yang gagal mematuhi akan menghadapi prospek penalti yang ketara. Menyediakan infrastruktur asal lebih awal adalah lebih murah daripada menyesuaikannya di bawah tekanan penguatkuasaan.
Yang kedua ialah reputasi. Memandangkan teks, imej, audio dan video yang dijana AI telah membanjiri platform sosial, penerbit dan platform menghadapi tindak balas yang semakin meningkat terhadap "AI slop", kandungan sintetik berkualiti rendah yang menyesakkan kerja manusia dan menghakis kepercayaan. Tera air yang tidak kelihatan menawarkan jawapan teknikal kepada soalan yang tidak dapat diselesaikan oleh kesederhanaan sahaja: adakah ini ditulis oleh mesin?
Bagi Anthropic, yang telah membina jenamanya berdasarkan keselamatan AI, menggunakan tera air juga merupakan langkah kredibiliti. Sebuah syarikat yang memasarkan dirinya sebagai alternatif yang bertanggungjawab mempunyai insentif yang kuat untuk menerajui ketelusan dan bukannya dilihat menyeret kakinya.
Soalan yang lebih sukar masih tidak dapat diselesaikan. Tera air hanya membantu jika alat pengesanan benar-benar mencarinya dan jika tanda itu terbukti cukup teguh untuk bertahan dalam pengeditan, pemformatan semula dan pengubahan yang berlaku semasa kandungan bergerak merentasi web terbuka. Pertaruhan Anthropic ialah membenamkan isyarat pada tahap model ialah pendekatan yang paling tahan lama. Sama ada ia bertahan dalam amalan akan diuji dengan cepat, dan secara terbuka, dalam beberapa bulan akan datang.
Untuk liputan berterusan tentang dasar AI dan alat yang membentuk semula industri, tandai halaman liputan berita AI terobosan AI Buzz Wire.
