OpenAI Melancarkan Tanda Air TextGrain yang tidak kelihatan pada ChatGPT dan Teks Codex di EU

OpenAI mengumumkan pada 5 Oktober bahawa ia akan mula menambah tera air halimunan pada teks yang dijana oleh ChatGPT dan Codex untuk pengguna di Kesatuan Eropah, tindak balas konkritnya terhadap peraturan asal teks EU AI Act. Dalam catatan blog bertajuk "Pendekatan kami terhadap peraturan asal teks EU," syarikat itu berkata penanda air akan dilancarkan "dalam beberapa minggu akan datang" untuk keluaran yang layak dalam blok itu, rancangan yang dilaporkan pada hari yang sama oleh TechCrunch, The Verge, BleepingComputer, Engadget dan cawangan lain.

Teknologi di sebalik perubahan itu dipanggil textGrain. Daripada membenamkan tanda yang boleh dilihat, textGrain berfungsi dengan mengemudi pilihan perkataan model secara halus supaya teks yang terhasil membawa corak statistik yang boleh dikesan kemudian. Pembaca tidak akan perasan apa-apa apabila menggunakan atau menyalin teks yang dijana AI; pengesanan memerlukan akses kepada pengesan OpenAI, yang tidak tersedia untuk orang awam. Untuk melihat lebih luas tentang cara pengawal selia dan makmal bertembung dengan peraturan AI, ikuti liputan dasar AI kami yang berterusan.

Bagaimana TextGrain Watermarking Berfungsi

Pendekatan OpenAI mengubah suai proses pemilihan token semasa penjanaan. Syarikat itu berkata textGrain "sedikit mengubah pilihan perkataan model untuk mencipta corak statistik yang kemudiannya boleh dikesan," menurut laporan oleh BleepingComputer. Tera air tidak kelihatan apabila teks dibaca atau disalin, dan OpenAI mendakwa ia tidak merendahkan kualiti output.

Bahagian pengesanan sengaja dihadkan. Di samping pelancaran tera air, OpenAI membuka aplikasi untuk pengesan tera airnya, tetapi akses pada mulanya akan dihadkan kepada penyelidik dan organisasi pakar yang diluluskan. Reka bentuk itu mengekalkan keupayaan pengesanan daripada tangan sesiapa sahaja yang berharap untuk mempersenjatainya, tetapi ini juga bermakna penerbit, guru dan majikan tidak boleh mengesahkan secara bebas sama ada sekeping teks ditanda air.

Akses API Adalah Ikut serta Seluruh Dunia

Mandat EU terpakai pada output ChatGPT dan Codex dalam blok, tetapi OpenAI pada masa yang sama memberi pembangun di mana-mana pilihan. Mulai 5 Oktober, pembangun API di seluruh dunia boleh mengikut serta dalam penanda air teks untuk model yang disokong. Ciri ini kekal dilumpuhkan secara lalai pada API, keputusan yang diserlahkan The New Stack sebagai kontras dengan pendekatan Anthropic, yang menghidupkan penandaan asal untuk trafik EU awal tahun ini dalam tindak balasnya sendiri terhadap peraturan yang sama.

Postur ikut serta itu akan meyakinkan pembangun yang bimbang tentang kesan sampingan yang tidak dijangka. Tera air statistik mengubah cara token dijadikan sampel, dan sebarang pengubahsuaian kepada penjanaan membawa sekurang-kurangnya risiko teori untuk mengubah tingkah laku pada kes tepi. Dengan menjadikan penanda air sebagai bendera dan bukannya lalai, OpenAI memindahkan keputusan pematuhan kepada syarikat yang membina modelnya.

Mengapa Akta AI EU Memaksa Ini

Peruntukan ketelusan Akta AI EU menghendaki teks yang dijana AI dikenal pasti sebagai dijana mesin, satu kewajipan yang mendorong kedua-dua OpenAI dan Anthropic ke arah skim penanda air statistik. Catatan blog OpenAI membingkai textGrain sebagai pelaksanaan keperluan asal tersebut, dan PYMNTS melaporkan pelancaran itu sebagai mesyuarat OpenAI "mandat Akta AI EU" secara langsung.

Masa yang ketara. Pengumuman tera air itu tiba di tengah-tengah pergolakan yang luar biasa untuk postur awam OpenAI: kitaran berita yang sama membawa pemergian pemimpin keselamatan David Robinson, penyiasatan FTC terhadap risiko pengguna di makmal AI utama, dan suasana tuntutan mahkamah pemegang saham yang telah memastikan syarikat itu dalam pengawasan. Penanda air ialah salah satu daripada beberapa tuntutan kawal selia yang OpenAI boleh penuhi sepenuhnya dengan infrastruktur dan bukannya perubahan produk, yang mungkin menjelaskan sebab ia dihantar terlebih dahulu.

Tangkapan: Tera Air Terpecah Dalam Penyuntingan

OpenAI sendiri mengakui had asas. Syarikat itu mengakui tera airnya boleh hilang apabila teks diedit, dan penyelidikan selama beberapa dekad mengenai steganografi linguistik mengembalikan kebimbangan itu: parafrasa, terjemahan atau penulisan semula yang sederhana boleh memusnahkan tera air statistik. Sesiapa sahaja yang berazam untuk mencuci teks AI melalui alat "humanizer" mungkin akan berjaya.

Kelemahan itu tidak menghalang pengawal selia daripada memerlukan penanda air, dan ia tidak menghalang makmal daripada menghantarnya. Matlamat yang realistik bukanlah asal kalis gangguan tetapi meningkatkan kos penipuan biasa pada skala, logik yang sama yang mengawal tera air mata wang. Pengkritik, termasuk beberapa kumpulan keselamatan AI yang ragu-ragu terhadap langkah industri sukarela, berpendapat bahawa pengesan hanya boleh diakses oleh organisasi yang diluluskan tidak banyak membantu guru, editor atau platform yang cuba menguatkuasakan dasar kandungan AI mereka sendiri.

Maksudnya untuk Pengguna dan Pembangun

Bagi pengguna ChatGPT dan Codex di dalam EU, tiada apa yang akan berubah secara nyata. Teks akan kelihatan dan terasa sama, dan tiada label akan muncul pada output. Tera air hanya akan berada di sana, boleh dikesan pada dasarnya oleh rakan kongsi OpenAI yang diluluskan.

Bagi pembangun, bendera API tiba serta-merta dan patut dinilai dengan teliti: menghidupkannya bermakna menerima perubahan halus pada pensampelan token merentas setiap penyiapan, walaupun untuk pengguna bukan EU, memandangkan tetapan API adalah global. Pasukan dengan kependaman yang ketat atau belanjawan kualiti mungkin ingin menanda aras penjanaan tera air dengan persediaan semasa mereka sebelum menukar suis.

OpenAI mengatakan lebih terperinci tentang model yang layak dan proses permohonan pengesan akan tiba dalam beberapa minggu akan datang. Memandangkan makmal lain menghadapi kewajipan EU yang sama, textGrain tidak mungkin menjadi skim penanda air terakhir yang digunakan oleh industri tahun ini.

Kekal Mendahului AI

Peraturan sedang membentuk semula cara produk AI berfungsi di bawah hud. Dapatkan perkembangan AI terkini di AI Buzz Wire, dengan analisis dasar dan berita model dikemas kini sepanjang hari.

Baca lebih banyak berita AI di sini.