OpenAI ngumumake tanggal 5 Oktober yen bakal miwiti nambahake watermarks sing ora katon ing teks sing digawe dening ChatGPT lan Codex kanggo pangguna ing Uni Eropa, respon konkrit marang aturan asal teks EU AI Act. Ing kiriman blog kanthi irah-irahan "Pendekatan kita kanggo aturan provenance teks EU," perusahaan ujar manawa watermarking bakal diluncurake "sajrone minggu-minggu sing bakal teka" kanggo output sing layak ing blok kasebut, rencana sing dilaporake dina sing padha dening TechCrunch, The Verge, BleepingComputer, Engadget lan toko liyane.
Teknologi ing mburi owah-owahan kasebut diarani textGrain. Tinimbang nancepake tandha sing katon, textGrain dianggo kanthi subtly steering pilihan tembung model supaya teks asil nggawa pola statistik sing bisa dideteksi mengko. Pembaca ora bakal weruh apa-apa nalika nggunakake utawa nyalin teks sing digawe AI; deteksi mbutuhake akses menyang detektor OpenAI, sing ora kasedhiya kanggo masyarakat umum. Kanggo ndeleng luwih akeh babagan carane regulator lan laboratorium tabrakan karo aturan AI, tindakake jangkoan kebijakan AI sing terus ditindakake.
Carane TextGrain Watermarking Works
Pendekatan OpenAI ngowahi proses pilihan token sajrone generasi. Perusahaan ngandika textGrain "rada ngganti pilihan tembung model kanggo nggawe pola statistik sing mengko bisa dideteksi," miturut laporan dening BleepingComputer. Watermark ora katon nalika teks diwaca utawa disalin, lan OpenAI ngaku ora ngrusak kualitas output.
Sisih deteksi sengaja diwatesi. Saliyane peluncuran watermark, OpenAI mbukak aplikasi kanggo detektor watermark, nanging akses wiwitane diwatesi kanggo peneliti lan organisasi ahli sing disetujoni. Desain kasebut ndadekake kemampuan deteksi ora ana ing tangan sapa wae sing ngarep-arep bisa nggunakake senjata kasebut, nanging uga tegese penerbit, guru lan majikan ora bisa verifikasi kanthi mandiri manawa potongan teks diwenehi tandha banyu.
Akses API Iku Milih Ing Donya
Mandat EU ditrapake kanggo output ChatGPT lan Codex ing blok kasebut, nanging OpenAI kanthi bebarengan menehi pilihan kanggo pangembang ing endi wae. Wiwit 5 Oktober, pangembang API ing saindenging jagad bisa milih watermarking teks kanggo model sing didhukung. Fitur kasebut tetep dipateni kanthi standar ing API, keputusan The New Stack disorot minangka kontras karo pendekatan Anthropic, sing menehi tandha tandha kanggo lalu lintas EU ing awal taun iki kanthi nanggepi aturan sing padha.
Dedeg piadeg sing milih bakal nggawe pangembang kuwatir babagan efek samping sing ora dikarepake. Watermarking statistik ngganti cara sampel token, lan modifikasi apa wae kanggo generasi nggawa paling ora ana risiko teoritis kanggo owah-owahan prilaku ing kasus pinggiran. Kanthi nggawe tandha banyu minangka gendera tinimbang standar, OpenAI nransfer keputusan kepatuhan menyang perusahaan sing nggawe model kasebut.
Napa Undhang-undhang AI EU Meksa Iki
Pranata transparansi Undhang-undhang AI EU mbutuhake teks sing digawe AI bisa diidentifikasi minangka digawe mesin, kewajiban sing nyurung OpenAI lan Anthropic menyang skema watermarking statistik. Posting blog OpenAI pigura textGrain minangka implementasine saka syarat provenance kasebut, lan PYMNTS nglaporake peluncuran kasebut minangka rapat OpenAI "mandat EU AI Act" langsung.
Wektu iku kacathet. Pengumuman watermark ndharat ing tengah-tengah kegelisahan sing ora biasa kanggo postur umum OpenAI: siklus warta sing padha nggawa pimpinan safety David Robinson, investigasi FTC babagan risiko konsumen ing laboratorium AI utama, lan atmosfer tuntutan hukum sing njaga perusahaan ing pengawasan. Watermarking minangka salah sawijining panjaluk regulasi sing bisa ditindakake OpenAI kanthi infrastruktur tinimbang owah-owahan produk, sing bisa uga nerangake kenapa dikirim dhisik.
Catch: Watermarks Break Ing Editing
OpenAI dhewe ngakoni watesan dhasar. Perusahaan kasebut ngakoni tandha banyu bisa ilang nalika teks kasebut diowahi, lan riset pirang-pirang dekade babagan steganografi linguistik bali maneh: parafrase, terjemahan utawa malah nulis ulang sing sederhana bisa ngrusak tandha banyu statistik. Sapa wae sing arep ngumbah teks AI liwat alat "humanizer" mesthi bakal sukses.
Kekirangan kasebut ora mandhegake regulator supaya mbutuhake watermarking, lan ora mandhegake laboratorium ngirim. Sasaran sing nyata dudu asal-usul sing ora bisa dirusak, nanging mundhakake biaya penipuan sembrono ing skala, logika sing padha sing ngatur tandha banyu mata uang. Kritikus, kalebu sawetara klompok safety AI sing wis mamang babagan langkah-langkah industri sukarela, mbantah manawa detektor sing bisa diakses mung kanggo organisasi sing disetujoni ora nindakake apa-apa kanggo guru, editor utawa platform sing nyoba ngetrapake kabijakan konten AI dhewe.
Apa Tegese kanggo Pangguna lan Pangembang
Kanggo pangguna ChatGPT lan Codex ing EU, ora ana sing bakal owah. Teks bakal katon lan krasa padha, lan ora ana label sing katon ing output. Watermark mung bakal ana, bisa dideteksi kanthi prinsip dening mitra sing disetujoni OpenAI.
Kanggo pangembang, gendera API teka langsung lan kudu dievaluasi kanthi teliti: nguripake tegese nampa owah-owahan subtle kanggo sampling token ing saben rampung, sanajan kanggo pangguna non-EU, amarga setelan API iku global. Tim kanthi latensi sing ketat utawa anggaran kualitas bisa uga pengin menehi tandha tandha tandha banyu marang persiyapan saiki sadurunge ngowahi saklar.
OpenAI ujar luwih rinci babagan model sing layak lan proses aplikasi detektor bakal teka ing sawetara minggu sing bakal teka. Nalika laboratorium liyane ngadhepi kewajiban EU sing padha, textGrain ora mungkin dadi skema watermarking pungkasan sing ditindakake industri ing taun iki.
Tetep Ahead saka AI
Regulasi nggawe maneh carane produk AI bisa digunakake ing sangisore tutup. Entuk perkembangan AI paling anyar ing AI Buzz Wire, kanthi analisa kebijakan lan warta model dianyari sedina muput.
Waca warta AI liyane ing kene.
