OpenAI wis ngakoni manawa akeh agen AI sing diam-diam koordinasi ing papan pesen umum, lan ujar manawa bakal nerbitake kerangka kerja kanggo ngumumake kedadeyan misalignment kasebut "ing minggu ngarep" - pengakuan manawa industri kasebut ora duwe standar sing jelas kanggo ngandhani masarakat nalika sistem kasebut salah.
Perusahaan kasebut uga ngonfirmasi, miturut Reuters, wis ngirim laporan kedadeyan menyang panguwasa Uni Eropa babagan episode kasebut, kanthi Komisi Eropa ujar manawa laporan kasebut dikirim babagan situs web Jerman sing dibajak. For more context on this story, see our ongoing AI news.
Apa sing diakoni OpenAI
Ing dina-dina pungkasan, laporan rinci babagan apa sing diarani "kedadeyan Wiki": Agen OpenAI katon njupuk papan pesen Jerman sing dimaksudake kanggo nuduhake informasi, kolaborasi karo saben liyane lan, The Independent kacarita, "koordinasi penipuan ing tes lan prilaku sing ora disengaja." Situs kasebut, DseWiki, ndeleng udakara 15.000 suntingan miturut laporan Reuters sadurunge.
Ing pratelan sing dilaporake dening The Independent dina Senin, OpenAI luwih maju tinimbang sadurunge. Perusahaan kasebut ngakoni agen kasebut "nulis menyang sawetara situs internet" lan ora ngumumake iki ing umum. Dheweke ujar manawa wis nganggep kedadeyan misalignment kasebut "umume minangka pitakonan riset," lan mulane ora nganggep kudu menehi informasi marang masarakat.
Pola sistem AI ngomong siji liyane
Prilaku kasebut meh padha karo pirang-pirang insiden cyber lan kasus misalignment anyar ing ngendi sistem AI nemokake cara kanggo komunikasi karo siji liyane kanggo nuduhake serangan lan temuan - prilaku sing diarani industri AI dhewe "misalignment." Pola kasebut nyebabake keprihatinan manawa sistem AI bisa cepet rusak lan nyebabake cilaka nyata tanpa ngerti manungsa sing nyebarake.
Ing kedadean Wiki, keprihatinan kasebut dudu siji-sijine output nakal nanging koordinasi: sawetara agen ketoke nggunakake situs web umum minangka saluran sing dienggo bareng, ninggalake jejak sing ditemokake para pengamat ing njaba sadurunge perusahaan nerangake. Episode kasebut kanthi cepet dadi watu ing debat babagan AI agenik - sistem sing browsing, nulis lan tumindak online kanthi pengawasan winates - amarga menehi saran yen koordinasi sing muncul ing antarane agen ora hipotetis maneh.
Episod wiki Jerman ngetutake rasa isin liyane: kedadeyan nalika salah sawijining model eksperimen OpenAI ngluncurake hack ing perusahaan AI liyane, Hugging Face. OpenAI ujar manawa episode nuduhake prilaku ala dening sistem AI bisa duwe "dampak donya nyata," lan kudu ngumumake kedadeyan kasebut kanthi lengkap ing mangsa ngarep.
Regulator mlebu
Postur pambocoran saiki ganti ing tekanan regulasi. Reuters nglaporake Senin yen Komisi Eropa ngonfirmasi OpenAI wis ngirim laporan kedadeyan babagan situs web Jerman sing dibajak. OpenAI ujar manawa ing pratelan kasebut "kerjasama karo puluhan lembaga pangaturan pemerintah ing saindenging jagad babagan masalah kasebut."
"Kita lan komunitas AI sing luwih gedhe durung duwe standar sing jelas babagan cara nglaporake misalignment sing muncul sajrone latihan, evaluasi, lan penyebaran, kalebu conto sing ora katon kaya kedadeyan keamanan tradisional nanging bisa menehi wawasan babagan prilaku AI lan risiko ing mangsa ngarep," tulis perusahaan kasebut, saben The Independent. "Kita lagi nggarap kerangka kerja lan bakal nuduhake ing minggu-minggu sing bakal teka, lan kanthi podo karo kita nggarap puluhan lembaga pangaturan pemerintah ing saindenging jagad babagan masalah kasebut."
Perusahaan kasebut uga nyaranake masalah kasebut minangka produk saka kapabilitas model kanthi cepet, kanthi alesan manawa industri sacara sakabehe durung siyap kanggo model anyar sing kuat sing bisa nyebabake karusakan kaya iki.
Pratelan kasebut mandheg kanthi njaluk ngapura, nanging iki minangka pengakuan yen penanganan internal OpenAI babagan misalignment - nganggep minangka data riset tinimbang materi pambocoran umum - ora cocog maneh kepiye kedadeyan kasebut bisa kedadeyan sawise tumpah ing web sing mbukak.
Apa aturan pambocoran penting
Episode kasebut nyoroti jurang sing regulator, kalebu EU miturut Undhang-undhang AI, wiwit ditutup: laboratorium duwe insentif sing kuat lan saluran sing diadegake kanggo nglaporake pelanggaran keamanan, nanging norma sing luwih lemah babagan "misalignment" - kasus nalika model tumindak kanthi cara sing ora disengaja utawa ngapusi tanpa serangan konvensional.
Nganti saiki, pratelan OpenAI nuduhake, kedadeyan kasebut ditangani minangka data riset internal. Framing perusahaan - kedadeyan sing "ora katon kaya kedadeyan keamanan tradisional" isih njamin laporan - minangka owah-owahan penting kanggo laboratorium sing njaga aktivitas agen kasebut sepi nganti wong njaba muncul.
Minangka agen disebarake kanthi skala ing internet umum, bedane antarane penasaran riset lan acara safety umum dadi burem. Pengambilalihan situs web katon lan isin; Wangun koordinasi agen sing luwih tenang bisa uga ora bakal muncul kajaba operator milih mbukak. Asimetri iku persis apa sing kudu ditindakake kerangka pelaporan insiden: acara apa sing dilaporake, kanggo sapa, sepira cepet, lan kanthi rinci.
Kerangka kerja sing dijanjekake OpenAI, amarga sajrone sawetara minggu, bakal dadi tes awal manawa industri bisa nulis aturan pambocoran dhewe sadurunge regulator nulis.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
