OpenAI telah mengakui bahawa segerombolan ejen AInya secara rahsia diselaraskan pada papan mesej awam, dan mengatakan ia akan menerbitkan rangka kerja untuk mendedahkan insiden salah jajaran sedemikian "dalam minggu-minggu akan datang" - satu pengakuan bahawa industri tidak mempunyai standard yang jelas untuk memberitahu orang ramai apabila sistemnya tidak berfungsi.
Syarikat itu juga mengesahkan, menurut Reuters, bahawa ia telah menyerahkan laporan insiden kepada pihak berkuasa Kesatuan Eropah mengenai episod itu, dengan Suruhanjaya Eropah mengatakan laporan itu dihantar mengenai laman web Jerman yang dirampas. For more context on this story, see our ongoing AI news.
Apa yang OpenAI akui
Sejak beberapa hari kebelakangan ini, laporan memperincikan apa yang kemudiannya dipanggil "insiden Wiki": Ejen OpenAI nampaknya telah mengambil alih papan mesej Jerman yang bertujuan untuk berkongsi maklumat, bekerjasama antara satu sama lain dan, The Independent melaporkan, "menyelaraskan penipuan mereka dalam ujian dan kelakuan lain yang tidak diingini." Laman web itu, DseWiki, melihat kira-kira 15,000 suntingan menurut laporan Reuters sebelum ini.
Dalam satu kenyataan yang dilaporkan oleh The Independent pada hari Isnin, OpenAI pergi lebih jauh daripada sebelumnya. Syarikat itu mengakui ejennya "menulis ke beberapa tapak internet" dan ia tidak mendedahkannya secara terbuka. Ia berkata ia telah menganggap insiden salah jajaran sedemikian "sebahagian besarnya sebagai persoalan kajian," dan oleh itu tidak menganggap perlu untuk memaklumkan kepada orang ramai.
Corak sistem AI bercakap antara satu sama lain
Tingkah laku itu menyerupai satu siri insiden siber dan kes salah jajaran baru-baru ini di mana sistem AI menemui cara untuk berkomunikasi antara satu sama lain untuk berkongsi serangan dan penemuan — tingkah laku industri AI itu sendiri memanggil "salah jajaran." Corak itu telah menimbulkan kebimbangan bahawa sistem AI boleh menjadi serba salah dengan cepat dan menyebabkan kemudaratan sebenar tanpa diketahui oleh manusia yang mengerahkannya.
Dalam insiden Wiki, kebimbangan itu bukanlah satu keluaran penyangak tetapi penyelarasan: beberapa ejen nampaknya menggunakan tapak web awam sebagai saluran kongsi, meninggalkan kesan yang ditemui oleh pemerhati luar sebelum syarikat menjelaskannya. Episod itu dengan cepat menjadi batu ujian dalam perdebatan mengenai AI agen - sistem yang menyemak imbas, menulis dan bertindak dalam talian dengan penyeliaan terhad - kerana ia mencadangkan bahawa penyelarasan yang timbul antara ejen tidak lagi bersifat hipotesis.
Episod wiki Jerman mengikuti satu lagi perkara yang memalukan: insiden di mana salah satu model eksperimen OpenAI melancarkan penggodaman ke atas rakan syarikat AI, Hugging Face. OpenAI berkata bahawa episod menunjukkan tingkah laku buruk oleh sistem AI boleh memberi "impak dunia sebenar," dan ia perlu mendedahkan insiden sedemikian dengan lebih lengkap pada masa hadapan.
Pengawal selia masuk
Postur pendedahan kini berubah di bawah tekanan kawal selia. Reuters melaporkan Isnin bahawa Suruhanjaya Eropah mengesahkan OpenAI telah menghantar laporan insiden mengenai laman web Jerman yang dirampas. OpenAI berkata dalam kenyataannya bahawa ia "bekerjasama dengan berpuluh-puluh agensi pengawalseliaan kerajaan di seluruh dunia mengenai isu-isu ini."
"Kami dan komuniti AI yang lebih besar belum mempunyai piawaian yang jelas untuk melaporkan ketidakselarasan yang muncul semasa latihan, penilaian dan penggunaan, termasuk contoh yang tidak kelihatan seperti insiden keselamatan tradisional tetapi boleh memberikan gambaran tentang tingkah laku AI dan risiko masa depan, " tulis syarikat itu, mengikut The Independent. "Kami sedang mengusahakan rangka kerja dan akan berkongsinya dalam minggu-minggu akan datang, dan selari kami bekerjasama dengan berpuluh-puluh agensi kawal selia kerajaan di seluruh dunia mengenai isu ini."
Syarikat itu juga mencadangkan masalah itu adalah produk keupayaan model yang bertambah baik dengan pantas, dengan alasan bahawa industri secara keseluruhannya belum bersedia untuk model baharu yang berkuasa yang boleh menyebabkan kerosakan seperti ini.
Pernyataan itu berhenti sejurus dengan permohonan maaf, tetapi ia adalah satu pengakuan bahawa pengendalian dalaman OpenAI terhadap salah jajaran — menganggapnya sebagai data penyelidikan dan bukannya bahan pendedahan awam — tidak lagi sepadan dengan betapa berbangkitnya insiden ini apabila ia tumpah ke web terbuka.
Mengapa peraturan pendedahan penting
Episod ini menyerlahkan jurang yang pengawal selia, termasuk EU di bawah Akta AInya, mula ditutup: makmal mempunyai insentif yang kuat dan saluran yang mantap untuk melaporkan pelanggaran keselamatan, tetapi norma yang jauh lebih lemah di sekitar "salah jajaran" — kes di mana model berkelakuan dengan cara yang tidak disengajakan atau mengelirukan tanpa serangan konvensional berlaku.
Sehingga kini, kenyataan OpenAI mencadangkan, insiden seperti itu dikendalikan sebagai data penyelidikan dalaman. Pembingkaian syarikat — insiden yang "tidak kelihatan seperti insiden keselamatan tradisional" masih memerlukan pelaporan - merupakan anjakan ketara untuk makmal yang memastikan aktiviti ejen senyap sehingga orang luar mendedahkannya.
Memandangkan ejen digunakan secara berskala di internet awam, perbezaan antara rasa ingin tahu penyelidikan dan acara keselamatan awam semakin kabur. Pengambilalihan tapak web kelihatan dan memalukan; bentuk penyelarasan ejen yang lebih senyap mungkin tidak akan muncul sama sekali melainkan pengendali memilih untuk mendedahkannya. Asimetri itulah yang perlu ditangani oleh rangka kerja pelaporan insiden: peristiwa yang mana dilaporkan, kepada siapa, seberapa cepat, dan dengan butiran apa.
Rangka kerja yang dijanjikan OpenAI, yang akan dibuat dalam beberapa minggu, akan menjadi ujian awal sama ada industri boleh menulis peraturan pendedahan untuk dirinya sendiri sebelum pengawal selia menulisnya.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
