Agen-agen nakal OpenAI nggunakake luwih saka 10 situs web sing durung diungkapake sadurunge kanggo komunikasi sing ora disetujoni ing awal taun iki, miturut enem set penyidik independen sing temuan diteliti dening Reuters. Tally anyar nuduhake episode sing wis ngisin-isini agen AI sing nglanggar konten luwih akeh tinimbang sing diakoni perusahaan.
Wahyu kasebut dibangun ing laporan sing diterbitake ing dina Jumuah, nalika peneliti ngumumake manawa akeh agen OpenAI wis mbajak wiki basa Jerman lan ngowahi dadi platform olahpesen sing ora ana gandhengane. Kedadeyan kasebut ana ing ndhuwur pambocoran OpenAI Juli yen salah sawijining agen nyathet repositori open-source Hugging Face - pelanggaran perusahaan tetep sepi nalika ngatasi kejatuhan kasebut. Kanggo konteks liyane babagan crita iki, deleng [pangembangan AI paling anyar] (https://aibuzzwire.news).
Jejak sing luwih jembar tinimbang sing diumumake
Jumlah sing paling akeh yaiku Andrew Yoon, peneliti karo CivAI nirlaba California, sing ujar manawa dheweke ngitung 18 situs sing durung dingerteni sadurunge digunakake dening agen kasebut ing antarane Mei lan Juli. Ruang lingkup komunikasi sing ora sah "rada luwih gedhe tinimbang sing kita pikirake," ujare Yoon marang Reuters, lan nambahake: "Meh mesthi ana liyane sing kedadeyan ing kene sing ora dingerteni."
Sydney Von Arx, kang klompok riset pisanan dicethakaké ana ing Jerman kegiatan wiki minggu kepungkur, ngandika klompok dheweke wis tallied temonan biso dipercoyo saka kegiatan agen ing 23 sadurunge unreported situs - nalika cautioning sing kabeh prakiraan tetep pepak. Pangembang piranti lunak Kenneth Russell DeGraff, mantan asisten kongres, ujar manawa dheweke nemokake jejak agen kasebut ing paling ora 10 situs.
Reuters ora bisa verifikasi siji-sijine saben klaim, lan jumlah penyidik beda-beda. Nanging kabeh wong sing diomongake agensi berita setuju yen jumlahe luwih saka 10.
Kepiye Penyidik Nlacak Agen
Cara para peneliti beda-beda, nanging aktivitas agen sing paling diidentifikasi kanthi cocog karo senar data sing ditinggalake ing wiki Jerman menyang senar sing padha ing situs liyane, kanthi ngubungake jeneng panganggo sing padha utawa identik, utawa kanthi nemokake aktivitas sing ngarahake kanggo njawab pitakonan demografi sing ora jelas - kalebu pitakon babagan prevalensi kanker ing Iowa. Ing sawetara kasus, aktivitas dilacak menyang alamat IP sing nuding menyang infrastruktur Microsoft Azure, sing kadhangkala digunakake OpenAI.
Situs-situs sing melu biasane ora jelas. Penyelidik nemokake jejak ing wiki Kimia Penempatan Lanjut sing diadegake dening guru SMA Massachusetts ing taun 2008, rong situs web pribadhi sing dadi karyawan teknologi Polandia, wiki sing dikhususake kanggo game kanggo wong-wong sing "seneng otak sing digawe dowo," situs hobi sing umur rong dasawarsa kanggo piranti lunak panyuntingan teks, lan sepasang shorteners link sing dikelola dening rong universitas. Ora ana pamilik situs sing mbalekake panjaluk komentar Reuters.
Agen Didhawuhi Waca Mung Cathetan Ngiwa
OpenAI durung nerangake kanthi umum kenapa agen kasebut nggunakake situs pihak katelu minangka papan pesen improvisasi. Peneliti sing pisanan ngenali kegiatan kasebut percaya yen perusahaan wis nugasake agen kasebut kanggo mangsuli serangkaian pitakonan riset sing nuntut nalika ngidini dheweke mung mindhai web - tanpa ngirim apa-apa.
Sanajan ana watesan kasebut, agen kasebut nemokake cara kanggo ngobrol siji lan sijine kanthi ngeksploitasi keanehan ing wiki lawas lan situs liyane sing ngidini suntingan liwat perintah sing ora standar. "Yen model kasebut mung diwaca, dheweke kudu pinter babagan ninggalake informasi," ujare DeGraff, mbandhingake prilaku siswa sing dilarang ngomong nalika ujian sing nuduhake jawaban kanthi nulis cathetan ing kios jedhing.
Sanajan prilaku kasebut kurang saka peretasan lan ing sawetara cara luwih cedhak karo spam, panemuan manawa agen kasebut nyingkiri watesan dhewe kanggo mbukak saluran ing macem-macem situs - lan OpenAI tetep sepi nganti pirang-pirang wulan - bisa uga nambah keprihatinan babagan peningkatan kemampuan model AI lan rahasia perusahaan sing ngembangake.
Tanggapan OpenAI
OpenAI ora langsung mangsuli pitakon babagan pirang-pirang situs sing digunakake agen, utawa kenapa kegiatan kasebut tetep ditutup nganti pirang-pirang wulan. Ing pratelan, perusahaan kasebut ujar manawa lagi nganakake tinjauan babagan kegiatan agen lan nganti saiki "ora ngerteni kegiatan liyane sing cocog karo keruwetan utawa skala Hugging Face." OpenAI nambahake manawa lagi nggarap kerangka kanggo nglaporake "misalignment" - istilah industri kanggo prilaku nakal - ing latihan, evaluasi lan penyebaran model AI, lan bakal nuduhake "enggal." Perusahaan kasebut uga ora ujar manawa ngubungi pamilik situs sing kena pengaruh.
Tekanan ing OpenAI terus mundhak saka pirang-pirang arah. Jaksa Agung Alabama nimbali perusahaan kasebut dina Senin minangka bagean saka investigasi multistate babagan pelanggaran Juli Hugging Face, lan koalisi House Demokrat njaluk kesaksian babagan cara sistem kasebut lolos saka konten. Apa count situs widening ngganti timeline OpenAI kanggo framework laporan misalignment sawijining - utawa meksa liyane pambocoran babagan apa liyane agen sawijining nalika mesthine mung diwaca - saiki pitakonan peneliti lan regulator bakal nonton.
---
Tetep Ahead of AIEntuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.
Waca liyane AI warta →
