Kepala eksekutif Anthropic Dario Amodei wis ngelingake para anggota parlemen yen tren nyepetake menyang intelijen buatan sumber terbuka bisa nyebabake masyarakat mudhun ing dalan sing mbebayani yen model sing kuat dirilis tanpa pengamanan sing ati-ati, dadi salah sawijining debat sing paling kontroversial ing kabijakan AI.
Amodei, sing ngedegake lan mimpin perusahaan ing mburi model kulawarga Claude, ujar manawa sifat unik saka open-source AI, sing ndadekake sistem canggih kasedhiya kanggo sapa wae sing bisa didownload, diowahi, lan disebarake, nggawe risiko sing ora nate ditindakake dening piranti lunak open source konvensional. Ujare, sing dilapurake dening Tekedia, fokus ing kesulitan ngontrol AI sing mumpuni yen wis disebar sacara umum. Kanggo konteks liyane babagan crita iki, deleng [crita AI liyane] (https://aibuzzwire.news).
Ora kaya piranti lunak tradisional, sistem AI sing canggih bisa ngasilake teks sing yakin, ngasilake gambar sing nyata, nulis kode komputer, lan mbantu tugas keamanan siber. Amodei negesake manawa ing tangan sing salah, kemampuan kasebut bisa dimanfaatake kanggo ngotomatisasi serangan siber, ngluncurake kampanye disinformasi sing canggih, utawa ngembangake riset biologi sing mbebayani.
Masalah Ketahanan
Salah sawijining risiko utama sing dituduhake Amodei yaiku yen model sing kuat dirilis kanthi terbuka, mula ora bisa dieling-eling. Sistem tertutup sing dioperasikake perusahaan bisa dipantau, ditambal, lan diwatesi nalika kerentanan anyar muncul. Model open-source, kanthi kontras, bisa disalin tanpa wates lan disebarake maneh ing internet, ninggalake pangembang tanpa mekanisme kanggo mbatesi panggunaane sawise dirilis.
Sing permanen, Amodei ngelingake, utamane ngganggu amarga model nyedhaki kinerja tingkat manungsa ing tugas sing saya rumit. Dheweke ujar manawa AI sing maju kudu ditindakake uji coba keamanan sing kuat, panyebaran sing dikontrol, lan pengawasan peraturan sing cocog sadurunge bisa diakses kanthi akeh, tinimbang dianggep kaya piranti lunak biasa sing bisa ditingkatake kanthi kolaborasi ing papan terbuka.
Posisi dheweke nuduhake garis fault sing akeh ing industri. Panyengkuyung saka open-source AI argue yen akses umum nyebabake kompetisi, demokratisasi kemajuan teknologi, lan nyegah sawetara perusahaan saka monopoli intelijen buatan. Pangembang ing saindenging jagad bisa mriksa arsitektur model, cacat keamanan permukaan, lan nambah sistem kanthi bebarengan, dene para startup, peneliti, lan institusi pendidikan bisa mbangun tanpa gumantung ing platform proprietary sing larang.
Resiko Spesifik ing Tabel
Keprigelan Amodei ora abstrak. Model sing diluncurake kanthi terbuka wis dicopot saka guardrails safety dening peneliti nggunakake teknik fine-tuning langsung, praktik sing nuduhake carane cepet langkah-langkah protèktif bisa dibusak sawise bobot ndasari umum. Nalika model tuwuh luwih bisa nindakake tugas kayata kimia, biologi, lan eksploitasi piranti lunak, kuwatir yen rilis sing mbukak bisa menehi kemampuan sing kuat kanggo aktor sing ora bakal nate lulus screening sing ditindakake laboratorium tanggung jawab marang para pelanggan.
Dimensi disinformasi uga wis diteliti. Model sing bisa ngasilake teks, gambar, lan audio sing realistis ing skala bisa dialihake menyang gangguan pemilihan, penipuan finansial, utawa produksi propaganda massal. Amarga model mbukak makaryakke kabeh ing hardware panyerang dhewe, Amodei nyathet, ora ana API kanggo throttle, ora ana akun kanggo nundha, lan ora ana panyedhiya kanggo tanggung jawab yen karusakan wis rampung.
Backdrop Kompetitif
Bebaya Amodei teka ing tengah-tengah model mbukak sing bisa dibukak saka pangembang China. Zhipu's GLM-5.2, bebarengan karo sistem Cina murah liyane, wis narik kawigatosan anyar babagan carane model mbukak lan mbukak kanthi mbukak nutup celah karo sistem proprietary frontier saka Anthropic lan OpenAI. Tekanan kompetitif kasebut nambah debat kabijakan babagan apa watesan babagan rilis mbukak bakal nguntungake perusahaan sing dominan utawa ninggalake masyarakat sing kena penyalahgunaan.
Kritikus saka sikap Amodei nyatakake yen mbatesi AI open-source bisa kanthi ora sengaja ngrusak perusahaan teknologi gedhe kanthi mbatesi inovasi independen. Dheweke uga nyathet manawa transparansi asring ngidini peneliti ngenali kerentanan luwih cepet tinimbang pangembangan tertutup. Malah akeh panyengkuyung pangembangan mbukak ngakoni, nanging sistem sing saya kuat mbutuhake kerangka pemerintahan sing luwih kuat tinimbang piranti lunak generasi sadurunge.
The Regulatory Tightrope
Dhiskusi kasebut wis cepet banget amarga pamrentah ing saindenging jagad nimbang peraturan AI anyar. Pembuat kabijakan ngadhepi keseimbangan sing angel: watesan sing berlebihan bisa nyebabake wutah ekonomi lan panemuan ilmiah, dene pengawasan sing ora cukup bisa nyebabake masyarakat kanggo risiko sing angel diantisipasi. Kanggo ngimbangi keseimbangan kasebut, Amodei nyaranake, mbutuhake kolaborasi ing antarane pamrentah, perusahaan teknologi, peneliti akademik, lan masyarakat sipil.
Kesaksian dheweke negesake salah sawijining debat kabijakan teknologi ing dekade iki. Nalika intelijen buatan saya tambah bisa, masyarakat kudu mutusake carane nyengkuyung inovasi nalika nyuda bebaya sing ana gandhengane karo akses nyebar menyang sistem transformatif. Apa liwat regulasi, standar industri, utawa kerjasama internasional, pilihan sing ditindakake ing wulan-wulan sing bakal teka babagan AI open-source bisa mbentuk sapa sing ngontrol teknologi kasebut, lan kepiye carane aman disebarake, nganti pirang-pirang taun.
Kanggo Anthropic, sikap kasebut konsisten karo penekanan jangka panjang perusahaan babagan keamanan AI lan rilis sing dikontrol. Nanging karo model mbukak maju kanthi cepet lan regulator isih scrambling kanggo nyekel munggah, longkangan antarane bebaya Amodei lan jangkah saka gerakan open-source bisa nyempitake luwih cepet saka policymakers bisa nutup.
---
Tetep Ahead of AIEntuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.
Waca liyane AI warta →
