Kepala eksekutif Anthropic Dario Amodei telah memperingatkan anggota parlemen bahwa percepatan tren menuju kecerdasan buatan sumber terbuka dapat membawa masyarakat ke jalur yang berbahaya jika model yang kuat dirilis tanpa perlindungan yang cermat, sehingga memicu kembali salah satu perdebatan paling kontroversial dalam kebijakan AI.
Amodei, yang mendirikan dan memimpin perusahaan di balik keluarga model Claude, berpendapat bahwa sifat unik AI sumber terbuka, yang membuat sistem canggih tersedia secara bebas untuk diunduh, dimodifikasi, dan diterapkan oleh siapa saja, menciptakan risiko yang tidak pernah ditimbulkan oleh perangkat lunak sumber terbuka konvensional. Pernyataannya, dilansir Tekedia, berpusat pada sulitnya mengendalikan AI yang mumpuni setelah didistribusikan ke publik. Untuk konteks lebih lanjut mengenai cerita ini, lihat cerita AI lainnya.
Berbeda dengan perangkat lunak tradisional, sistem AI mutakhir dapat menghasilkan teks yang meyakinkan, menghasilkan gambar yang realistis, menulis kode komputer, dan membantu tugas keamanan siber. Amodei berpendapat bahwa jika berada di tangan yang salah, kemampuan tersebut dapat dieksploitasi untuk mengotomatisasi serangan siber, melakukan kampanye disinformasi yang canggih, atau memajukan penelitian biologi yang berbahaya.
Masalah Kekekalan
Salah satu risiko utama yang disoroti oleh Amodei adalah ketika sebuah model yang kuat dirilis secara terbuka, maka model tersebut menjadi mustahil untuk ditarik kembali. Sistem tertutup yang dioperasikan oleh perusahaan dapat dipantau, ditambal, dan dibatasi ketika kerentanan baru muncul. Sebaliknya, model sumber terbuka dapat disalin tanpa batas waktu dan didistribusikan kembali ke internet, sehingga pengembang tidak memiliki mekanisme untuk membatasi penggunaannya setelah dirilis.
Keabadian tersebut, Amodei memperingatkan, sangat meresahkan ketika model mendekati kinerja tingkat manusia dalam tugas-tugas yang semakin kompleks. Ia berpendapat bahwa AI yang canggih harus melalui pengujian keamanan yang ketat, penerapan yang terkendali, dan pengawasan peraturan yang tepat sebelum dapat diakses secara luas, dibandingkan diperlakukan seperti perangkat lunak biasa yang dapat ditingkatkan secara kolaboratif di tempat terbuka.
Posisinya mencerminkan garis kesalahan yang berkembang di industri ini. Para pendukung AI sumber terbuka berpendapat bahwa akses publik mendorong persaingan, mendemokratisasi kemajuan teknologi, dan mencegah segelintir perusahaan memonopoli kecerdasan buatan. Pengembang di seluruh dunia dapat memeriksa arsitektur model, mengungkap kelemahan keamanan, dan meningkatkan sistem secara kolaboratif, sementara perusahaan rintisan, peneliti, dan lembaga pendidikan dapat membangun tanpa bergantung pada platform kepemilikan yang mahal.
Risiko Spesifik dalam Tabel
Kekhawatiran Amodei tidaklah abstrak. Model yang dirilis secara terbuka telah dihilangkan batasan keselamatannya oleh para peneliti dengan menggunakan teknik penyesuaian yang mudah, sebuah praktik yang menunjukkan betapa cepatnya tindakan perlindungan dapat dihilangkan setelah bobot yang mendasarinya dipublikasikan. Ketika model semakin mampu melakukan tugas-tugas seperti kimia, biologi, dan eksploitasi perangkat lunak, kekhawatirannya adalah bahwa rilis terbuka dapat memberikan kemampuan yang kuat kepada aktor-aktor yang tidak akan pernah lulus seleksi yang diterapkan oleh laboratorium yang bertanggung jawab kepada pelanggan mereka.
Dimensi disinformasi juga menarik perhatian. Model yang dapat menghasilkan teks, gambar, dan audio yang realistis dalam skala besar dapat mengarah pada campur tangan pemilu, penipuan finansial, atau produksi propaganda massal. Karena model terbuka beroperasi sepenuhnya pada perangkat keras penyerang, Amodei mencatat, tidak ada API yang dapat dibatasi, tidak ada akun yang dapat ditangguhkan, dan tidak ada penyedia yang bertanggung jawab setelah kerusakan terjadi.
Latar Belakang Kompetitif
Peringatan Amodei muncul di tengah lonjakan model terbuka yang mumpuni dari pengembang Tiongkok. GLM-5.2 dari Zhipu, bersama dengan sistem berbiaya rendah asal Tiongkok lainnya, telah menarik perhatian baru pada seberapa cepat model yang terbuka dan tersedia secara terbuka menutup kesenjangan dengan sistem milik terdepan dari Anthropic dan OpenAI. Tekanan persaingan tersebut telah meningkatkan perdebatan kebijakan mengenai apakah pembatasan pelepasan hewan secara terbuka akan menguntungkan perusahaan-perusahaan dominan atau justru membuat masyarakat rentan terhadap penyalahgunaan.
Kritik terhadap pendirian Amodei berpendapat bahwa membatasi AI sumber terbuka dapat secara tidak sengaja memperkuat perusahaan teknologi besar dengan membatasi inovasi independen. Mereka juga mencatat bahwa transparansi sering kali memungkinkan peneliti mengidentifikasi kerentanan lebih cepat dibandingkan pembangunan tertutup. Namun, banyak pendukung pembangunan terbuka mengakui bahwa sistem yang semakin kuat mungkin memerlukan kerangka tata kelola yang lebih kuat dibandingkan perangkat lunak generasi sebelumnya.
Tali Pengikat Peraturan
Diskusi ini menjadi semakin mendesak ketika pemerintah di seluruh dunia mempertimbangkan peraturan AI yang baru. Para pengambil kebijakan menghadapi kesulitan dalam menjaga keseimbangan: pembatasan yang berlebihan dapat memperlambat pertumbuhan ekonomi dan penemuan ilmu pengetahuan, sementara pengawasan yang tidak memadai dapat membuat masyarakat menghadapi risiko yang sulit diantisipasi. Untuk mencapai keseimbangan tersebut, menurut Amodei, diperlukan kolaborasi antara pemerintah, perusahaan teknologi, peneliti akademis, dan masyarakat sipil.
Kesaksiannya menggarisbawahi salah satu perdebatan penting mengenai kebijakan teknologi pada dekade ini. Ketika kecerdasan buatan semakin mampu, masyarakat harus memutuskan bagaimana mendorong inovasi sambil meminimalkan bahaya yang terkait dengan akses luas terhadap sistem transformatif. Baik melalui regulasi, standar industri, atau kerja sama internasional, pilihan yang diambil dalam beberapa bulan mendatang terhadap AI open source dapat menentukan siapa yang mengendalikan teknologi tersebut, dan seberapa aman penerapannya, di tahun-tahun mendatang.
Bagi Anthropic, pendirian ini konsisten dengan penekanan jangka panjang perusahaan pada keselamatan AI dan pelepasan terkendali. Namun dengan berkembangnya model open source dengan cepat dan regulator masih berusaha mengejar ketertinggalannya, kesenjangan antara peringatan Amodei dan laju pergerakan open source mungkin semakin menyempit lebih cepat dibandingkan kemampuan para pengambil kebijakan untuk menutupnya.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
