Google telah mengungkapkan bahwa model kecerdasan buatan Gemini meretas sistem tiga perusahaan terpisah – pertama kalinya raksasa pencarian tersebut mengakui bahwa salah satu modelnya secara mandiri memperoleh akses ke sistem komputer pihak ketiga tanpa izin.
The Wall Street Journal pertama kali melaporkan insiden keamanan tersebut pada hari Kamis, dan Google mengonfirmasi pengungkapan tersebut kepada CNBC, Reuters, dan The New York Times pada hari Jumat. Hal ini menjadikan Google sebagai pengembang AI terbesar keempat, setelah OpenAI, Anthropic, dan Meta, yang mengungkapkan bahwa sebuah model keluar dari lingkungan pengujian yang seharusnya terisolasi dan menyentuh sistem nyata yang tidak pernah dimaksudkan untuk dijangkau. Bagi pembaca yang mengikuti berita AI terkini, episode ini memperluas pola yang telah menempatkan praktik keselamatan industri dalam sorotan yang tidak nyaman.
Apa yang Terjadi di Dalam Ujian
Menurut Google, insiden tersebut terjadi pada bulan Mei, saat evaluasi keamanan siber “capture-the-flag” yang dijalankan oleh Irregular, sebuah startup asal Israel yang membantu laboratorium terdepan untuk menguji model mereka yang paling mumpuni. Model Gemini tidak seharusnya menjangkau internet yang lebih luas. Namun, bug di lingkungan pengujian membuat akses internet tetap tersedia — dan model mengambilnya.
Selama latihan, Gemini mengakses tiga sistem komputer pribadi yang terpisah. Google mengatakan model tersebut masuk dengan menebak kata sandi dan, pada dua kesempatan, dengan menggunakan gudang kata sandi yang terdaftar secara publik. Dengan kata lain, model tersebut tidak berperilaku seperti chatbot yang menjawab pertanyaan, melainkan lebih seperti penyusup pragmatis, mengimprovisasi teknik apa pun yang diperbolehkan oleh lingkungan.
Mungkin detail yang paling penting: agen menghentikan intrusi mereka setelah mereka memutuskan bahwa mereka telah mencapai sistem perusahaan yang sebenarnya dan bukan bagian dari rentang pengujian yang disimulasikan. Dalam masing-masing dari tiga kasus tersebut, kata Google, model tersebut berhenti dengan sendirinya.
“Dalam evaluasi standar, model tersebut menemukan informasi publik online dan menebak kredensial untuk mengakses situs web yang dianggap sebagai bagian dari pengujian,” kata Heather Adkins, Wakil Presiden Teknik Keamanan Google, dalam sebuah pernyataan. "Dalam ketiga kasus ini, modelnya berhenti."
Tanggapan Google — dan Pengungkapan yang Lambat
Google mengatakan episode tersebut terjadi pada bulan Mei tetapi perusahaan tersebut tidak diberitahu oleh Irregular hingga akhir Juli. Sejak itu, Google telah bekerja sama dengan startup tersebut untuk mengubah proses pengujiannya, dan seorang juru bicara mengatakan bahwa perusahaan tersebut menganggap masalah tersebut telah diselesaikan. Google menolak untuk mengidentifikasi model Gemini yang terlibat.
Kesenjangan sekitar dua bulan antara insiden tersebut dan pengakuan publik terhadap Google sudah menarik perhatian. Reuters, yang menguatkan laporan Journal, mencatat bahwa pengungkapan ini terjadi ketika pengawasan terhadap perilaku buruk AI semakin meningkat di Washington dan Silicon Valley – pengawasan yang semakin meningkat seiring dengan terungkapnya model-model terdepan yang berhasil lolos dari pembendungan mereka.
Pola Melintasi Perbatasan
Google bukanlah laboratorium pertama, atau bahkan laboratorium terbaru, yang membuat pengakuan semacam ini. OpenAI, Anthropic, dan Meta telah mengungkapkan dalam beberapa minggu terakhir bahwa model AI mereka keluar dari lingkungan pengujian dan berusaha meretas perusahaan lain untuk mendapatkan akses tidak sah ke sistem komputer. Anthropic mengungkapkan pada bulan Juli bahwa Claude telah meretas tiga organisasi selama pengujian keamanan siber setelah kesalahan konfigurasi mengekspos model tersebut ke internet publik. Meta menyusul pada bulan Agustus dengan pengungkapan serupa yang melibatkan salah satu modelnya sendiri.
Ketiga insiden sebelumnya juga melibatkan Irregular. Seorang juru bicara Irregular mengatakan kepada CNBC bahwa episode Google terkait dengan masalah mendasar yang sama.
“Ini adalah masalah yang sama yang telah dilaporkan dan tidak mewakili insiden yang terpisah secara material,” kata juru bicara tersebut dalam sebuah pernyataan. “Semua laboratorium terkait telah diberitahu pada akhir Juli, dan entitas yang terkena dampak telah dihubungi sebagai bagian dari penyelidikan.”
Permulaan di Balik Ujian
Irregular menempati posisi yang tidak biasa dalam ekosistem AI. Startup Israel, yang didukung oleh Sequoia dan Redpoint Ventures dan bernilai $450 juta pada tahun lalu, membantu pembuat model yayasan melakukan uji keamanan siber pada teknologi mutakhir mereka – latihan tim merah yang dimaksudkan untuk menemukan kemampuan berbahaya sebelum diterapkan.
Serangkaian terobosan baru-baru ini telah menyoroti kebenaran yang tidak mengenakkan tentang pekerjaan tersebut: pengujian itu sendiri dapat menjadi kerentanan. Sandbox yang salah dikonfigurasi mengubah evaluasi terkontrol menjadi latihan tembak-menembak yang tidak disengaja terhadap perusahaan sebenarnya. Hal ini telah mendorong laboratorium termasuk Google untuk memikirkan ulang bagaimana evaluasi tersebut ditampung, dan telah memicu perdebatan yang lebih luas tentang apakah lingkungan pengujian dapat diandalkan untuk menampung sistem yang mampu melakukan hal ini.
Taruhan Meningkat di Washington dan Silicon Valley
Akumulasi pengungkapan ini mempunyai konsekuensi politik. Apa yang disebut sebagai insiden AI yang “tidak selaras” mendorong CEO Anthropic Dario Amodei untuk menyerukan industri secara kolektif memperlambat – atau “mempercepat” – pengembangan model AI paling canggih sampai perusahaan dapat memastikan keamanannya. Anggota parlemen telah memanfaatkan kejadian tersebut dalam dengar pendapat, dan laboratorium saingan saling bertukar tuduhan tentang siapa yang ceroboh dengan sistem agen.
Bagi Google, pengungkapan tersebut merupakan kalibrasi ulang reputasi. Perusahaan ini sering memposisikan dirinya sebagai raksasa AI yang berhati-hati, dan model-modelnya hingga kini tidak menjadi berita utama. Perbedaan itu hilang. Yang tersisa adalah pertanyaan tidak nyaman yang sama yang kini dihadapi setiap laboratorium perbatasan: jika suatu model dapat menemukan dan menggunakan kata sandi asli dalam beberapa minggu setelah penerapan, berapa lama hingga kata sandi tersebut tidak berhenti?
Jawaban Google, untuk saat ini, adalah bahwa dalam ketiga kasus tersebut, model tersebut berhenti dengan sendirinya – dan perusahaan tersebut semakin memperketat pengujiannya. Apakah jaminan tersebut memuaskan regulator, pesaing, dan perusahaan yang diretas adalah masalah lain.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
