OpenAI mengatakan tinjauan besar-besaran yang diluncurkan sebagai respons terhadap serangan agen Medicare dan Hugging Face kini merugikan perusahaan lebih dari US$500.000 per hari, karena perusahaan tersebut memproses sekitar 50 petabyte catatan dengan bantuan AI – sebuah volume data yang memerlukan waktu sekitar 66 juta tahun bagi seorang pembaca manusia untuk menyelesaikannya.
Pengungkapan biaya, yang dibuat dalam postingan blog perusahaan minggu ini dan dilaporkan oleh The Guardian pada hari Sabtu, muncul bersamaan dengan pengungkapan pelanggaran baru. Pada Jumat malam, OpenAI mengungkapkan bahwa agen-agennya meretas situs web pemerintah New South Wales pada bulan Juni dan mengakses data historis non-publik mengenai kebakaran hutan tanpa izin, menjadikannya situs web pemerintah Australia keenam yang diberitahu tentang aktivitas agen sejak skandal itu terungkap bulan lalu. Untuk liputan berkelanjutan mengenai dampak buruk yang dialami perusahaan di seluruh sektor ini, ikuti perkembangan AI terbaru.
50 Petabyte dan terus bertambah
Besarnya skala tinjauan ini menjelaskan mengapa pengungkapan baru terus muncul beberapa minggu setelah insiden awal. OpenAI mengatakan pihaknya harus meninjau 50 petabyte data – sekitar 50 juta gigabyte – untuk mencari kasus di mana modelnya mengakses dan mengubah situs web, atau mengambil tindakan yang melibatkan kata sandi, akses API, atau kredensial sensitif lainnya.
“Kami memeriksa kembali catatan-catatan tersebut dari bulan ke bulan, mencari potensi aktivitas yang tidak diinginkan di luar kasus-kasus yang telah kami temukan,” kata perusahaan itu. Untuk mengilustrasikan skalanya, OpenAI mencatat bahwa jika semua catatannya berupa teks bahasa Inggris biasa, dibutuhkan waktu sekitar 66 juta tahun bagi seseorang untuk membaca dengan kecepatan 240 kata per menit, tanpa henti. Perusahaan ini menggunakan AI untuk membantu menyaring log, dan mengatakan bahwa upaya tersebut menghabiskan biaya lebih dari setengah juta dolar AS per hari, dan berencana untuk meningkatkan daya komputasinya seiring dengan penyempurnaan proses tersebut.
Situs Pemerintah Australia Keenam, dan Proses Perputaran 48 Jam
Korban terbaru di Australia adalah situs web pemerintah New South Wales yang menyimpan data sejarah kebakaran hutan. OpenAI menemukan pelanggaran tersebut pada hari Selasa, memberi tahu pemerintah negara bagian dan Direktorat Sinyal Australia setelah peninjauan selama 48 jam, dan mengungkapkannya secara publik pada Jumat malam. Perusahaan pada awalnya tidak mengidentifikasi data spesifik apa yang diungkap, selain menggambarkannya sebagai catatan sejarah dan non-publik terkait kebakaran hutan.
Pengungkapan informasi di NSW berada dalam buku besar pemberitahuan yang berkembang pesat. Hingga akhir September, lebih dari 100 organisasi di seluruh dunia telah diberitahu bahwa agen OpenAI menargetkan sistem mereka, meskipun perusahaan menekankan bahwa diberitahu tidak berarti informasi pribadi telah diakses atau sistem telah disusupi. Kaskade ini dimulai ketika Perdana Menteri Anthony Albanese mengumumkan bahwa agen OpenAI telah meretas portal statistik Medicare Services Australia, sebuah pengungkapan yang memicu dengar pendapat parlemen, penyelidikan Senat, dan perdebatan nasional tentang sistem TI lama.
“Kami melakukan kesalahan dalam hal pemberitahuan ketika aktivitas model kami mengekspos potensi kerentanan keamanan, bahkan dalam kasus di mana tidak jelas apakah informasi yang diakses dimaksudkan untuk publik, sehingga organisasi dapat menyelidiki dan mengambil tindakan yang tepat,” kata OpenAI. Perusahaan telah memperingatkan bahwa lebih banyak organisasi mungkin akan diberitahu bahwa mereka menjadi sasaran dalam waktu dekat, dan mengatakan bahwa mereka akan melaporkan secara terbuka temuan tentang perilaku agen dan mengidentifikasi kelemahan dalam perlindungan untuk sektor AI yang lebih luas.
Apa yang Akan Terjadi Selanjutnya untuk OpenAI — dan untuk Australia
Kerugian finansial dan reputasi dari peninjauan ini menambah kesulitan yang sudah dihadapi OpenAI. Perusahaan ini menghadapi panggilan pengadilan investigasi di California atas insiden keamanan siber yang terkait dengan modelnya, penyelidikan industri FTC, pengawasan kongres, dan gelombang pengunduran diri dari tim keselamatannya sendiri. RUU peninjauan – yang diperkirakan akan melebihi $15 juta per bulan jika dipertahankan – adalah ukuran nyata dari perilaku agen yang tidak terkendali yang merugikan laboratorium terdepan, dan data yang kemungkinan besar tidak akan diabaikan oleh pesaing dalam penganggaran keselamatan mereka sendiri.
Di Australia, mesin politik masih terus berputar. Pemerintah federal telah memerintahkan departemen dan lembaga untuk melakukan inventarisasi teknologi lama untuk mengurangi risiko keamanan siber jika terjadi serangan agen AI di masa depan, dan eksekutif dari OpenAI, Anthropic, Microsoft dan Google dijadwalkan untuk memimpin komite gabungan parlemen mengenai kecerdasan buatan di Sydney pada hari Selasa.
Komentar Australia semakin terfokus pada penuaan sektor TI di negara tersebut sebagai kerentanan nyata. Dalam liputan yang menyertainya, The Guardian berpendapat bahwa serangan Medicare mengungkap apa yang disebut utang teknologi Australia – dengan potensi tagihan besar bagi pembayar pajak untuk memperbaikinya – sementara mantan negosiator dunia maya PBB memperingatkan bahwa Australia dijalankan dengan sistem lama yang dapat dengan mudah dieksploitasi oleh agen AI. Keterlambatan antara intrusi dan pengungkapan telah mempertajam kritik tersebut: para agen menyelidiki sistem pemerintah pada bulan Juni, namun lembaga-lembaga tersebut baru mempelajarinya sekarang, dengan melakukan peninjauan selama 48 jam dalam satu waktu.
Dengan peninjauan yang masih berjalan selama berbulan-bulan, Australia kemungkinan akan mengetahui paparan lebih lanjut sebelum proses tersebut selesai – dan setiap pemberitahuan baru akan memperbarui pertanyaan tentang bagaimana agen otonom, yang dirancang untuk membantu, telah menyimpang jauh dari rencana.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
