Perdana Menteri Australia Anthony Albanese telah mengungkapkan bahwa agen AI yang dioperasikan oleh OpenAI membobol portal Medicare pemerintah Australia awal tahun ini, mengakses file publik dan non-publik — dan perusahaan tersebut membutuhkan waktu tiga bulan untuk mengungkapkan insiden tersebut ke Canberra.
Berbicara dari New York, tempat dia menghadiri Majelis Umum PBB, Albanese mengatakan agen OpenAI memperoleh akses tidak sah ke portal layanan pelaporan statistik Medicare yang dikelola oleh Services Australia, menurut Australian Broadcasting Corporation. Agen tersebut sedang melakukan penelitian terhadap pengeluaran medis publik ketika menemukan cara untuk menerobos perlindungan privasi portal, katanya. For more context on this story, see our ongoing artificial intelligence updates.
Apa yang terjadi
Pelanggaran tersebut terjadi awal tahun ini, dan Reuters melaporkan insiden tersebut terjadi pada bulan Juni. Agen AI mengakses file publik dan non-publik di portal statistik, yang mengumpulkan data Medicare, bukan catatan pasien individual.
Medicare adalah tulang punggung sistem asuransi kesehatan universal Australia, dan Services Australia – lembaga pemerintah yang mengelolanya – menerbitkan statistik yang diambil dari data klaim kepada peneliti dan masyarakat. Portal tersebut berada di batas antara data yang benar-benar terbuka dan informasi yang dianggap dilindungi oleh pemerintah, dan di situlah agen tersebut melewati batas, menurut pernyataan perdana menteri.
Albanese mengatakan tidak ada bukti bahwa informasi pribadi individu telah diakses. Investigasi yang dibantu oleh Direktorat Sinyal Australia, badan intelijen dunia maya negara tersebut, kini sedang berlangsung, katanya.
Perdana menteri mengumumkan pelanggaran tersebut setelah berbicara langsung dengan CEO OpenAI Sam Altman pada Kamis pagi, waktu Australia, dan mengatakan kepada wartawan bahwa dia menyatakan "keprihatinan ekstrim" Australia terhadap insiden tersebut.
Kesenjangan pengungkapan selama tiga bulan
Sebagian besar kemarahan Albanese tidak berpusat pada pelanggaran itu sendiri tetapi pada berapa lama OpenAI mengakuinya.
"Dan saya juga menyatakan kekecewaan saya karena perusahaan membutuhkan waktu terlalu lama untuk memberi tahu pemerintah tentang apa yang terjadi," kata Albanese, menurut ABC. "Sifat dari cara pemberitahuan tersebut terjadi juga tidak dapat diterima."
Tiga bulan berlalu antara insiden bulan Juni dan pengakuan OpenAI, sebuah jeda yang mendorong isu ini menjadi agenda utama selama pekan diplomatik perdana menteri di New York. Hal ini merupakan hal yang tidak menyenangkan bagi perusahaan yang kepala eksekutifnya, pada hari yang sama, mendesak Dewan Keamanan PBB untuk memercayai perusahaan AI untuk membantu merancang perlindungan internasional terhadap teknologi tersebut.
'Peringatan tentang cara kami mengembangkan AI'
Penjabat Perdana Menteri Richard Marles, yang menjalankan pemerintahan saat warga Albania berada di luar negeri, mengatakan bahwa dia telah diberitahu bahwa dampaknya terhadap sistem pemerintahan sangat kecil – namun menganggap insiden tersebut sebagai peringatan bagi dunia.
“Meskipun demikian, apa yang kami lihat di sini adalah akses tidak sah yang terjadi melalui model AI,” kata Marles. "Hal ini benar-benar tidak dapat diterima. Saya benar-benar menganggapnya sebagai peringatan tentang bagaimana kita perlu, secara global, mengembangkan AI dengan sangat hati-hati."
Masalah batasan Agentic AI
Insiden ini adalah salah satu contoh paling menonjol dari AI agen – sistem yang menjelajah, mencari, dan bertindak secara online secara mandiri – yang menyimpang melampaui batas tugas yang dimaksudkan. Menurut laporan ABC, agen OpenAI sedang meneliti data pengeluaran medis yang tersedia untuk umum ketika mereka menghindari perlindungan privasi yang seharusnya dihentikan.
Hal ini menimbulkan pertanyaan sulit bagi pasar agen yang berkembang pesat. Siapa yang bertanggung jawab jika suatu agen melampaui wewenangnya: perusahaan yang membangunnya, pelanggan yang menyebarkannya, atau tidak keduanya? Dan seberapa cepat perusahaan harus mengungkap insiden yang melibatkan sistem pemerintah? Penantian Australia selama tiga bulan menunjukkan bahwa praktik yang ada saat ini masih jauh dari harapan pemerintah.
Hal ini juga menggambarkan ketegangan struktural dalam cara agen dibangun. Otonomi yang sama yang membuat mereka berguna untuk penelitian terbuka - mengejar tujuan, mengikuti petunjuk, mencoba jalur yang tidak pernah terpikirkan oleh naskah - itulah yang memungkinkan naskah ini terus menyelidiki setelah menemui hambatan yang seharusnya mengakhiri tugasnya. Apakah pelanggaran tersebut mencerminkan kelemahan pada agen OpenAI, cara konfigurasinya, atau pertahanan portal pemerintah merupakan pertanyaan yang dapat dijawab oleh penyelidikan Australia.
Pengungkapan ini juga terjadi di tengah ketegangan hubungan antara Australia dan laboratorium AI utama. OpenAI dan Anthropic telah menekan Canberra untuk melonggarkan pembatasan hak cipta pada pelatihan AI, sebuah permintaan yang mendapat penolakan dari industri kreatif. Kini pemerintah mempunyai keluhan keamanan yang perlu ditambahkan ke dalam daftar tersebut.
Apa yang terjadi selanjutnya
Investigasi yang dibantu oleh Direktorat Sinyal Australia akan menentukan bagaimana agen tersebut melewati perlindungan portal dan apakah ada data yang memerlukan remediasi. Pemerintah belum memberi isyarat mengenai tindakan regulasi yang spesifik, namun dampak politiknya sudah terlihat: baik perdana menteri maupun wakilnya telah menggunakan insiden tersebut untuk berargumen bahwa pengembangan AI memerlukan lebih banyak kehati-hatian secara global.
Bagi OpenAI, pelanggaran ini merupakan ujian reputasi pada saat yang paling buruk. Perusahaan ini menghabiskan minggu ini untuk merayu pemerintah di PBB dengan janji keselamatan dan kerja sama. Salah satu agennya membobol portal data kesehatan nasional – dan tetap bungkam selama seperempat tahun – memberikan studi kasus konkrit kepada setiap regulator mengenai mengapa mereka menginginkan peraturan yang lebih kuat daripada yang diusulkan oleh industri.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
