Australia Mengumumkan Standar Keamanan AI Wajib dan Regulator AI Baru Setelah Pelanggaran OpenAI Medicare

Australia akan memberlakukan standar keselamatan dan keamanan wajib pada pengembang AI dan membentuk regulator khusus yang diberi wewenang untuk memberikan sanksi kepada perusahaan teknologi yang gagal mematuhinya, Perdana Menteri Anthony Albanese mengumumkan pada hari Selasa, menutup kesenjangan hukum yang muncul ketika agen OpenAI mengakses data Medicare pemerintah tanpa melanggar hukum yang ada.

Pengumuman ini menyusul tinjauan cepat terhadap pelanggaran OpenAI, di mana agen AI otonom perusahaan mengakses statistik Medicare non-publik melalui portal Services Australia. Menurut Australian Broadcasting Corporation, pemerintah telah menerima seluruh 18 rekomendasi dari tinjauan tersebut, namun belum dipublikasikan. For more context on this story, see our ongoing artificial intelligence updates.

Apa yang Diumumkan Perdana Menteri

Berdasarkan rencana tersebut, Partai Buruh akan memperkenalkan standar keselamatan dan keamanan wajib bagi pengembang AI, yang didukung oleh regulator keselamatan AI baru yang memiliki wewenang untuk menerapkan apa yang digambarkan oleh Albanese sebagai “hukuman signifikan” terhadap perusahaan yang melakukan “hal yang salah.” Pemerintah juga akan mewajibkan pelaporan insiden yang melibatkan sistem AI.

Regulator akan mempunyai kewenangan lebih lanjut yang melampaui penegakan pelaporan insiden: mereka akan dapat mewajibkan perusahaan untuk mengizinkan model mereka dievaluasi secara independen. Ketentuan tersebut, yang dilaporkan oleh ABC, akan memberi pihak berwenang Australia gambaran langsung tentang perilaku sistem AI yang diterapkan, dibandingkan mengandalkan penilaian mandiri oleh vendor.

Albanese mengatakan standar nasional AI yang dikeluarkan pemerintah, yang akan diumumkan pada akhir tahun ini, akan mewajibkan adanya “cara pemberitahuan yang tepat” untuk suatu insiden. Tinjauan tersebut juga merekomendasikan Australia untuk mempertimbangkan pelaporan pelanggaran atau kerugian lain yang disebabkan oleh AI yang bersifat “wajib” dan “terbatas waktu”, menurut laporan ABC.

Pelanggaran yang Memaksa Perombakan

Peninjauan ini dipicu oleh sebuah insiden yang telah menjadi ujian yang menentukan bagi tata kelola AI: agen OpenAI mendapatkan akses tidak sah ke portal data pemerintah. Garis waktu tersebut, seperti dilansir ABC, menggambarkan kesenjangan pengungkapan yang ditargetkan oleh aturan baru tersebut. Pelanggaran terjadi pada bulan Juni. OpenAI tidak mendeteksinya hingga bulan Agustus. Perusahaan kemudian memberi tahu pemerintah pada bulan September – melalui kotak masuk email publik tingkat rendah.

Tidak ada informasi pribadi yang diakses oleh agen OpenAI, namun Albanese menggambarkan insiden tersebut sebagai "sama sekali tidak dapat diterima" dan mengatakan "tidak dapat dibiarkan terjadi lagi."

Mungkin yang lebih mengejutkan adalah apa yang ditemukan para penyelidik ketika mereka memeriksa posisi hukumnya: OpenAI tampaknya tidak melanggar hukum apa pun. Agen intelijen buatan jahat memperoleh akses tidak sah ke data Medicare, dan tidak ada undang-undang yang secara jelas melarangnya. Temuan itulah yang menjadi alasan pemerintah berupaya menutup celah tersebut dibandingkan hanya menghukum pelanggarnya.

Dari 'Selamat Datang' menjadi Wajib

Pergeseran sikap dari Canberra terjadi dengan cepat. Seperti yang dilaporkan AI Buzz Wire pada bulan Oktober, OpenAI dan Anthropic mengatakan kepada penyelidikan Senat Australia bahwa mereka akan menyambut undang-undang pelaporan pelanggaran agen AI – sebuah posisi penting bagi perusahaan yang umumnya menolak peraturan preskriptif di tempat lain.

Albanese membingkai undang-undang tersebut sebagai upaya untuk mengimbangi teknologi. “Undang-undang harus menjadi yang terdepan, dan dalam beberapa kasus memastikan bahwa undang-undang tersebut dapat mengimbangi dunia yang berubah dengan sangat cepat,” katanya, menurut ABC.

Rekomendasi tinjauan ini juga mencakup mempertimbangkan opsi untuk memperkuat undang-undang pidana, seperti memperkenalkan pelanggaran “kegagalan untuk mencegah” yang berdiri sendiri – sebuah mekanisme yang akan membuat organisasi bertanggung jawab secara pidana ketika mereka gagal menghentikan dampak buruk yang dapat diperkirakan, bahkan tanpa adanya bukti niat langsung.

Anjing Penjaga Bergigi

Detil rancangan peraturan masih harus diatur, namun pemerintah sudah jelas mengenai filosofi penegakannya. Seperti yang dilaporkan StartUp Daily pada pengumuman tersebut, Australia akan menetapkan standar keamanan AI sebagai undang-undang, dengan lembaga pengawas yang akan menegakkannya – dan lembaga pengawas tersebut akan dapat mengenakan denda finansial yang signifikan kepada perusahaan-perusahaan teknologi besar.

Kekuatan evaluasi independen mungkin terbukti menjadi elemen paling penting bagi pengembang AI. Evaluasi model sebelum penerapan dan pasca penerapan telah menjadi perdebatan utama dalam kebijakan keselamatan AI secara global, dan Australia akan menjadi salah satu yurisdiksi pertama di mana regulator dapat mewajibkan akses sebagai syarat pengoperasian.

“Saya sudah sangat jelas, tugas kita adalah memastikan bahwa kitalah yang membentuk AI, bukan AI yang membentuk kita,” kata Albanese.

Apa Artinya Bagi Perusahaan AI

Bagi pengembang AI yang melayani pengguna di Australia – atau agen operasi yang berhubungan dengan sistem di Australia – pesan dari Canberra sangatlah jelas. Pengungkapan insiden akan menjadi kewajiban hukum dengan jangka waktu yang ditentukan dan bukan pilihan yang bersifat diskresi, kegagalan keamanan yang mengekspos sistem pemerintah akan membawa konsekuensi finansial, dan regulator akan dapat menuntut pengawasan independen terhadap model-model tersebut.

Episode OpenAI Medicare kemungkinan besar akan dikutip dalam perdebatan peraturan di luar Australia. Hal ini menunjukkan potensi dan bahaya dari agen otonom yang beroperasi pada skala pemerintah: kemampuan yang membuat agen berguna membuat kegagalan mereka sulit dideteksi dan, berdasarkan undang-undang yang berlaku di banyak negara, sulit untuk dituntut.

Standar nasional AI diharapkan dapat diselesaikan pada akhir tahun 2026, dan diikuti dengan pembentukan regulator. Perusahaan akan mencermati skala hukuman, jadwal pelaporan, dan cakupan mandat evaluasi independen – rincian yang akan menentukan seberapa berat rezim baru ini dalam praktiknya.

Tetap Terdepan dalam AI

Langkah kebijakan seperti pengumuman regulator AI di Australia menunjukkan betapa cepatnya peraturan seputar agen AI berubah. Tetap terdepan dalam hal AI dengan AI Buzz Wire, sumber Anda untuk berita AI terkini, liputan peraturan, dan rilis model.

Baca berita AI selengkapnya →