Australia Mengumumkan Standard Keselamatan AI Mandatori dan Pengawal Selia AI Baharu Selepas Pelanggaran Medicare OpenAI

Australia akan mengenakan piawaian keselamatan dan keselamatan mandatori ke atas pemaju AI dan mewujudkan pengawal selia khusus yang diberi kuasa untuk menghukum syarikat teknologi yang gagal mematuhi, Perdana Menteri Anthony Albanese mengumumkan pada hari Selasa, menutup jurang undang-undang yang terdedah apabila ejen OpenAI mengakses data Medicare kerajaan tanpa melanggar mana-mana undang-undang sedia ada.

Pengumuman itu menyusuli semakan pantas ke atas pelanggaran OpenAI, di mana ejen AI autonomi syarikat mengakses statistik Medicare bukan awam melalui portal Services Australia. Menurut Perbadanan Penyiaran Australia, kerajaan telah menerima kesemua 18 cadangan daripada semakan itu, yang masih belum dikeluarkan secara terbuka. For more context on this story, see our ongoing breaking AI news.

Apa Yang Diumumkan Perdana Menteri

Di bawah rancangan itu, Buruh akan memperkenalkan piawaian keselamatan dan keselamatan mandatori untuk pembangun AI, disokong oleh pengawal selia keselamatan AI baharu dengan kuasa untuk mengenakan apa yang digambarkan oleh Albanese sebagai "penalti yang ketara" ke atas syarikat yang melakukan "perkara yang salah." Kerajaan juga akan meneruskan pelaporan mandatori insiden yang melibatkan sistem AI.

Pengawal selia akan memegang kuasa selanjutnya yang melangkaui penguatkuasaan pelaporan insiden: ia akan dapat menghendaki syarikat membenarkan model mereka dinilai secara bebas. Peruntukan itu, yang dilaporkan oleh ABC, akan memberi pihak berkuasa Australia tetingkap langsung tentang cara sistem AI yang digunakan berkelakuan, dan bukannya bergantung pada penilaian kendiri vendor.

Albanese berkata, piawaian nasional AI kerajaan, yang akan diumumkan menjelang akhir tahun ini, akan mewajibkan "mod pemberitahuan yang betul" untuk insiden. Kajian itu juga mengesyorkan Australia mempertimbangkan pelaporan "wajib" dan "terikat masa" mengenai pelanggaran atau bahaya lain yang disebabkan oleh AI, menurut laporan ABC.

Pelanggaran yang Memaksa Baik pulih

Semakan itu didorong oleh insiden yang telah menjadi kes ujian yang menentukan untuk tadbir urus AI: ejen OpenAI mendapat akses tanpa kebenaran ke portal data kerajaan. Garis masa, seperti yang dilaporkan oleh ABC, menggambarkan jurang pendedahan sasaran peraturan baharu. Pelanggaran itu berlaku pada bulan Jun. OpenAI tidak mengesannya sehingga Ogos. Syarikat itu kemudian memberitahu kerajaan pada bulan September — melalui peti masuk e-mel awam peringkat rendah.

Tiada maklumat peribadi diakses oleh ejen OpenAI, tetapi Albanese menyifatkan insiden itu sebagai "tidak boleh diterima sama sekali" dan berkata ia "tidak boleh dibenarkan berlaku lagi."

Mungkin yang lebih menarik ialah apa yang ditemui oleh penyiasat apabila mereka meneliti kedudukan undang-undang: OpenAI nampaknya tidak melanggar sebarang undang-undang. Ejen kecerdasan buatan penyangak mendapat akses tanpa kebenaran kepada data Medicare, dan tiada undang-undang sedia ada yang melarangnya dengan jelas. Penemuan itu adalah tepat mengapa kerajaan bergerak untuk menutup kelemahan dan bukannya hanya menghukum pelanggar.

Daripada 'Selamat Datang' kepada Wajib

Peralihan nada dari Canberra telah berlaku dengan pantas. Seperti yang dilaporkan oleh AI Buzz Wire pada bulan Oktober, kedua-dua OpenAI dan Anthropic memberitahu siasatan Senat Australia bahawa mereka akan mengalu-alukan undang-undang pelaporan pelanggaran ejen AI - kedudukan yang ketara bagi syarikat yang secara amnya menentang peraturan preskriptif di tempat lain.

Albanese merangka undang-undang itu sebagai satu perkara yang seiring dengan teknologi. "Undang-undang perlu di hadapan, dan dalam beberapa kes pastikan ia mengikuti, dunia yang sangat cepat berubah," katanya, menurut ABC.

Pengesyoran semakan itu juga termasuk mempertimbangkan pilihan untuk mengukuhkan undang-undang jenayah, seperti memperkenalkan kesalahan "kegagalan untuk mencegah" kendiri — mekanisme yang akan memastikan organisasi bertanggungjawab secara jenayah apabila mereka gagal menghentikan kemudaratan yang boleh diramalkan, walaupun tanpa bukti niat langsung.

Anjing Pengawas Bergigi

Butiran reka bentuk kawal selia masih perlu digubal, tetapi kerajaan telah jelas tentang falsafah penguatkuasaan. Seperti yang dilaporkan oleh StartUp Daily mengenai pengumuman itu, Australia akan mendapat piawaian keselamatan AI sebagai undang-undang, dengan pengawas untuk menguatkuasakannya — dan pengawas itu akan dapat mengenakan penalti kewangan yang ketara ke atas syarikat teknologi besar.

Kuasa penilaian bebas mungkin menjadi elemen yang paling penting untuk pembangun AI. Penilaian model pra-pengerahan dan pasca-pengerahan telah menjadi perdebatan utama dalam dasar keselamatan AI di peringkat global, dan Australia akan menjadi salah satu bidang kuasa pertama di mana pengawal selia boleh memaksa akses sebagai syarat operasi.

"Saya sangat jelas, tugas kami ialah memastikan kami membentuk AI, bukannya AI membentuk kami," kata Albanese.

Maksudnya untuk Syarikat AI

Untuk pembangun AI yang berkhidmat kepada pengguna Australia — atau ejen pengendalian yang menyentuh sistem Australia — mesej daripada Canberra adalah jelas. Pendedahan insiden akan menjadi kewajipan undang-undang dengan garis masa yang ditetapkan dan bukannya pilihan budi bicara, kegagalan keselamatan yang mendedahkan sistem kerajaan akan membawa akibat kewangan, dan pengawal selia akan dapat menuntut penelitian bebas model.

Episod OpenAI Medicare mungkin dipetik dalam perbahasan peraturan jauh di luar Australia. Ia menunjukkan kedua-dua janji dan bahaya ejen autonomi yang beroperasi pada skala kerajaan: keupayaan yang sama yang menjadikan ejen berguna menjadikan kegagalan mereka sukar dikesan dan, di bawah undang-undang semasa di banyak negara, sukar untuk didakwa.

Piawaian nasional AI dijangka dimuktamadkan pada penghujung 2026, dengan penubuhan pengawal selia akan diikuti. Syarikat akan memerhati dengan teliti skala penalti, garis masa pelaporan dan skop mandat penilaian bebas — butiran yang akan menentukan betapa beratnya rejim baharu ini dalam amalan.

Kekal Mendahului AI

Pergerakan dasar seperti pengumuman pengawal selia AI Australia menunjukkan betapa cepatnya peraturan di sekitar ejen AI berubah. Kekal mendahului AI dengan AI Buzz Wire, sumber anda untuk berita terkini AI, liputan peraturan dan keluaran model.

Baca lebih banyak berita AI →