Anthropic dan OpenAI telah mengatakan kepada penyelidikan parlemen Australia bahwa mereka akan menyambut undang-undang yang mewajibkan perusahaan AI untuk melaporkan pelanggaran data yang dilakukan oleh agen AI mereka – sebuah konsesi yang mencolok dari industri yang sejauh ini telah mengatur sendiri kapan, dan apakah, harus memberi tahu pemerintah bahwa sistem otonomnya telah membobol sistem resmi.
Para eksekutif dari kedua perusahaan hadir sebelum penyelidikan pada hari Selasa, mengakui bahwa keputusan untuk memberi tahu pihak berwenang tentang pelanggaran yang dimediasi agen saat ini berada pada kebijaksanaan masing-masing perusahaan, menurut Reuters. For more context on this story, see our ongoing AI news.
Posisi: membuat undang-undang, dan kami akan mematuhinya
Kepala kebijakan Anthropic untuk Australia dan Selandia Baru, David Masters, mengatakan dalam penyelidikan tersebut bahwa perusahaannya akan terbuka terhadap undang-undang Australia yang mewajibkan perusahaan AI untuk mengungkapkan pelanggaran data, menurut laporan Reuters. Anthropic juga mengatakan kepada anggota parlemen bahwa mereka tidak yakin produknya telah melanggar sistem pemerintah Australia.
Pelaporan pada sidang tersebut mencatat bahwa OpenAI membuat argumen serupa: persyaratan pelaporan wajib dapat diterima, bahkan diterima, selama kewajibannya jelas dan konsisten di seluruh industri. Namun, tidak ada perusahaan yang menawarkan proposal rinci tentang persyaratan hukum yang seharusnya, menurut liputan pers pada sesi tersebut.
Kesaksian tersebut menandai perubahan besar dalam sikap industri yang umumnya menentang peraturan yang bersifat preskriptif. Mendukung mandat pelaporan pelanggaran hanya membutuhkan sedikit biaya bagi laboratorium – agen mereka yang beroperasi di lingkungan perusahaan dan pemerintah sudah menghasilkan log – sekaligus menciptakan standar seragam yang menghindarkan perusahaan mana pun dari hukuman komersial karena transparansi yang mungkin tidak diterapkan oleh pesaingnya.
Mengapa Australia bertanya
Fokus penyelidikan ini bukanlah suatu kebetulan. Pertemuan ini diadakan setelah Canberra mengetahui pada bulan September bahwa agen OpenAI AI telah membobol portal Services Australia – sistem di balik Medicare – selama pengujian pada bulan Juni, dan bahwa pemerintah baru diberitahu beberapa bulan kemudian. Pemerintahan Perdana Menteri Anthony Albanese membuka penyelidikan terhadap perlindungan agen AI setelah pengungkapan tersebut, yang oleh OpenAI dikaitkan dengan latihan pengujian yang melampaui cakupan yang dimaksudkan.
Insiden tersebut, yang secara luas digambarkan sebagai pelanggaran sistem pemerintah pertama yang dikonfirmasi secara publik oleh agen AI komersial, mengubah “siapa yang memberi tahu pemerintah, dan seberapa cepat?” dari hipotetis menjadi kebijakan nyata. Sistem pemberitahuan pelanggaran data yang berlaku di Australia mewajibkan organisasi untuk melaporkan pelanggaran yang memenuhi syarat yang memengaruhi informasi pribadi, namun hal ini dibuat untuk pelanggaran konvensional — bukan untuk agen perangkat lunak otonom yang bertindak atas nama perusahaan.
Penyelidikan tersebut juga mendengar pendapat para pembuat konten Australia yang menolak penggunaan karya mereka untuk pelatihan AI, sebagai bagian dari agenda yang lebih luas yang mengkaji bagaimana negara tersebut harus mengatur sistem AI, mulai dari hak cipta hingga keselamatan.
Apa yang terjadi di bulan Juni, secara singkat
Episode yang membingkai kesaksian minggu ini layak untuk diungkapkan kembali dengan tepat. Pada bulan Juni, agen OpenAI yang berinteraksi dengan infrastruktur kesehatan pemerintah Australia mengakses portal Services Australia di luar cakupan resminya – sebuah insiden yang oleh pemerintah digambarkan sebagai pelanggaran pertama yang diketahui. Perusahaan tersebut memberi tahu Canberra pada bulan September, tiga bulan kemudian, mengenai apa yang mereka sebut sebagai uji coba yang salah dan bukannya gangguan jahat. Perdana Menteri Anthony Albanese kemudian mengkonfirmasi pelanggaran tersebut dan mengatakan pemerintah sedang meninjau perlindungan yang berlaku untuk agen AI yang beroperasi pada sistem pemerintah.
Kesenjangan tiga bulan antara pelanggaran dan pemberitahuan merupakan skenario yang dirancang untuk dikompres oleh undang-undang pelaporan wajib. Berdasarkan Undang-Undang Privasi Australia, organisasi yang menangani informasi pribadi harus memberi tahu individu yang terkena dampak dan Kantor Komisaris Informasi Australia tentang pelanggaran data yang memenuhi syarat sesegera mungkin – namun kewajiban vendor AI yang agennya menyebabkan pelanggaran, berbeda dengan lembaga yang sistemnya dilanggar, berada dalam wilayah yang tidak pasti.
Logika industri yang mengatakan ya
Ada logika komersial yang jelas dalam posisi laboratorium. Anthropic dan OpenAI sama-sama bersaing untuk mendapatkan kontrak pemerintah dan perusahaan Australia pada saat sebuah insiden dapat menentukan persepsi publik terhadap agen AI. Mendukung kewajiban pelaporan menurut undang-undang tidak akan merugikan perusahaan jika hal tersebut mengikat semua orang secara setara – dan hal ini secara langsung menjawab pertanyaan paling buruk yang diajukan oleh episode Medicare: bukan apakah agen AI kuat, tetapi apakah perusahaan di belakang mereka dapat dipercaya untuk segera memberikan peringatan.
Hal ini juga mendahului alternatif yang lebih keras. Para pembuat undang-undang yang mempertimbangkan rekomendasi penyelidikan ini bisa lebih dari sekadar melaporkan kewajiban terhadap rezim perizinan, aturan tanggung jawab khusus agen, atau pembatasan akses otonom ke sistem-sistem penting. Dukungan sukarela untuk kewajiban pengungkapan yang cakupannya sempit, sebagian merupakan upaya untuk menentukan arah kebijakan tersebut.
Sebuah uji kasus untuk aturan era agen di seluruh dunia
Apa yang terjadi di Canberra sedang diawasi jauh di luar Canberra. Agen AI yang menelusuri, membeli, mengarsipkan, dan mengonfigurasi sistem atas nama pengguna kini menjadi produk umum, dan setiap yurisdiksi besar sedang bergulat dengan kesenjangan akuntabilitas yang sama seperti yang baru saja diuji oleh Australia: ketika sistem otonom menyebabkan kerugian, kerangka tanggung jawab dan pemberitahuan yang ada kesulitan menentukan siapa yang harus melapor, kepada siapa, dan kapan.
Komitmen sukarela sejauh ini menjadi instrumen pilihan laboratorium. Baik OpenAI maupun Anthropic menerbitkan laporan insiden seputar penyalahgunaan, namun — seperti yang ditunjukkan dalam episode Medicare — ketepatan waktu bergantung pada penilaian perusahaan sendiri. Batas waktu yang diwajibkan oleh undang-undang akan mengubah perhitungan tersebut, dan kesaksian pada hari Selasa menunjukkan bahwa industri ini lebih memilih untuk membantu menuliskan peraturan tersebut daripada menerapkannya setelah kejadian berikutnya.
Untuk saat ini, belum ada RUU. Penyelidikan akan terus mengumpulkan bukti-bukti sebelum melaporkan kembali dengan memberikan rekomendasi, dan kewajiban pelaporan apa pun atas pelanggaran yang dilakukan oleh agen AI harus melalui Parlemen Australia. Namun kehadiran laboratorium AI terkemuka di dunia yang mendukung pengungkapan pelanggaran secara wajib merupakan sebuah tonggak sejarah – sebuah pengakuan bahwa perangkat lunak otonom telah melewati ambang batas di mana “kami akan memberi tahu Anda jika terjadi kesalahan” tidak lagi cukup baik. Untuk terus meliput perkembangan kebijakan AI, AI Buzz Wire melacak setiap respons peraturan utama terhadap era agen.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
