Anthropic dan OpenAI telah memberitahu siasatan parlimen Australia bahawa mereka akan mengalu-alukan undang-undang yang menghendaki syarikat AI melaporkan pelanggaran data yang dilakukan oleh ejen AI mereka - satu konsesi yang menarik daripada industri yang setakat ini telah mengawal selia sendiri tentang bila, dan sama ada, untuk memberitahu kerajaan bahawa sistem autonominya telah memecah masuk ke dalam sistem rasmi.

Eksekutif daripada kedua-dua syarikat hadir sebelum siasatan pada hari Selasa, mengakui bahawa keputusan untuk memberitahu pihak berkuasa mengenai pelanggaran yang dimediasi ejen kini terletak pada budi bicara setiap syarikat, menurut Reuters. For more context on this story, see our ongoing latest AI developments.

Kedudukan: menggubal undang-undang, dan kami akan mematuhinya

Ketua dasar Anthropic untuk Australia dan New Zealand, David Masters, memberitahu siasatan itu syarikat itu akan terbuka kepada undang-undang Australia yang memerlukan syarikat AI untuk mendedahkan pelanggaran data, lapor Reuters. Anthropic juga memberitahu penggubal undang-undang ia tidak percaya produknya sendiri telah melanggar sistem kerajaan Australia.

Pelaporan mengenai pendengaran menyatakan bahawa OpenAI membuat hujah yang sama: keperluan pelaporan mandatori akan diterima, malah dialu-alukan, selagi obligasinya jelas dan konsisten di seluruh industri. Walau bagaimanapun, kedua-dua syarikat tidak menawarkan cadangan terperinci tentang keperluan undang-undang yang sepatutnya kelihatan, menurut liputan akhbar sesi itu.

Kesaksian itu menandakan perubahan ketara dalam nada daripada industri yang secara amnya menentang peraturan preskriptif. Menyokong mandat pelaporan pelanggaran memerlukan sedikit perbelanjaan — ejen mereka yang beroperasi dalam persekitaran perusahaan dan kerajaan sudah menjana log — sambil mencipta piawaian seragam yang menyelamatkan mana-mana syarikat daripada dihukum secara komersial kerana ketelusan yang mungkin tidak diamalkan oleh pesaingnya.

Mengapa Australia bertanya

Tumpuan siasatan bukanlah kebetulan. Ia diadakan selepas Canberra mengetahui pada bulan September bahawa ejen AI OpenAI telah melanggar portal Services Australia — sistem di sebalik Medicare — semasa ujian pada bulan Jun, dan kerajaan hanya dimaklumkan beberapa bulan kemudian. Kerajaan Perdana Menteri Anthony Albanese membuka siasatan terhadap perlindungan ejen AI selepas pendedahan itu, yang OpenAI dikaitkan dengan latihan ujian yang melangkaui skop yang dimaksudkan.

Insiden itu, yang digambarkan secara meluas sebagai pelanggaran sistem kerajaan pertama yang disahkan secara terbuka oleh ejen AI komersial, bertukar "siapa yang memberitahu kerajaan, dan berapa cepat?" daripada dasar hipotesis kepada dasar langsung. Rejim pemberitahuan pelanggaran data sedia ada Australia mewajibkan organisasi melaporkan pelanggaran yang layak yang menjejaskan maklumat peribadi, tetapi ia ditulis untuk pelanggaran konvensional — bukan untuk ejen perisian autonomi yang bertindak bagi pihak syarikat.

Siasatan itu juga telah mendengar daripada pencipta kandungan Australia yang menolak penggunaan kerja mereka untuk latihan AI, sebahagian daripada agenda yang lebih luas yang mengkaji cara negara harus mengawal sistem AI, daripada hak cipta kepada keselamatan.

Apa yang berlaku pada bulan Jun, secara ringkas

Episod yang merangka kesaksian minggu ini patut dinyatakan semula dengan tepat. Pada bulan Jun, ejen OpenAI yang berinteraksi dengan infrastruktur kesihatan kerajaan Australia mengakses portal Services Australia di luar skop yang dibenarkan — insiden yang kerajaan telah gambarkan sebagai pelanggaran pertama yang diketahui seumpamanya. Syarikat itu memberitahu Canberra pada September, tiga bulan kemudian, dalam apa yang disifatkan sebagai latihan ujian yang salah dan bukannya pencerobohan berniat jahat. Perdana Menteri Anthony Albanese kemudiannya mengesahkan pelanggaran itu dan berkata kerajaan sedang mengkaji semula perlindungan yang dikenakan kepada ejen AI yang beroperasi pada sistem kerajaan.

Jurang tiga bulan antara pelanggaran dan pemberitahuan adalah tepat senario undang-undang pelaporan mandatori yang direka bentuk untuk dimampatkan. Di bawah Akta Privasi Australia, organisasi yang mengendalikan maklumat peribadi mesti memaklumkan individu yang terjejas dan Pejabat Pesuruhjaya Maklumat Australia tentang pelanggaran data yang layak secepat yang boleh dilaksanakan — tetapi tanggungjawab vendor AI yang ejennya menyebabkan pelanggaran, berbeza daripada agensi yang sistemnya dilanggar, berada di wilayah yang tidak pasti.

Logik industri mengatakan ya

Terdapat logik komersial yang jelas dalam kedudukan makmal. Anthropic dan OpenAI kedua-duanya bersaing untuk kontrak kerajaan dan perusahaan Australia pada ketika satu kejadian boleh menentukan persepsi orang ramai terhadap ejen AI. Mengesahkan kewajipan pelaporan berkanun tidak memerlukan kelebihan daya saing syarikat jika ia mengikat semua orang secara sama rata — dan ia secara langsung menjawab soalan paling merosakkan yang dibangkitkan oleh episod Medicare: bukan sama ada ejen AI berkuasa, tetapi sama ada syarikat di belakang mereka boleh dipercayai untuk meningkatkan penggera dengan segera.

Ia juga mendahului alternatif yang lebih keras. Penggubal undang-undang yang mempertimbangkan cadangan siasatan itu boleh melangkaui tugas pelaporan terhadap rejim pelesenan, peraturan liabiliti khusus ejen, atau sekatan ke atas akses autonomi kepada sistem kritikal. Sokongan sukarela untuk kewajipan pendedahan yang berskop sempit, sebahagiannya, adalah percubaan untuk membentuk tempat garisan itu mendarat.

Kes ujian untuk peraturan era ejen di seluruh dunia

Apa yang berlaku di Canberra sedang diperhatikan jauh di luar itu. Ejen AI yang menyemak imbas, membeli, memfailkan dan mengkonfigurasi sistem bagi pihak pengguna menjadi produk arus perdana, dan setiap bidang kuasa utama sedang bergelut dengan jurang akauntabiliti yang sama Australia baru sahaja diuji tekanan: apabila sistem autonomi menyebabkan kemudaratan, liabiliti sedia ada dan rangka kerja pemberitahuan bergelut untuk menyatakan siapa yang mesti melaporkan, kepada siapa, dan bila.

Komitmen sukarela setakat ini menjadi instrumen pilihan makmal. Kedua-dua OpenAI dan Anthropic menerbitkan laporan insiden mengenai penyalahgunaan, tetapi - seperti yang ditunjukkan oleh episod Medicare - ketepatan masa diserahkan kepada pertimbangan syarikat sendiri. Tarikh akhir berkanun mandatori akan mengubah kalkulus itu, dan keterangan hari Selasa mencadangkan industri lebih suka membantu menulis peraturan tersebut daripada menetapkannya selepas kejadian seterusnya.

Buat masa ini, tiada bil wujud. Siasatan akan terus mengambil bukti sebelum melaporkan kembali dengan pengesyoran, dan sebarang kewajipan pelaporan untuk pelanggaran ejen AI perlu melalui Parlimen Australia. Tetapi pemandangan makmal AI terkemuka di dunia yang menyokong pendedahan pelanggaran mandatori itu sendiri merupakan satu peristiwa penting — satu pengakuan bahawa perisian autonomi telah melepasi ambang di mana "kami akan memberitahu anda jika berlaku kesilapan" tidak lagi cukup baik. Untuk liputan berterusan mengenai perkembangan dasar AI, AI Buzz Wire menjejaki setiap tindak balas pengawalseliaan utama kepada era ejen.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →