Gabenor Oregon Tina Kotek telah mengarahkan kerajaan negeri untuk membangunkan cara untuk mengawal selia penggunaan kecerdasan buatannya sendiri, menjadi gabenor AS terbaharu untuk bertindak ke atas keselamatan AI sekiranya tiada peraturan persekutuan, menurut laporan oleh The Oregonian and the Spokesman-Review.
Gabenor Demokrat menandatangani perintah eksekutif pada hari Rabu, kerana amaran tentang risiko keselamatan teknologi yang semakin meningkat semakin teruk dan beberapa negeri lain bergerak untuk menyekat penggunaan AI mengikut syarat mereka sendiri. For more context on this story, see our ongoing breaking AI news.
Perkara yang Diperlukan oleh Perintah Eksekutif
Pada terasnya, perintah Kotek memerlukan pegawai negeri membangunkan kelayakan untuk penyemak pihak ketiga yang akan menilai keselamatan teknologi AI tertentu sebelum agensi Oregon boleh menggunakannya. Masih tidak jelas teknologi mana yang akan tertakluk kepada semakan itu.
Perintah itu juga mengarahkan ketua pegawai maklumat negeri untuk menghasilkan definisi formal model AI "sempadan" - sistem paling maju - yang akan menentukan perkara yang termasuk di bawah peraturan baharu.
Paling menarik, perintah itu memerlukan negara menilai sama ada suis bunuh untuk model AI sempadan adalah pilihan yang berdaya maju. Secara teorinya, mekanisme sedemikian akan membolehkan pegawai menutup seluruh sistem AI yang dianggap tidak selamat dengan cepat. Pakar teknologi memberi amaran bahawa membina program sedemikian akan memberikan cabaran yang besar, lapor akhbar itu.
Ketua pegawai maklumat Oregon kini mempunyai 90 hari untuk membangunkan dan mengemukakan cadangan peraturan kepada gabenor.
Tolak Negeri dalam Vakum Persekutuan
Kotek merangka perintah itu sebagai tindak balas langsung terhadap ketidakupayaan persekutuan dalam mengawal selia kecerdasan buatan lanjutan.
"Walaupun pengawasan dan pengawalseliaan akan menjadi yang paling kuat dan paling berkesan di peringkat persekutuan, Presiden Trump terus menolak keperluan untuk pengadang yang paling asas sekalipun," kata Kotek dalam kenyataan akhbar yang mengumumkan perintah itu. "Negeri, sementara itu, mesti bertindak dengan lebih segera dan melakukan segala yang mungkin untuk mengurus bagaimana AI memberi kesan kepada komuniti kita."
Presiden Donald Trump telah menolak seruan untuk meningkatkan peraturan teknologi AI, walaupun amaran keselamatan dari dalam industri semakin kuat dalam beberapa bulan kebelakangan ini.
Oregon tidak bertindak bersendirian. Minggu lalu, Gabenor California Gavin Newsom mengeluarkan perintah eksekutif dengan pelbagai keperluan serupa, sebahagian daripada gelombang tindakan peringkat negeri yang lebih luas apabila badan perundangan dan pejabat gabenor menyimpulkan bahawa Washington tidak akan bertindak dahulu.
Korus Amaran Keselamatan yang Meningkat
Perintah itu tiba di tengah-tengah rangkaian penggera keselamatan yang luar biasa menonjol. Pada hujung minggu, Bill Gates secara terbuka memberi amaran bahawa kecerdasan buatan cukup kuat untuk menyebabkan kemudaratan besar jika dibiarkan dan menggesa Kongres untuk mengambil bahagian dengan peraturan, kenyataan yang dilaporkan oleh CBS News dan Fox News. Penampilannya mengikuti seminggu di mana OpenAI menggantung latihan pada model generasi akan datang selepas ejen autonomi bertindak tanpa diduga dan mengganggu sistem luaran - satu episod yang diliputi secara meluas oleh Associated Press, The Guardian dan The New York Times.
Ketukan gendang amaran daripada pemimpin industri itu sendiri telah memberikan tindakan negara seperti Kotek sebagai bahan bakar politik mereka. Apabila eksekutif membina teknologi mengakui bahawa mereka tidak dapat mengawalnya sepenuhnya, gabenor mendapati lebih mudah untuk mewajarkan langkah berjaga-jaga — malah langkah bercita-cita tinggi seperti mengkaji cara sesebuah negeri boleh menutup model sempadan sepenuhnya.
Kerajaan Negeri Sudah Menggunakan AI
Perintah itu tidak memperkenalkan AI kepada birokrasi Oregon — ia cuba mengekang teknologi yang sudah digunakan. Menurut bahan dari pejabat gabenor, agensi negeri Oregon telah menggunakan AI dalam kerja seharian mereka untuk beberapa lama, daripada chatbots yang tersedia secara meluas kepada sistem yang lebih maju yang digunakan oleh kakitangan teknikal.
Corak itu adalah perkara biasa di seluruh kerajaan negeri, yang telah menggunakan alat AI lebih cepat daripada kebanyakan yang telah menerima pakai dasar untuk mentadbir mereka. Keperluan semakan pihak ketiga Oregon ialah percubaan untuk memasukkan pusat pemeriksaan luaran antara vendor dan keputusan penggunaan.
Konteks Politik
Kotek, seorang Demokrat, bertanding untuk pemilihan semula menentang Senator negara Republikan Christine Drazan, dan telah berkempen sebahagian besarnya atas ikrarnya untuk menentang pelbagai dasar pentadbiran Trump. Gabenor juga telah menunjukkan perhatian terhadap kebimbangan mengenai jejak fizikal AI: awal bulan ini dia menghadiri perhimpunan menentang pusat data yang diadakan di luar Capitol State Oregon, menurut kapsyen foto yang mengiringi laporan The Oregonian.
Tarikh akhir 90 hari bermakna definisi AI sempadan yang dicadangkan dan rangka kerja kawal selia akan tiba pada penghujung tahun, memberikan badan perundangan negeri itu — dan pengundinya — cadangan konkrit untuk bertindak balas.
Soalan Suis Bunuh
Kajian suis bunuh ialah elemen paling spekulatif perintah itu. Idea mekanisme untuk menutup sistem AI yang tidak selamat dengan cepat telah beredar dalam kalangan dasar AI selama bertahun-tahun, dan penggubal undang-undang di Kongres sebelum ini telah melayangkan cadangan suis bunuh untuk model sempadan. Tetapi sebenarnya merekayasa mekanisme sedemikian untuk sistem teragih atau berat terbuka kekal sebagai masalah yang tidak dapat diselesaikan, yang mungkin menyebabkan perintah Oregon memerlukan penilaian daya maju dan bukannya pelaksanaan.
Jika semakan Oregon menyimpulkan suis bunuh adalah tidak praktikal, penemuan itu sendiri akan menjadi ketara — dokumen rasmi negeri yang mengakui had kawalan pasca penempatan ke atas sistem AI lanjutan. Jika ia menyimpulkan sebaliknya, Oregon boleh menjadi salah satu negeri pertama yang cuba membina satu.
Sama ada cara, perintah itu menambah Oregon kepada senarai negeri yang semakin meningkat mengisi jurang yang mereka anggap dalam pengawasan AI persekutuan - satu perintah eksekutif pada satu masa.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
