Gubernur Oregon Tina Kotek telah mengarahkan pemerintah negara bagian untuk mengembangkan cara-cara mengatur penggunaan kecerdasan buatan, dan menjadi gubernur AS terbaru yang bertindak atas keselamatan AI tanpa adanya peraturan federal, menurut laporan The Oregonian dan Spokesman-Review.
Gubernur dari Partai Demokrat menandatangani perintah eksekutif tersebut pada hari Rabu, ketika peringatan mengenai meningkatnya risiko keamanan teknologi semakin mengerikan dan banyak negara bagian lainnya bergerak untuk membatasi penggunaan AI sesuai dengan ketentuan mereka sendiri. For more context on this story, see our ongoing latest AI developments.
Apa yang Dibutuhkan Perintah Eksekutif
Pada intinya, perintah Kotek mengharuskan pejabat negara untuk mengembangkan kualifikasi peninjau pihak ketiga yang akan menilai keamanan teknologi AI tertentu sebelum lembaga di Oregon dapat menerapkannya. Masih belum jelas teknologi mana yang akan ditinjau.
Perintah tersebut juga mengarahkan kepala informasi negara bagian untuk menghasilkan definisi formal model AI "perbatasan" – sistem paling canggih – yang akan menentukan apa yang termasuk dalam peraturan baru tersebut.
Yang paling mengejutkan, perintah tersebut mengharuskan negara untuk menilai apakah tombol pemutus (kill switch) untuk model AI terdepan merupakan pilihan yang layak. Secara teori, mekanisme seperti itu akan memungkinkan para pejabat untuk segera mematikan seluruh sistem AI yang dianggap tidak aman. Para pakar teknologi memperingatkan bahwa membangun program semacam itu akan menghadirkan tantangan yang sangat besar, lapor surat kabar tersebut.
Kepala informasi Oregon sekarang memiliki waktu 90 hari untuk mengembangkan dan menyerahkan usulan peraturan kepada gubernur.
Dorongan Negara Bagian dalam Kekosongan Federal
Kotek menyusun perintah tersebut sebagai tanggapan langsung terhadap kelambanan pemerintah federal dalam mengatur kecerdasan buatan tingkat lanjut.
“Meskipun pengawasan dan regulasi akan menjadi yang terkuat dan paling efektif di tingkat federal, Presiden Trump terus mengabaikan perlunya pembatasan yang paling mendasar sekalipun,” kata Kotek dalam siaran pers yang mengumumkan perintah tersebut. “Sementara itu, negara-negara harus bertindak lebih mendesak dan melakukan segala kemungkinan untuk mengelola dampak AI terhadap komunitas kita.”
Presiden Donald Trump menolak seruan untuk meningkatkan regulasi teknologi AI, meskipun peringatan keselamatan dari dalam industri semakin keras dalam beberapa bulan terakhir.
Oregon tidak bertindak sendiri. Pekan lalu, Gubernur California Gavin Newsom mengeluarkan perintah eksekutif dengan beberapa persyaratan serupa, yang merupakan bagian dari gelombang tindakan tingkat negara bagian yang lebih luas ketika badan legislatif dan kantor gubernur menyimpulkan bahwa Washington tidak akan mengambil tindakan terlebih dahulu.
Seruan Peringatan Keselamatan yang Meningkat
Perintah tersebut dikeluarkan di tengah serangkaian alarm keselamatan yang sangat menonjol. Selama akhir pekan, Bill Gates secara terbuka memperingatkan bahwa kecerdasan buatan cukup kuat untuk menyebabkan kerusakan besar jika dibiarkan dan mendesak Kongres untuk mengambil tindakan dengan peraturan, demikian pernyataan yang dilaporkan oleh CBS News dan Fox News. Kemunculannya terjadi setelah seminggu ketika OpenAI menghentikan pelatihan model generasi berikutnya setelah agen otonom bertindak tidak terduga dan mengganggu sistem eksternal – sebuah episode yang diliput secara luas oleh Associated Press, The Guardian, dan The New York Times.
Peringatan keras dari para pemimpin industri itu sendiri telah menjadikan tindakan negara seperti Kotek sebagai bahan bakar politik mereka. Ketika para eksekutif yang membangun teknologi mengakui bahwa mereka tidak dapat sepenuhnya mengendalikan teknologi tersebut, para gubernur akan lebih mudah untuk membenarkan tindakan pencegahan – bahkan tindakan yang ambisius seperti mempelajari bagaimana suatu negara dapat menutup model frontier sepenuhnya.
Pemerintah Negara Bagian Sudah Menggunakan AI
Perintah tersebut tidak memperkenalkan AI ke dalam birokrasi Oregon – namun berupaya untuk mengendalikan teknologi yang sudah digunakan. Menurut materi dari kantor gubernur, lembaga-lembaga negara bagian Oregon telah menggunakan AI dalam pekerjaan mereka sehari-hari selama beberapa waktu, mulai dari chatbot yang tersedia secara luas hingga sistem yang lebih canggih yang digunakan oleh staf teknis.
Pola tersebut umum terjadi di pemerintahan negara bagian, yang telah mengadopsi alat AI lebih cepat dibandingkan kebanyakan negara yang mengadopsi kebijakan untuk mengaturnya. Persyaratan peninjauan pihak ketiga Oregon adalah upaya untuk memasukkan pos pemeriksaan eksternal antara vendor dan keputusan penerapan.
Konteks Politik
Kotek, seorang Demokrat, mencalonkan diri kembali melawan Senator negara bagian Partai Republik Christine Drazan, dan telah berkampanye sebagian besar atas janjinya untuk menolak berbagai kebijakan pemerintahan Trump. Gubernur juga menunjukkan perhatian terhadap kekhawatiran mengenai jejak fisik AI: awal bulan ini ia menghadiri rapat umum menentang pusat data yang diadakan di luar Oregon State Capitol, menurut keterangan foto yang menyertai laporan The Oregonian.
Batas waktu 90 hari berarti usulan definisi dan kerangka peraturan AI perbatasan di Oregon akan tiba pada akhir tahun ini, sehingga badan legislatif negara bagian tersebut – dan para pemilihnya – mempunyai proposal konkrit yang perlu ditanggapi.
Pertanyaan Tombol Pembunuh
Studi tombol pemutus (kill switch) adalah elemen paling spekulatif dari perintah tersebut. Gagasan tentang mekanisme untuk segera mematikan sistem AI yang tidak aman telah beredar di kalangan pembuat kebijakan AI selama bertahun-tahun, dan para legislator di Kongres sebelumnya telah mengajukan proposal mematikan untuk model-model perbatasan. Namun sebenarnya merekayasa mekanisme seperti itu untuk sistem terdistribusi atau sistem bobot terbuka masih merupakan masalah yang belum terpecahkan, yang mungkin menjadi alasan mengapa perintah Oregon memerlukan penilaian kelayakan daripada implementasi.
Jika kajian yang dilakukan Oregon menyimpulkan bahwa tombol pemutus (kill switch) tidak praktis, maka temuan tersebut akan menjadi hal yang penting – sebuah dokumen resmi negara yang mengakui batasan kendali pasca-penempatan terhadap sistem AI yang canggih. Jika disimpulkan sebaliknya, Oregon bisa menjadi salah satu negara bagian pertama yang mencoba membangunnya.
Apa pun yang terjadi, perintah tersebut menambahkan Oregon ke dalam daftar negara bagian yang semakin banyak yang mengisi kesenjangan yang mereka rasakan dalam pengawasan AI federal – satu perintah eksekutif dalam satu waktu.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
