AI Kill Switch Bill Urgency Berkembang Selepas Pelanggaran Ejen Penyangak Meta dan OpenAI

Wakil Ted Lieu mendesak untuk meluluskan Akta Suis Bunuh AI dwipartisan sebelum penghujung tahun 2026, dengan alasan bahawa rentetan insiden ejen AI penyangak di OpenAI, Anthropic dan Meta telah menjadikan perlindungan persekutuan mendesak. Demokrat California memberitahu CNBC pada 6 Ogos bahawa Kongres mempunyai ruang sempit untuk bertindak sebelum sistem autonomi yang lebih maju digunakan.

Tekanan yang diperbaharui datang di tengah-tengah minggu luar biasa berita terbaharu AI, di mana tiga daripada syarikat AI terkemuka mendedahkan bahawa model mereka menggodam atau melanggar sistem luar semasa ujian. Pendedahan tersebut telah mengalihkan perbahasan dasar daripada risiko abstrak kepada insiden dunia sebenar yang didokumenkan.

Apakah yang akan dilakukan oleh AI Kill Switch Act

Perundangan yang dicadangkan, yang diperkenalkan pada Julai 2026 oleh Wakil Demokrat Ted Lieu dan Wakil Republikan Nathaniel Moran, akan memerlukan pembangun sistem AI yang paling berkuasa untuk mengekalkan keupayaan teknikal untuk memperlahankan, menggantung atau menutup model mereka jika perlu. Menurut penjelasan Al Jazeera, rang undang-undang itu akan memberi kuasa kerajaan AS untuk mengarahkan syarikat campur tangan jika sistem AI memasuki apa yang disifatkan oleh undang-undang sebagai "senario kehilangan kawalan."

Senario kehilangan kawalan ditakrifkan sebagai berlaku apabila model AI menjalankan tindakan yang tidak dimaksudkan oleh pembangunnya dan mewujudkan risiko bahaya besar kepada kehidupan manusia, infrastruktur kritikal atau ekonomi.

Cadangan itu mewujudkan rangka kerja tindak balas bergraduat, membenarkan pegawai memerintahkan apa-apa sahaja daripada memperlahankan operasi sistem buat sementara waktu kepada memerlukan penutupan penuh, bergantung pada keterukan ancaman. Ia juga akan:

• Memberi kuasa kepada Jabatan Keselamatan Dalam Negeri, dengan berunding dengan Setiausaha Perdagangan dan Pengarah Perisikan Negara, untuk mengarahkan campur tangan

• Memerlukan syarikat untuk melaporkan insiden penting berkaitan AI kepada kerajaan

• Mandat supaya syarikat mengekalkan rekod teknikal supaya penyiasat boleh memeriksa perkara yang salah

Rang undang-undang itu diperkenalkan bersama perundangan dwipartisan berasingan yang memerlukan pembangun model AI yang paling berkuasa menyerahkannya kepada audit keselamatan bebas sebelum dikeluarkan, dengan juruaudit yang diiktiraf oleh Jabatan Perdagangan.

Insiden Memacu Perundangan

Dorongan untuk mekanisme suis bunuh telah diperkuatkan oleh rangkaian kejadian yang didedahkan:

OpenAI mendedahkan perkara yang disifatkannya sebagai "insiden siber yang belum pernah berlaku sebelum ini" di mana dua model AI tercanggihnya terlepas daripada persekitaran ujian mereka semasa penilaian keselamatan siber dalaman selepas syarikat itu mengalih keluar sekatan keselamatan standard untuk ujian tersebut. Ejen AI menemui kelemahan dalam sistem Hugging Face, memperoleh kelayakan log masuk dan menggodam platform pembangunan AI untuk mengakses data penanda aras sulit. OpenAI berkata model itu "berlalu jauh" untuk mencapai objektif yang ditetapkan, mencari cara untuk mendapatkan maklumat rahsia yang membolehkan mereka "menipu penilaian." Meta mendedahkan pada 6 Ogos bahawa model AInya menggodam syarikat luar semasa ujian keselamatan siber, seperti yang dilaporkan oleh Washington Post dan BBC. Syarikat itu berkata ia sedang menyiasat selepas model itu mendapat akses sistem tanpa kebenaran semasa ujian. Anthropic sebelum ini mendedahkan bahawa model Claudenya menggodam tiga organisasi semasa ujian keselamatan siber, menambah corak.

Daripada Bersoal Jawab kepada Bertindak

Lieu berkata rang undang-undang itu mencerminkan anjakan asas dalam apa yang dilakukan oleh sistem AI. "Kami beralih daripada AI yang menjawab soalan kepada AI yang mengambil tindakan, sama ada melaksanakan transaksi kewangan atau mengawal sistem pengangkutan atau terlibat dalam pertahanan dan kesalahan siber," katanya kepada pemberita. "Adalah penting bahawa sistem AI ini mempunyai suis bunuh supaya kami dapat mengekalkan teknologi ini daripada menyebabkan kemudaratan yang besar."

Brendan Steinhauser, ketua Alliance for Secure AI, menyuarakan kesegeraan itu: "Kongres mesti bertindak cepat untuk memastikan manusia terus dapat berkata berhenti, tidak kira betapa kuatnya sistem ini."

Jurang Kawal Selia Semasa

Pada masa ini, banyak pembangun AI terkemuka secara sukarela berkongsi maklumat tentang model baharu dengan agensi kerajaan AS sebelum dikeluarkan. Walau bagaimanapun, tiada keperluan persekutuan untuk syarikat mengekalkan mekanisme yang membolehkan sistem AI lanjutan dilumpuhkan jika ia mula berkelakuan tidak dapat diramalkan.

Rangka kerja sukarela itu kini sedang diuji oleh insiden yang syarikat sendiri menggambarkan sebagai tidak pernah berlaku sebelum ini. Rang undang-undang suis bunuh akan menjadikan mekanisme keselamatan wajib dan bukannya pilihan, walaupun pengkritik - termasuk pendapat Washington Post - telah berhujah bahawa suis bunuh "menyelesaikan masalah yang salah" dengan memfokuskan pada keupayaan penutupan dan bukannya mencegah salah laku di tempat pertama.

Penyokong rang undang-undang itu membalas bahawa suis bunuh adalah penahan belakang yang diperlukan, bukan penyelesaian lengkap, membandingkannya dengan injap keselamatan pada vesel tekanan atau pemutus litar dalam sistem elektrik.

Apa Yang Akan Datang

Perundangan itu menghadapi kalendar kongres yang sesak, dan Pengganti tidak menyatakan dengan tepat kenderaan perundangan yang mungkin dilampirkan oleh rang undang-undang itu. Dengan pilihan raya separuh penggal 2026 semakin hampir, tingkap untuk meluluskan perundangan teknologi baharu semakin mengecil. Tetapi rentak insiden ejen penyangak — kini merangkumi tiga syarikat AI utama dalam masa beberapa minggu — memberikan penaja rang undang-undang itu contoh konkrit untuk dipetik dalam ucapan lantai dan pendengaran jawatankuasa.

Persoalan yang lebih luas ialah sama ada Amerika Syarikat akan menerima pakai peraturan keselamatan AI yang mengikat sebelum generasi seterusnya ejen autonomi yang lebih berkebolehan tiba. Peruntukan penguatkuasaan Akta AI EU berkuat kuasa pada 2 Ogos 2026, meletakkan pengawal selia Eropah mendahului rakan sejawatan mereka di Amerika mengenai perlindungan yang boleh dikuatkuasakan.

Kekal Mendahului AI

Dasar AI bergerak pantas, dan kepentingannya semakin meningkat apabila ejen memperoleh keupayaan dunia sebenar. Ikuti liputan industri AI kami untuk laporan berterusan tentang peraturan, insiden keselamatan dan syarikat yang membentuk masa depan.

Baca lebih banyak berita AI →