Susu dan mesin basuh pada masa ini lebih terkawal daripada kecerdasan buatan, menurut presiden Microsoft - dan itu, Brad Smith berpendapat, betul-betul mundur.
Bercakap kepada Temubual Big Boss BBC dalam kenyataan yang diterbitkan Ahad, Smith meminta peraturan keselamatan global untuk AI, termasuk kewajipan undang-undang untuk memberitahu "mangsa" apabila sistem mereka telah dilanggar oleh ejen AI penyangak, dan rangka kerja untuk memutuskan bila penilai bebas harus menandatangani produk AI sebelum ia dihantar. Komennya meletakkan beliau secara terbuka bertentangan dengan Presiden AS Donald Trump, yang berpendapat sektor itu harus mengawal selia sendiri supaya firma Amerika tidak kehilangan tempat kepada pesaing China. For more context on this story, see our ongoing latest AI developments.
"Pada masa ini, mesin basuh anda tertakluk kepada lebih banyak peraturan keselamatan daripada AI," kata Smith. "Setiap karton susu yang anda lihat di kedai runcit tertakluk pada peraturan keselamatan dan pemeriksaan."
Alat dan Senjata
Smith menyifatkan AI sebagai kedua-dua "alat dan senjata" yang memerlukan pengawalseliaan segera, sambil menambah: "Mari kita mulakan hari ini."
Cadangannya lebih konkrit daripada boilerplate peraturan biasa. Syarikat harus membina "brek kecemasan" — apa yang industri sering panggil suis bunuh — yang boleh menjeda atau memperlahankan sistem AI jika ia tidak terkawal. Firma harus diwajibkan secara sah untuk menulis laporan insiden dan memberitahu mangsa apabila AI menjadi penyangak. Dan penilai kerajaan bebas harus memeriksa teknologi AI baharu sebelum dikeluarkan.
"Kami tahu cara melakukan ini untuk produk lain," kata Smith. "Kita harus membina pengetahuan itu dan memikirkan cara menerapkannya kepada AI."
Campur tangan mendarat dalam minggu demam untuk pengawasan AI. Beberapa hari sebelum itu, Ketua Pegawai Eksekutif Microsoft sendiri, Satya Nadella, meminta brek kecemasan yang membolehkan manusia menutup sistem AI pada pertengahan tugas - kedudukan yang menarik untuk ketua salah satu vendor AI terbesar di dunia, dan yang kini kelihatan sebagai doktrin syarikat dan bukannya renungan seorang eksekutif.
Berpecah Dengan Rumah Putih
Pandangan Smith berbeza secara mendadak daripada pandangan presidennya. Trump telah berulang kali mengatakan bahawa "sesiapa yang memenangi AI, menang" — dan telah menolak panggilan daripada ketua Anthropic, OpenAI dan Google DeepMind, yang semuanya menyokong idea kelembapan pembangunan AI.
Namun Smith juga mencadangkan geseran itu lebih kecil daripada yang kelihatan. Pada penghujung bulan lalu, Trump menjadi tuan rumah kepada pemimpin OpenAI, Anthropic, Nvidia, SpaceX, Meta dan Google di White House, di mana para eksekutif menandatangani dokumen yang disifatkan sebagai dokumen yang "mengikat moral" yang memberi komitmen kepada mereka untuk bekerjasama dengan juruaudit bebas untuk menilai sama ada sistem AI mereka berfungsi seperti yang diharapkan - dan bukan untuk "menggodam atau mengakses sistem teknikal dengan cara yang tidak diingini."
Smith memuji kenyataan itu dan berkata Microsoft "berbesar hati untuk menandatanganinya." Tetapi, dia menambah: "Ia satu langkah yang baik, ia adalah satu langkah yang perlu... Tetapi saya rasa ia tidak mencukupi lagi."
Alasannya memotong kepada masalah teras rejim sukarela: "Syarikat yang baik akan melakukan apa yang anda mahu," katanya. "Syarikat yang tidak bertanggungjawab itulah yang anda perlu risaukan."
Mengapa Dia Berfikir Britain Perlu Menulis Peraturan
Bahagian temu bual yang paling dimuatkan secara geopolitik ialah pengesahan Smith terhadap United Kingdom sebagai pengarang semula jadi peraturan AI global, menunjuk kepada Institut Keselamatan AI UK — dilancarkan di bawah kerajaan bekas perdana menteri Rishi Sunak sebagai Institut Keselamatan AI — yang menguji model paling berkuasa di dunia sebelum dikeluarkan.
"Dalam dunia teknologi, dalam sektor teknologi, kebanyakan orang yang saya kenali akan berkata, jika anda bertanya kepada mereka, namakan negara yang menjadi peneraju dalam memiliki keupayaan teknikal ini, mereka akan berkata, ia sangat mudah. Ia adalah United Kingdom. Mereka adalah yang terbaik," kata Smith.
Beliau juga berhujah bahawa kerajaan AS akan menerima piawaian buatan UK lebih mudah daripada peraturan gaya Brussels: "Di Washington DC, orang ramai tidak melihat UK dan mereka tidak melihat London seperti cara mereka melihat Brussels - itu adalah kekuatan."
Kesnya untuk mendesak adalah tumpul. "Apabila anda melihat ejen AI yang telah terlepas daripada kawalan manusia, apabila anda melihat model yang begitu berkuasa sehingga mereka meletakkan keselamatan siber dunia pada risiko, saya akan berkata: Saatnya telah tiba," kata Smith. "Mari kita bercakap dengan tenang, mungkin juga dengan lembut, tetapi tegas, dan mula menyatukan orang ramai. Saya harap itulah peranan yang boleh kita mainkan sebagai sebuah syarikat. Saya harap itulah peranan yang boleh dimainkan oleh UK sebagai sebuah negara."
Skrin Pisah Jarang dalam Dasar Teknologi
Adalah luar biasa bagi presiden syarikat yang sedang duduk untuk melobi peraturan yang lebih keras dalam industrinya sendiri manakala CEOnya membuat kes yang sama dari peringkat yang berbeza. Campur tangan Microsoft yang bertanding — brek kecemasan Nadella dan panggilan Smith untuk melaporkan insiden mandatori, pemberitahuan mangsa dan penilaian bebas — menandakan bahawa sekurang-kurangnya satu vendor utama telah membuat kesimpulan bahawa kepercayaan, bukan keupayaan, menjadi kekangan yang mengikat pada penggunaan AI.
Mereka juga memberikan hujah yang tepat pada masanya kepada kerajaan UK. Whitehall telah menghabiskan minggu lalu menyerap amaran daripada ketua perisikannya sendiri, sementara para menteri mempertimbangkan sama ada akan menyertai panggilan antarabangsa untuk piawaian keselamatan AI yang diselaraskan yang Washington setakat ini enggan menandatangani. Apabila presiden Microsoft mengatakan UK adalah "yang terbaik" dalam kedudukan untuk menulis buku peraturan, Downing Street memperoleh kedua-dua pengesahan dan jemputan yang sukar untuk diabaikan.
Sama ada pembingkaian kadbod susu Smith mengubah sebarang undi di Washington adalah perkara lain. Tetapi sebagai kenyataan di mana salah seorang pembina terbesar AI mahu perbahasan kawal selia dijalankan — brek mandatori, pelaporan mandatori, sign-off bebas — temu bual itu mungkin diingati sebagai penanda dalam peralihan daripada ikrar sukarela kepada peraturan yang boleh dikuatkuasakan.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
