Susu dan mesin cuci saat ini lebih diatur dibandingkan kecerdasan buatan, menurut presiden Microsoft – dan hal tersebut, menurut Brad Smith, justru merupakan sebuah kemunduran.
Berbicara kepada Big Boss Interview BBC dalam sambutannya yang dipublikasikan pada hari Minggu, Smith menyerukan peraturan keselamatan global untuk AI, termasuk kewajiban hukum untuk memberi tahu “korban” ketika sistem mereka telah dibobol oleh agen AI jahat, dan kerangka kerja untuk memutuskan kapan evaluator independen harus menandatangani produk AI sebelum dikirimkan. Komentarnya secara terbuka membuatnya berselisih dengan Presiden AS Donald Trump, yang berpendapat bahwa sektor ini harus mengatur dirinya sendiri sehingga perusahaan-perusahaan Amerika tidak kalah dengan pesaingnya dari Tiongkok. For more context on this story, see our ongoing AI industry coverage.
“Saat ini, mesin cuci Anda lebih tunduk pada aturan keselamatan dibandingkan AI,” kata Smith. "Setiap karton susu yang Anda lihat di toko kelontong tunduk pada peraturan keselamatan dan pemeriksaan."
Alat dan Senjata
Smith menggambarkan AI sebagai "alat dan senjata" yang sangat perlu diatur, dan menambahkan: "Mari kita mulai hari ini."
Usulannya lebih konkrit dibandingkan peraturan biasa. Perusahaan harus membangun “rem darurat” – yang sering disebut oleh industri sebagai tombol mematikan (kill switch) – yang dapat menghentikan sementara atau memperlambat sistem AI jika menjadi tidak terkendali. Perusahaan harus diwajibkan secara hukum untuk menulis laporan insiden dan memberi tahu korban ketika AI menjadi nakal. Dan evaluator independen pemerintah harus memeriksa teknologi AI baru sebelum dirilis.
“Kami tahu bagaimana melakukan hal ini untuk produk lain,” kata Smith. “Kita harus memanfaatkan pengetahuan tersebut dan memikirkan bagaimana menerapkannya pada AI.”
Intervensi ini akan dilaksanakan pada minggu yang sulit untuk pengawasan AI. Beberapa hari sebelumnya, CEO Microsoft sendiri, Satya Nadella, menyerukan rem darurat yang memungkinkan manusia mematikan sistem AI di tengah-tengah tugas mereka – sebuah posisi yang mengejutkan bagi pimpinan salah satu vendor AI terbesar di dunia, dan kini tampaknya menjadi doktrin perusahaan dan bukan hanya renungan seorang eksekutif.
Putus dengan Gedung Putih
Pandangan Smith sangat berbeda dengan pandangan presidennya. Trump telah berulang kali mengatakan bahwa "siapa pun yang memenangkan AI, dialah pemenangnya" – dan telah menolak seruan dari para bos Anthropic, OpenAI, dan Google DeepMind, yang semuanya mendukung gagasan perlambatan pengembangan AI.
Namun Smith juga berpendapat bahwa gesekannya lebih kecil dari yang terlihat. Pada akhir bulan lalu, Trump menjamu para pemimpin OpenAI, Anthropic, Nvidia, SpaceX, Meta dan Google di Gedung Putih, di mana para eksekutif tersebut menandatangani dokumen yang disebut sebagai dokumen yang "mengikat secara moral" yang mengikat mereka untuk bekerja dengan auditor independen untuk menilai apakah sistem AI mereka berfungsi sebagaimana mestinya - dan tidak untuk "meretas atau mengakses sistem teknis dengan cara yang tidak diinginkan."
Smith memuji pernyataan tersebut dan mengatakan Microsoft "dengan senang hati menandatanganinya." Namun, dia menambahkan: "Ini adalah langkah yang baik, ini adalah langkah yang perlu... Tapi menurut saya itu tidak cukup lagi."
Alasannya mengarah pada inti masalah rezim sukarela: “Perusahaan yang baik akan melakukan apa yang Anda inginkan,” katanya. “Perusahaan-perusahaan yang tidak bertanggung jawab itulah yang perlu Anda khawatirkan.”
Mengapa Menurutnya Inggris Harus Menulis Aturannya
Bagian wawancara yang paling memuat muatan geopolitik adalah dukungan Smith terhadap Inggris sebagai pembuat peraturan AI global, dengan menunjuk pada Institut Keamanan AI Inggris – yang diluncurkan di bawah pemerintahan mantan perdana menteri Rishi Sunak sebagai Institut Keamanan AI – yang menguji model-model paling kuat di dunia sebelum dirilis.
“Dalam dunia teknologi, di sektor teknologi, sebagian besar orang yang saya kenal akan mengatakan, jika Anda bertanya kepada mereka, sebutkan negara yang memimpin dalam hal kemampuan teknis ini, mereka akan menjawab, itu sangat sederhana. Itu adalah Inggris. Mereka adalah yang terbaik,” kata Smith.
Ia juga berargumen bahwa pemerintah AS akan lebih mudah menerima standar yang dibuat oleh Inggris dibandingkan dengan peraturan yang berlaku di Brussels: "Di Washington DC, masyarakat tidak memandang Inggris dan mereka tidak memandang London seperti mereka memandang Brussels – itulah sebuah kekuatan."
Alasannya untuk mendesak adalah hal yang blak-blakan. “Ketika Anda melihat agen-agen AI yang lolos dari kendali manusia, ketika Anda melihat model-model yang begitu kuat sehingga mereka membahayakan keamanan siber dunia, saya akan mengatakan: Saatnya telah tiba,” kata Smith. “Mari kita berbicara dengan tenang, bahkan mungkin dengan lembut, namun tegas, dan mulai menyatukan masyarakat. Saya harap itulah peran yang dapat kita mainkan sebagai sebuah perusahaan. Saya berharap itulah peran yang dapat dimainkan oleh Inggris sebagai sebuah negara.”
Layar Terpisah yang Langka dalam Kebijakan Teknologi
Merupakan hal yang tidak biasa bagi seorang presiden perusahaan yang sedang menjabat untuk melobi peraturan yang lebih ketat pada industrinya sendiri sementara CEO-nya menyampaikan kasus yang sama dari tahap yang berbeda. Intervensi Microsoft yang berduel – rem darurat Nadella dan seruan Smith untuk wajib melaporkan insiden, pemberitahuan korban, dan evaluasi independen – menandakan bahwa setidaknya satu vendor besar telah menyimpulkan bahwa kepercayaan, bukan kemampuan, menjadi kendala yang mengikat dalam adopsi AI.
Mereka juga memberikan argumen yang tepat waktu kepada pemerintah Inggris. Whitehall menghabiskan seminggu terakhir untuk menyerap peringatan dari kepala intelijennya sendiri, sementara para menteri mempertimbangkan apakah akan bergabung dengan seruan internasional untuk standar keselamatan AI yang terkoordinasi, namun Washington sejauh ini menolak untuk menandatanganinya. Ketika presiden Microsoft mengatakan Inggris adalah "yang terbaik" dalam posisi untuk menulis buku peraturan, Downing Street mendapatkan validasi dan undangan yang sulit untuk diabaikan.
Apakah kerangka karton susu Smith mengubah suara di Washington adalah masalah lain. Namun sebagai pernyataan mengenai hal yang diinginkan oleh salah satu pengembang AI terbesar dalam perdebatan peraturan – rem wajib, pelaporan wajib, persetujuan independen – wawancara ini mungkin diingat sebagai penanda peralihan dari janji sukarela ke aturan yang dapat ditegakkan.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
