Bill Gates, yang pernah menjadi salah seorang optimis AI industri teknologi yang paling menonjol, kini memberi amaran bahawa kecerdasan buatan adalah lebih berbahaya daripada yang industri akan mengakui secara terbuka. Dalam esei hampir 6,000 perkataan di blog Gates Notesnya dan temu bual yang disertakan dengan The New York Times yang diterbitkan minggu ini, pengasas bersama Microsoft menerangkan peralihan ke zaman AI sebagai "salah satu masa paling bergelora dalam sejarah manusia" - dan mengatakan dunia tidak mempunyai rancangan untuk itu.
Kritikan paling tajamnya ditujukan kepada industrinya sendiri, yang dituduhnya sengaja memperkecilkan bahaya kerana terlalu banyak wang dipertaruhkan. For more context on this story, see our ongoing artificial intelligence updates.
'Sangat risau' secara tertutup, senyap di khalayak ramai
"Secara peribadi, orang yang memahami betapa baiknya perkara ini, dan sejauh mana ia menjadi lebih baik, mereka sangat bimbang," kata Gates kepada Times. Di khalayak ramai, dia berkata, orang yang sama memberitahu satu sama lain: "Hei, kawan, jangan cakap begitu. Ia tidak baik untuk kami - trilion dolar seterusnya yang kami cuba kumpulkan."
Esei itu menolak pembingkaian pilihan industri bahawa syarikat harus mengawasi diri mereka sendiri. "Kawal selia kendiri pada alat paling berbahaya yang pernah dicipta? Tidak, terima kasih!" Gates menulis.
Tiga bahaya Gates berkata dunia belum bersedia
Gates menyusun amarannya di sekitar tiga risiko yang dirumuskan Fortune sebagai "terbantut" perkembangan kanak-kanak, penjenayah yang berani, dan kehilangan pekerjaan untuk Generasi Z - risiko yang dia katakan pemimpin dunia tidak bersedia untuk menghadapinya.
Kehilangan pekerjaan tetap. Gates menjangkakan peranan peringkat permulaan dan peringkat pertengahan dalam jualan, perkhidmatan pelanggan, pembangunan perisian dan sokongan undang-undang akan dipukul terlebih dahulu, dengan kerja kolar biru di bawah tekanan apabila robot lincah menjadi lebih murah secara mendadak — pembangunan yang beliau perhatikan kebanyakannya berlaku di China. Dia menunjuk kepada penyelidikan Stanford yang menunjukkan bahawa sejak AI tersebar, pekerjaan di kalangan pekerja muda dalam pekerjaan yang paling terdedah telah menurun dengan ketara, manakala rakan sekerja yang lebih tua setakat ini telah terhindar. Bioweapons. Di luar pasaran buruh, Gates memberi amaran bahawa AI merendahkan halangan untuk sekumpulan kecil orang yang mempunyai akses kepada model lanjutan untuk membangunkan patogen baharu. Dia mengakui realiti yang tidak selesa bahawa keupayaan berguna dan berbahaya sukar dipisahkan: model yang sama yang mencari lubang keselamatan untuk menutupnya boleh membantu seseorang mengeksploitasinya. Rakan AI yang ketagihan. Dari segi peribadi, Gates menunjukkan bahaya psikologi dan sosial daripada chatbots yang tidak pernah tidak bersetuju dan sentiasa tersedia. Dia memetik penyelidikan daripada Stanford dan Carnegie Mellon yang menunjukkan bahawa semakin ramai orang menggunakan sistem ini, semakin teruk yang mereka rasai — dengan kebimbangan khusus terhadap kanak-kanak dan terhadap penghakisan pemikiran kritis dalam era penipuan yang mendalam dan maklumat palsu yang disesuaikan.Mengapa Gates fikir kali ini berbeza
Sebahagian daripada jaminan industri bergantung pada sejarah: pergolakan teknologi masa lalu akhirnya mencipta lebih banyak pekerjaan daripada yang dimusnahkan. Gates menyebut keselesaan itu satu kesilapan, menggambarkan zaman AI sebagai "sangat, sama sekali, sama sekali berbeza" daripada peralihan masa lalu.
Tidak seperti komputer peribadi, yang mengambil masa dua dekad untuk membentuk semula kerja, AI berjalan pada peranti yang sudah dimiliki orang dan bercakap dalam bahasa biasa. "Kami tidak perlu menyesuaikan diri dengannya kerana ia boleh menyesuaikan diri dengan kami," tulisnya. Buat pertama kalinya, teknologi boleh menggantikan dan kemudian mengatasi kognisi manusia merentas industri dalam satu dekad dan bukannya merentas generasi.
Panggilan bangun, kata Gates, datang dari kawasan rumahnya sendiri: pengaturcaraan. Kod Claude Anthropic, katanya kepada Times, mengejutkannya. "Idea bahawa sekarang perkara ini dalam erti kata yang bermakna lebih baik daripada saya adalah seperti: Apa kejadahnya?"
Cukai, perjanjian dan pekerjaan 'Human Reserved'
Preskripsi Gates adalah konkrit. Beliau menyeru proses demokrasi dan institusi pengawasan kebangsaan dan antarabangsa baharu, dimodelkan pada rejim yang dibina untuk senjata nuklear, penerbangan, dan melindungi lapisan ozon. Beliau mencadangkan cukai token ke atas penggunaan AI dan pada robot, menunjukkan asimetri dalam sistem semasa: mengupah seseorang mencetuskan cukai gaji, manakala membeli robot boleh dihapuskan serta-merta — memberi subsidi secara berkesan kepada automasi.
Dia juga berhujah bahawa pekerjaan tertentu, terutamanya penjagaan, harus kekal dikhaskan untuk manusia, idea yang dia jenamakan "Human Reserved."
Gates secara terbuka mengakui kemungkinan konflik kepentingan: dia masih memegang hubungan kewangan dengan industri teknologi, walaupun dia mengatakan keuntungan mengalir ke Yayasan Gates. Dan dia berhati-hati untuk melihat peningkatan besar teknologi - dalam sains, penjagaan kesihatan, pertanian di negara miskin dan pendidikan - dengan alasan hanya bahawa faedah itu mesti diperoleh melalui dasar dan bukannya diserahkan kepada kuasa pasaran.
Nada mengeras dengan banyak syarikat
Peralihan dalam retorik Gates adalah nyata. Pada 2018 beliau menyifatkan AI sebagai perisian yang pada asasnya lebih baik dan menantikan percutian yang lebih lama. Pada 2022 beliau berhujah bahawa pekerja yang dipindahkan akan diserap ke dalam penjagaan warga emas dan penjagaan kanak-kanak. Baru-baru ini pada September 2024, beliau meragui AI secara asasnya akan mengubah masalah disinformasi.
Dia juga tidak keseorangan. Ketua Pegawai Eksekutif Anthropic Dario Amodei memberi amaran tentang bioweapon yang dihasilkan AI pada 2024 dan meramalkan pada 2025 bahawa sehingga separuh daripada pekerjaan pejabat peringkat permulaan boleh hilang, dengan pengangguran meningkat kepada 10 hingga 20 peratus. Amodei juga mengapungkan cukai token. Dan penyelidik Gary Marcus dan Anka Reuel mencadangkan agensi AI bukan untung global yang dimodelkan pada Agensi Tenaga Atom Antarabangsa pada tahun 2023.
Perbezaannya sekarang ialah utusan: lelaki yang membina industri PC menjadi kuasa global telah membuat kesimpulan bahawa gelombang ini tidak mengikut peraturan lama — dan menunggu industri untuk memperbaiki dirinya sendiri bukanlah satu rancangan.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
