Bill Gates, yang pernah menjadi salah satu tokoh optimis AI di industri teknologi, kini memperingatkan bahwa kecerdasan buatan lebih berbahaya daripada yang diakui secara publik oleh industri. Dalam esai sepanjang hampir 6.000 kata di blog Gates Notes miliknya dan wawancara dengan The New York Times yang diterbitkan minggu ini, salah satu pendiri Microsoft tersebut menggambarkan transisi ke era AI sebagai “salah satu masa paling bergejolak dalam sejarah manusia” – dan mengatakan bahwa dunia tidak memiliki rencana untuk itu.
Kritiknya yang paling tajam ditujukan pada industrinya sendiri, yang ia tuduh sengaja meremehkan bahayanya karena terlalu banyak uang yang dipertaruhkan. For more context on this story, see our ongoing more AI stories.
'Sangat khawatir' secara pribadi, diam di depan umum
"Secara pribadi, orang-orang yang memahami betapa bagusnya hal ini, dan betapa jauh lebih baik hal ini, mereka sangat khawatir," kata Gates kepada Times. Di depan umum, katanya, orang-orang yang sama berkata satu sama lain: "Hei, kawan, jangan katakan itu. Itu buruk bagi kami - triliunan dolar berikutnya yang ingin kami kumpulkan."
Esai ini menolak kerangka yang disukai industri bahwa perusahaan harus mengawasi diri mereka sendiri. "Pengaturan mandiri pada alat paling berbahaya yang pernah ditemukan? Tidak, terima kasih!" Gates menulis.
Tiga bahaya yang menurut Gates belum siap dihadapi oleh dunia
Gates menyusun peringatannya berdasarkan tiga risiko yang dirangkum Fortune sebagai perkembangan anak yang “terbelakang”, semakin beraninya penjahat, dan hilangnya lapangan kerja bagi Generasi Z – risiko-risiko yang menurutnya belum siap dihadapi oleh para pemimpin dunia.
Kehilangan pekerjaan secara permanen. Gates memperkirakan peran tingkat awal dan menengah dalam bidang penjualan, layanan pelanggan, pengembangan perangkat lunak, dan dukungan hukum akan menjadi prioritas pertama, dengan pekerjaan kerah biru berada di bawah tekanan ketika robot yang gesit menjadi jauh lebih murah — pengembangan yang menurutnya sebagian besar terjadi di Tiongkok. Dia mengacu pada penelitian Stanford yang menunjukkan bahwa sejak AI menyebar, lapangan kerja di kalangan pekerja muda di bidang pekerjaan yang paling terpapar telah menurun secara signifikan, sementara pekerja yang lebih tua sejauh ini tidak terkena dampaknya. Senjata biologis. Di luar pasar tenaga kerja, Gates memperingatkan bahwa AI menurunkan hambatan bagi sekelompok kecil orang yang memiliki akses terhadap model canggih untuk mengembangkan patogen baru. Dia mengakui kenyataan yang tidak menyenangkan bahwa kemampuan yang berguna dan berbahaya sulit dipisahkan: model yang sama yang menemukan celah keamanan untuk menutupnya dapat membantu seseorang mengeksploitasinya. Teman AI yang membuat ketagihan. Di sisi pribadi, Gates menunjukkan kerugian psikologis dan sosial dari chatbot yang tidak pernah berbeda pendapat dan selalu tersedia. Dia mengutip penelitian dari Stanford dan Carnegie Mellon yang menunjukkan bahwa semakin intens dan emosional orang menggunakan sistem ini, semakin buruk perasaan mereka – terutama terhadap anak-anak dan erosi pemikiran kritis di era pemalsuan yang mendalam dan disinformasi yang disesuaikan.Mengapa menurut Gates kali ini berbeda
Bagian dari kepastian industri ini terletak pada sejarah: gejolak teknologi di masa lalu pada akhirnya menciptakan lebih banyak lapangan kerja daripada kehancurannya. Gates menyebut kenyamanan itu sebagai sebuah kesalahan, dan menggambarkan era AI sebagai "benar-benar, sangat, sangat berbeda" dari perubahan di masa lalu.
Berbeda dengan komputer pribadi, yang membutuhkan waktu dua dekade untuk membentuk kembali pekerjaan, AI berjalan pada perangkat yang sudah dimiliki manusia dan dapat digunakan dalam bahasa yang sederhana. “Kita tidak harus beradaptasi karena ia bisa beradaptasi dengan kita,” tulisnya. Untuk pertama kalinya, sebuah teknologi dapat menggantikan dan melampaui kognisi manusia di berbagai industri dalam satu dekade, bukan lintas generasi.
Hal yang perlu diwaspadai, kata Gates, datang dari kampung halamannya sendiri: pemrograman. Claude Code dari Anthropic, katanya kepada Times, mengejutkannya. "Gagasan bahwa sekarang hal-hal ini dalam arti yang lebih baik daripada saya adalah seperti: Apa-apaan ini?"
Pajak, perjanjian, dan pekerjaan 'Cadangan Manusia'
Resep Gates bersifat konkrit. Ia menyerukan proses demokrasi dan lembaga pengawasan nasional dan internasional yang baru, dengan mencontoh rezim yang dibangun untuk senjata nuklir, penerbangan, dan perlindungan lapisan ozon. Dia mengusulkan pajak token atas penggunaan AI dan robot, dengan menunjukkan adanya asimetri dalam sistem yang ada saat ini: mempekerjakan seseorang akan memicu pajak gaji, sementara membeli robot dapat segera dihapuskan — yang secara efektif mensubsidi otomatisasi.
Ia juga berargumen bahwa pekerjaan-pekerjaan tertentu, khususnya pengasuhan anak, harus tetap diperuntukkan bagi manusia, sebuah gagasan yang ia sebut sebagai “Human Reserved.”
Gates secara terbuka mengakui kemungkinan adanya konflik kepentingan: ia masih memiliki ikatan keuangan dengan industri teknologi, meskipun ia mengatakan keuntungannya mengalir ke Gates Foundation. Dan ia berhati-hati dalam mencatat manfaat teknologi yang sangat besar – dalam ilmu pengetahuan, layanan kesehatan, pertanian di negara-negara miskin, dan pendidikan – dengan alasan bahwa manfaat-manfaat tersebut harus diperoleh melalui kebijakan dan bukan diserahkan kepada kekuatan pasar.
Nada yang mengeras dengan banyak teman
Pergeseran dalam retorika Gates sangat mencolok. Pada tahun 2018 ia menggambarkan AI sebagai perangkat lunak yang pada dasarnya lebih baik dan menantikan liburan yang lebih panjang. Pada tahun 2022, ia berpendapat bahwa pekerja yang dipindahkan akan diserap ke dalam perawatan lansia dan perawatan anak. Baru-baru ini pada bulan September 2024, dia meragukan AI akan mengubah masalah disinformasi secara mendasar.
Dia juga tidak sendirian. CEO Anthropic Dario Amodei memperingatkan tentang senjata biologis yang dihasilkan AI pada tahun 2024 dan memperkirakan pada tahun 2025 bahwa hingga setengah dari pekerjaan kantoran tingkat pemula akan hilang, dengan angka pengangguran meningkat hingga 10 hingga 20 persen. Amodei juga menerapkan pajak token. Dan peneliti Gary Marcus dan Anka Reuel mengusulkan badan AI nirlaba global yang meniru Badan Energi Atom Internasional pada tahun 2023.
Perbedaannya sekarang adalah pembawa pesannya: orang yang membangun industri PC menjadi kekuatan global telah menyimpulkan bahwa gelombang ini tidak mengikuti aturan lama — dan bahwa menunggu industri untuk memperbaiki diri bukanlah sebuah rencana.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
