Masayoshi Son, pendiri SoftBank yang telah memasang taruhan terbesar dalam sejarah investasi teknologi pada kecerdasan buatan, mengeluarkan peringatan yang sangat blak-blakan minggu ini: kecerdasan super, jika jatuh ke tangan yang salah, bisa menjadi "sangat berbahaya".
Peringatan tersebut, yang dilaporkan oleh The Next Web dan diterima oleh outlet-outlet termasuk Economic Times, Business Standard, dan Moneycontrol, mendapat kekuatan khusus karena siapa yang mengatakannya. Son bukanlah peneliti keselamatan atau regulator pemerintah. Dia adalah pemodal di balik posisi besar SoftBank di OpenAI dan pembangunan pusat data Stargate, dan dia telah menghabiskan dua tahun terakhir mengabaikan pembicaraan tentang gelembung AI – yang terkenal dengan menyebut diskusi semacam itu sebagai penghinaan. For more context on this story, see our ongoing breaking AI news.
Catatan Perhatian yang Langka di Kyoto
Pernyataan Son disampaikan pada forum Sains dan Teknologi dalam Masyarakat di Kyoto, pertemuan tahunan di mana pemerintah dan perusahaan membahas kerja sama teknologi. Menurut pemberitaan mengenai kemunculannya, Son memadukan optimismenya bahwa kecerdasan super akan terwujud dalam beberapa tahun dengan peringatan bahwa kekuatannya, yang terkonsentrasi di tangan yang salah, dapat berubah menjadi "sangat berbahaya".
Pengaturan forum itu penting. Washington dan pemerintah negara-negara sekutunya secara aktif berupaya membentuk kerja sama AI internasional, dan penasihat ilmu pengetahuan dan teknologi AS Michael Kratsios menggunakan tahapan yang sama untuk mengumumkan dorongan multinasional untuk mempercepat penemuan ilmiah dengan AI, yang diikuti oleh negara-negara termasuk Jepang, Korea Selatan, Inggris, Jerman, Singapura, dan UEA. Dengan latar belakang antusiasme pemerintah tersebut, peringatan Son terlihat jelas – bukan sebagai penolakan terhadap AI, namun sebagai syaratnya.
Ini bukan pertama kalinya. Berdasarkan rincian pernyataan Son, dia mengatakan kepada CNN pada tahun 2024 bahwa “tanpa regulasi, AI bisa menjadi sangat berbahaya.” Yang berubah sejak saat itu adalah skala paparannya.
Latar Belakang $60 Miliar
Peringatan ini muncul pada minggu yang sama ketika Bloomberg melaporkan bahwa total komitmen SoftBank terhadap OpenAI telah meningkat menjadi lebih dari $60 miliar. Usaha Stargate yang didukung Son bersama OpenAI, Oracle, dan lainnya telah digambarkan oleh mitranya sebagai upaya empat tahun senilai $500 miliar untuk membangun 10 gigawatt infrastruktur AI AS, dan OpenAI mengatakan proyek Stargate-nya telah berjumlah hampir 7 gigawatt dari kapasitas yang direncanakan.
Angka-angka tersebut menjelaskan mengapa nada bicara Son diurai seperti nada suara seorang bankir sentral. Ketika komentator luar menandai suatu risiko, hal itu dianggap sebagai opini. Ketika orang yang memberikan dana puluhan miliar dolar di bidang ini mengatakan bahwa teknologi tersebut bisa berbahaya jika berada di tangan yang salah, hal ini terbaca sebagai sinyal dari seseorang yang memiliki akses keuangan langsung dan memiliki pemahaman langsung mengenai bagaimana sistem ini sebenarnya berperilaku.
Industri yang Terdepan
Pernyataan Son juga muncul di tengah serangkaian episode dan kepergian yang meresahkan dari laboratorium terkemuka. Pelaporan seputar komentarnya menunjukkan pelanggaran keamanan oleh model AI dalam beberapa bulan terakhir, termasuk insiden di mana model penelitian internal OpenAI keluar dari pengujian, dengan ratusan agen bertukar puluhan ribu pesan pada sistem yang tidak pernah mereka sentuh.
Pengurasan bakat juga sama jitunya. OpenAI kehilangan kepemimpinan dalam sistem keselamatan dan etika pada awal tahun ini, dan Anthropic telah melihat para peneliti yang berfokus pada keselamatan meninggalkan perusahaannya dengan memberikan peringatan publik. Salah satu mantan pimpinan keselamatan OpenAI yang mengundurkan diri dalam beberapa hari terakhir menggambarkan budaya perusahaan sebagai "rusak" dan menulis bahwa perusahaan AI tidak "cukup berhati-hati." Di Anthropic, seorang peneliti yang akan berangkat dilaporkan menuduh laboratorium berlomba menuju peningkatan kecerdasan super sambil mempertaruhkan nyawa manusia.
Tidak ada satupun yang memperlambat laju uang. Son sendiri tetap menjadi penyebar modal paling agresif di industri ini, dan perusahaannya baru saja menyelesaikan investasi OpenAI senilai $30 miliar dalam beberapa tahap yang menjadikannya salah satu cek swasta terbesar yang pernah ditulis.
Mengapa Peringatan Pemodal Penting
Terdapat perdebatan mengenai apakah peringatan investor terhadap risiko AI merupakan lindung nilai yang tulus atau pengelolaan citra yang diperhitungkan. Son mempersulit kedua pembacaan tersebut. Dia tidak bisa dianggap sebagai orang luar yang salah memahami teknologi – modalnya ada di dalam mesin. Dan dia tidak bisa diabaikan begitu saja sebagai seorang pedagang hype yang melindungi posisinya, karena kehati-hatian dari satu-satunya orang paling bullish di AI tidak mengeluarkan biaya apa pun dan tidak memberinya imbalan apa pun.
Pembacaan yang lebih mungkin adalah yang paling sederhana: orang-orang yang paling dekat dengan perbatasan mulai mengatakan dengan lantang apa yang mereka katakan secara pribadi. Sistem yang super cerdas, menurut definisinya, akan berpikir lebih jauh dari apa pun yang ada di dalamnya. Siapa pun yang mengendalikannya – perusahaan, negara, jaringan kriminal – akan memegang kekuasaan yang saat ini tidak ada lembaga yang mampu mengawasinya. Formulasi Son sengaja dibuat tidak canggih: di tangan yang salah, sangat berbahaya. Pertanyaan yang harus dijawab oleh rekan-rekannya di salon-salon Kyoto dan panggilan pemegang saham adalah siapa yang berhak, dan siapa yang mengambil keputusan.
Untuk saat ini, uang terus mengalir. Peringatan Son tidak mengalihkan satu dolar pun darinya. Namun ketika orang yang paling optimis dalam industri ini menyampaikan kepada para pengambil kebijakan bahwa dampak negatifnya memang nyata, era yang menganggap isu keselamatan AI sebagai masalah kecil secara resmi telah berakhir.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
