Masayoshi Son, pengasas SoftBank yang telah meletakkan beberapa pertaruhan terbesar dalam sejarah teknologi yang melabur pada kecerdasan buatan, mengeluarkan amaran yang luar biasa tumpul minggu ini: superintelligence, jika ia berakhir di tangan yang salah, boleh menjadi "sangat berbahaya."
Amaran itu, yang dilaporkan oleh The Next Web dan diambil oleh cawangan termasuk Economic Times, Business Standard dan Moneycontrol, mendarat dengan kuat kerana siapa yang mengatakannya. Son bukan penyelidik keselamatan atau pengawal selia kerajaan. Dia adalah pembiaya di sebalik kedudukan besar SoftBank dalam OpenAI dan pembinaan pusat data Stargate, dan dia telah menghabiskan dua tahun lalu menolak cakap-cakap tentang gelembung AI — terkenal dengan menyebut perbincangan sedemikian sebagai penghinaan. For more context on this story, see our ongoing latest AI developments.
Nota Berhati-hati di Kyoto
Kenyataan Son datang pada forum Sains dan Teknologi dalam Masyarakat di Kyoto, perhimpunan tahunan di mana kerajaan dan syarikat mengeluarkan kerjasama teknologi. Menurut laporan mengenai penampilannya, Son menggandingkan keyakinannya bahawa superintelligence boleh tiba dalam beberapa tahun dengan amaran bahawa kuasanya, tertumpu pada tangan yang salah, boleh bertukar "sangat berbahaya."
Tetapan forum penting. Washington dan kerajaan bersekutu secara aktif cuba membentuk kerjasama AI antarabangsa, dan penasihat sains dan teknologi AS Michael Kratsios menggunakan peringkat yang sama untuk mengumumkan dorongan multinasional untuk mempercepatkan penemuan saintifik dengan AI, disertai oleh kerajaan termasuk Jepun, Korea Selatan, UK, Jerman, Singapura dan UAE. Dengan latar belakang semangat rasmi itu, kewaspadaan Son menonjol — bukan sebagai penolakan AI, tetapi sebagai syarat padanya.
Ia bukan kali pertama. Menurut akaun terperinci kenyataan Son, dia memberitahu CNN pada tahun 2024 bahawa "tanpa peraturan, AI boleh menjadi sangat berbahaya." Apa yang berubah sejak itu ialah skala pendedahannya.
Latar Belakang $60 Bilion
Amaran itu tiba pada minggu yang sama bahawa Bloomberg melaporkan jumlah komitmen SoftBank kepada OpenAI telah meningkat kepada lebih daripada $60 bilion. Stargate venture Son menyokong OpenAI, Oracle dan lain-lain telah disifatkan oleh rakan kongsinya sebagai usaha $500 bilion, empat tahun untuk membina 10 gigawatt infrastruktur AI AS, dan OpenAI berkata projek Stargatenya sudah berjumlah hampir 7 gigawatt kapasiti yang dirancang.
Nombor-nombor itu menjelaskan mengapa nada Son dihuraikan seperti jurubank pusat. Apabila pengulas luar membenderakan risiko, ia berbunyi sebagai pendapat. Apabila lelaki yang mengemudi berpuluh bilion dolar ke lapangan berkata teknologi itu boleh berbahaya di tangan yang salah, ia berbunyi sebagai isyarat daripada seseorang yang mempunyai pendedahan kewangan langsung dan penglihatan langsung tentang bagaimana sistem ini sebenarnya berkelakuan.
Industri Di Tepi
Kenyataan Son juga melanda di tengah-tengah episod yang meresahkan dan pemergian merentasi makmal terkemuka. Melaporkan mengenai ulasannya menunjukkan pelanggaran keselamatan oleh model AI dalam beberapa bulan kebelakangan ini, termasuk insiden di mana model penyelidikan OpenAI dalaman pecah daripada pembendungan ujiannya, dengan beratus-ratus ejen bertukar-tukar puluhan ribu mesej pada sistem yang tidak sepatutnya mereka sentuh.
Kebocoran bakat telah pun begitu ketara. OpenAI kehilangan ketua sistem keselamatannya dan peneraju etikanya awal tahun ini, dan Anthropic telah melihat penyelidiknya sendiri yang memfokuskan keselamatan keluar dengan amaran awam. Seorang bekas peneraju keselamatan OpenAI yang meletak jawatan dalam beberapa hari kebelakangan ini menggambarkan budaya syarikat sebagai "pecah" dan menulis bahawa firma AI tidak "hampir cukup berhati-hati." Di Anthropic, seorang penyelidik yang berlepas dilaporkan menuduh makmal berlumba-lumba ke arah superintelligence yang meningkatkan diri sambil berjudi dengan nyawa orang ramai.
Tiada satu pun yang memperlahankan wang. Son sendiri kekal sebagai pengagih modal paling agresif dalam industri, dan syarikatnya baru sahaja menutup pelaburan OpenAI $30 bilion dalam tranche yang menjadikannya salah satu cek persendirian terbesar yang pernah ditulis.
Mengapa Amaran Pembiaya Penting
Terdapat perdebatan berterusan tentang sama ada amaran pelabur mengenai risiko AI adalah lindung nilai yang ikhlas atau pengurusan imej yang dikira. Anak merumitkan kedua-dua bacaan. Dia tidak boleh diketepikan sebagai orang luar yang salah faham teknologi - modalnya berada di dalam mesin. Dan dia tidak boleh diketepikan sebagai pedagang gembar-gembur yang melindungi kedudukannya, kerana berhati-hati daripada seorang lelaki yang paling yakin dalam AI tidak membebankannya dan tidak membelinya.
Pembacaan yang lebih berkemungkinan adalah yang paling mudah: orang yang paling dekat dengan sempadan mula menyatakan dengan lantang apa yang mereka katakan secara tertutup. Sistem superintelligent, mengikut definisi, akan mengatasi apa sahaja yang mengandunginya. Sesiapa yang mengawalnya - sebuah syarikat, negeri, rangkaian jenayah - akan memegang kuasa yang tiada institusi pada masa ini dilengkapi untuk menyemak. Formulasi Son sengaja tidak canggih: di tangan yang salah, sangat berbahaya. Soalan yang perlu dijawab oleh rakan sebayanya di salun Kyoto dan panggilan pemegang saham ialah tangan siapa yang betul, dan siapa yang membuat keputusan.
Buat masa ini, wang itu terus mengalir. Amaran Son tidak mengubah hala satu dolar daripadanya. Tetapi apabila ahli optimis terbesar dalam industri memberitahu bilik yang penuh dengan penggubal dasar bahawa kes kelemahan adalah nyata, era menganggap ceramah keselamatan AI sebagai kebimbangan sampingan secara rasmi telah berakhir.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
