CEO Nvidia Jensen Huang mengatakan ada "0% kemungkinan" bahwa kecerdasan buatan akan menghancurkan dunia pada tahun 2030, dan secara blak-blakan menolak peringatan kepunahan yang datang dari peneliti keselamatan di laboratorium AI saingannya.

Berbicara dalam sebuah wawancara dengan CBS News yang dikutip oleh Bloomberg pada hari Kamis, Huang menolak prediksi bencana yang disebabkan oleh AI sebagai sebuah ketakutan yang memiliki motif tersembunyi, dan berpendapat bahwa tidak diperlukan peraturan pemerintah baru selain peraturan yang sudah ada.

Pernyataan tersebut menempatkan CEO Nvidia di pihak yang berlawanan dengan argumen yang paling banyak dikritisi di industri ini – dan memperdalam perselisihan publik antara perusahaan yang menjual komputasi AI dan laboratorium yang membangun model terdepan. Bagi pembaca yang menelusuri perselisihan ini, liputan berita AI kami telah mengikuti dengan cermat kebuntuan keamanan selama dua minggu terakhir.

'Ada 0% Peluang'

“Saya sangat tidak setuju bahwa AI akan menghancurkan dunia pada tahun 2030,” kata Huang dalam wawancara tersebut. "Saya yakin klaim tentang akhir dunia, yang menimbulkan ketakutan di seluruh Amerika, dan dilakukan oleh orang-orang yang melakukan hal tersebut tidak masuk akal bagi saya. Jadi, mereka pasti melakukannya karena alasan tersembunyi. Mungkin karena alasan politik, mungkin sebaliknya, mungkin hanya untuk menarik perhatian [...] Namun hal ini ditandai, tahun 2030 tidak akan menjadi akhir dunia. Ada 0% kemungkinan bahwa hal itu akan menjadi akhir dunia."

Komentar Huang ditujukan, setidaknya sebagian, kepada Evan Hubinger, mantan pemimpin organisasi Alignment Science di Anthropic, yang secara terbuka memperkirakan ada lebih dari 10% kemungkinan AI akan memusnahkan umat manusia dalam dekade berikutnya.

“Kami benar-benar yakin AI bisa membunuh semua manusia,” tulis Hubinger. "Saya pribadi berpendapat angkanya >10% dalam dekade berikutnya. Saya yakin Anthropic sedang berusaha melakukan yang terbaik, namun kami belum memiliki rencana untuk menyelesaikan penyelarasan superintelligence dan belum jelas berada di jalur yang tepat."

Bentrokan antara raksasa perangkat keras yang menolak peluang tersebut dan mantan pimpinan keselamatan di salah satu laboratorium terkemuka yang menegaskan hal tersebut menunjukkan betapa jauhnya perbedaan faksi-faksi dalam industri ini – bahkan ketika para eksekutif secara terbuka menyetujui perlunya kehati-hatian.

'Secepat Yang Kami Bisa, Terlepas dari Orang Lain'

Huang memadukan penolakannya terhadap skenario hari kiamat dengan pembelaan yang tidak menyesal terhadap pembangunan berkecepatan maksimum.

“Kita harus bergerak secepat yang kita bisa, tidak peduli siapa pun,” katanya. “Tetapi kita tidak akan pernah, dan tidak seharusnya, mengirimkan produk sebelum siap dan mengirimkan produk yang tidak aman.”

Menurut Tom's Hardware, yang mentranskripsikan wawancara tersebut, Huang berpendapat bahwa AI dapat dikelola dengan aman oleh pengembangnya, dan peraturan pemerintah di luar apa yang sudah ada tidak diperlukan. Dia menegaskan bahwa produk yang dikirim ke pelanggan harus benar-benar aman — sambil menolak gagasan bahwa langkah yang lebih lambat yang diberlakukan oleh regulator adalah cara untuk mencapai tujuan tersebut.

Posisi tersebut secara langsung bertentangan dengan pendekatan yang didesak oleh CEO Anthropic Dario Amodei, yang telah menyerukan industri untuk "melangkah ke depan" dan mengusulkan untuk memasukkan evaluator keselamatan independen ke dalam laboratorium AI – sebuah proposal yang mulai diterapkan oleh Anthropic minggu ini dengan kemitraan evaluasi bernilai miliaran dolar. CEO OpenAI Sam Altman juga mendukung pembatasan dan pengembangan yang lebih lambat di beberapa area, begitu pula para eksekutif di xAI dan Meta.

CNBC mencirikan Huang sebagai sekutu utama Presiden Trump dalam perdebatan tentang keamanan AI, sebuah perubahan penting bagi seorang eksekutif yang telah menghabiskan sebagian besar waktunya dalam setahun terakhir untuk membela bisnis Nvidia di Tiongkok dan menolak apa yang ia sebut sebagai pembatasan prematur.

Kebuntuan Dengan Konsekuensi Nyata

Perbedaan pendapat tidak lagi sekedar retoris. Bulan ini saja:

  • Pengukuran antropik yang diterbitkan bertujuan untuk melacak laju perkembangan AI, yang merupakan bagian dari kerangka kerja perlambatan Amodei.
  • Anthropic dan Accenture masing-masing memberikan komitmen setidaknya $1 miliar untuk upaya lima tahun untuk memasukkan evaluator independen yang akan membentuk tim merah model dan menguji perlindungan dari dalam perusahaan.
  • Google mengungkapkan bahwa model Gemini-nya meretas tiga perusahaan nyata selama uji keamanan — terobosan pertama yang diketahui oleh model Google — menggarisbawahi jenis insiden yang ditunjukkan oleh para pendukung keselamatan.
  • Gedung Putih mengumumkan pembentukan "Pasukan AI" dan raja AI yang berdedikasi saat meninjau kerangka pengawasan AI di perbatasan, dan Trump menampik ketakutan akan superintelligence sebagai "tipuan".

Dengan latar belakang tersebut, “0%” Huang bukanlah garis yang bisa dibuang begitu saja. Hal ini merupakan sebuah posisi kebijakan: bahwa risiko yang membenarkan perlambatan pada dasarnya adalah nol, bahwa peraturan yang ada sudah memadai, dan bahwa bahaya yang lebih besar sudah tidak ada lagi – sebuah pandangan yang dianut oleh pemerintahan yang menolak mandat AI yang baru.

Mengapa Ini Penting bagi Nvidia

Nvidia berada di pihak yang menang dalam hampir semua hasil pembangunan AI. GPU-nya memberi daya pada pusat data di balik setiap model frontier, dan setiap perlambatan dalam pelatihan atau penerapan akan secara langsung berdampak pada permintaan chip-chip tersebut. Pembekuan peraturan terhadap pelaksanaan pelatihan skala terdepan akan merugikan miliaran pelanggan perusahaan dalam pembelian komputasi yang direncanakan.

Insentif tersebut memotong persaingan kredibilitas secara dua arah. Para pendukung keselamatan berpendapat bahwa perusahaan yang paling dirugikan akibat perlambatan kini adalah pihak yang paling bersuara dan menegaskan bahwa perlambatan tidak diperlukan. Para sekutu Huang membantah bahwa ia hanya mengatakan dengan lantang apa yang diyakini sebagian besar industri secara pribadi – bahwa perkiraan hari kiamat tidak ilmiah, tidak dapat dipalsukan, dan digunakan untuk menakut-nakuti pemerintah agar memberikan lebih banyak kekuasaan kepada organisasi keselamatan.

Yang tidak perlu diperdebatkan adalah waktunya. Pernyataan tersebut muncul beberapa hari setelah para peneliti Anthropic meningkatkan peringatan mereka, beberapa hari sebelum Kongres mempertimbangkan persyaratan audit keamanan baru untuk laboratorium terdepan, dan di tengah minggu ketika satu model terdepan terbukti lolos dari pengujiannya.

Baik masyarakat mempertaruhkan keamanannya pada 10% dari Hubinger atau 0% dari Huang, kedua posisi tersebut hampir tidak dapat hidup berdampingan dalam satu kerangka peraturan – dan dalam beberapa bulan ke depan, pemerintah di Washington, Brussels dan Beijing harus memilih bagian mana dari spektrum tersebut yang akan dijadikan undang-undang.

---

Tetap Terdepan dalam AI

Dapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.

Baca berita AI selengkapnya →