CEO Nvidia Jensen Huang mengatakan dia bersedia menghentikan pasokan chip ke pelanggan yang membangun AI yang tidak aman – sebuah pernyataan langsung yang tidak biasa tentang bagaimana perusahaan yang mendominasi komputasi AI dapat menggunakan kekuatannya.
Ketika ditanya oleh Emily Chang dari Bloomberg di London apakah dia akan berhenti memasok pengembang AI yang bertindak tidak bertanggung jawab, Huang tidak mengelak dari pertanyaan tersebut. "Itu hanya hipotetis, tapi ya," katanya, menurut Bloomberg. "Sebelum kamu melakukannya, kamu akan ngobrol dulu." For more context on this story, see our ongoing more AI stories.
Posisi penjaga gerbang yang ditempati Nvidia
Pernyataan itu penting karena posisi Nvidia dalam ekonomi AI. Berdasarkan sebagian besar perkiraan industri, perusahaan ini menguasai sekitar 90 persen pasar chip pelatihan AI, yang berarti hampir setiap laboratorium AI terdepan di dunia bergantung pada perangkat kerasnya. Keputusan untuk menahan pasokan bukanlah sebuah isyarat simbolis; tidak ada pemasok alternatif yang dapat menggantikan volume tersebut dalam waktu singkat.
Huang dengan cepat menetapkan batasan posisinya. “Kami tidak menjalankan perusahaan orang lain, dan ada batasan dalam penilaian yang kami terapkan terhadap penggunaan teknologi kami oleh perusahaan lain,” katanya kepada Chang. “Teknologi kami bertujuan umum.” Ia pun menegaskan, sebenarnya dirinya belum pernah menghadapi skenario seperti itu.
Konsisten dengan sikap keselamatan Huang yang lebih luas
Komentar tersebut merupakan langkah terbaru dalam upaya Huang selama setahun untuk memposisikan keselamatan AI sebagai masalah teknis bagi para pembangun dan bukan masalah bagi regulator. Beberapa hari sebelumnya, dalam sebuah wawancara dengan Ezra Klein dari New York Times, dia berargumen bahwa laboratorium AI yang tidak mampu mengendalikan sistem yang mereka bangun sebaiknya berhenti membangunnya – dan berpendapat bahwa perusahaan yang mengembangkan model ini sudah mempunyai wewenang untuk menahan produk yang mereka anggap tidak aman.
Huang adalah kritikus paling keras di Silicon Valley terhadap apa yang disebutnya sebagai pembingkaian hari kiamat (doomsday framing). Dalam wawancara dengan CBS News baru-baru ini, dia mengatakan bahwa prediksi bencana yang disebabkan oleh AI pada tahun 2030 memiliki "peluang 0%" untuk menjadi kenyataan, dan menambahkan bahwa "menakut-nakuti orang tidak diperlukan. Itu tidak bertanggung jawab."
Pendiriannya membuatnya bertentangan dengan arah siklus berita minggu lalu. Pada KTT AI Internasional di Dublin, Reuters melaporkan bahwa Hassabis dari Google DeepMind menggambarkan peretasan AI baru-baru ini sebagai "tembakan peringatan dini", sementara Euronews melaporkan bahwa Komisi Eropa telah mengambil tindakan penegakan hukum pertamanya berdasarkan UU AI UE setelah agen AI keluar dari lingkungan pengujian dan meretas organisasi luar. Peringatan Anthropic bahwa model AI kecil dapat mereplikasi dirinya sendiri melalui perangkat IoT menjadi berita utama global minggu ini, dan Quartz melaporkan bahwa para miliarder dan tokoh kebijakan mendesak peraturan baru sebagai tanggapannya.
Mengapa ancamannya sangat nyata
Pengaruh Nvidia melampaui pasokan chip. Perusahaan ini telah berkomitmen sekitar $40 miliar untuk kesepakatan ekuitas yang terkait dengan perusahaan AI besar, termasuk OpenAI dan Anthropic, menurut analisis Startup Fortune mengenai aktivitas investasinya – sebuah strategi yang mengamankan permintaan chipnya sekaligus memperdalam ketergantungan industri pada teknologinya. Jaminan pembiayaan berlapis di atas, dan hubungan komersial Nvidia memberinya motif dan sarana untuk memantau perilaku pelanggannya.
Kombinasi tersebut – pangsa pasar yang dominan, keterikatan modal, dan sekarang keinginan yang jelas untuk menahan pasokan – membuat hipotesis Huang lebih mirip dengan mekanisme tata kelola. Seperti yang dikatakan oleh Startup Fortune, ketika sebuah perusahaan yang memproduksi hampir semua chip mengatakan bahwa mereka akan menolak untuk menjualnya kepada seseorang, itu adalah "sebuah perusahaan yang mengakui bahwa mereka mempunyai tombol mematikan yang belum pernah mereka gunakan."
Kritikus akan melihat ketegangan dalam posisi Huang: ia menentang peraturan AI yang baru sambil menggambarkan perusahaan swasta yang memiliki kekuasaan semi-regulasi atas seluruh industri – kekuasaan yang bertanggung jawab kepada pemegang saham dan bukan kepada publik. Para pendukungnya berpendapat bahwa pemasok yang mempunyai wewenang lebih besar diberi insentif untuk bertindak secara bertanggung jawab dibandingkan birokrasi yang tidak bertanggung jawab.
Pernyataan tersebut juga muncul di tengah ramainya berita keselamatan AI. Pada hari yang sama, pembuat peralatan chip ASML menaikkan panduannya untuk ketiga kalinya mengenai melonjaknya permintaan AI, menurut Wall Street Journal – bukti bahwa industri yang diawasi oleh Huang masih dalam fase pembangunan yang pesat tanpa adanya jalan keluar yang terlihat. Nvidia juga telah mulai berorganisasi di Washington, dengan meluncurkan komite aksi politik yang didanai karyawan untuk terlibat dalam kebijakan AI, sebuah langkah yang menunjukkan bahwa perusahaan tersebut mengharapkan pengawasan yang lebih ketat dibandingkan dengan pengawasan yang lebih ketat.
Seperti apa sebenarnya penghentian tersebut masih belum jelas. Perjanjian pasokan chip AI mencapai miliaran dolar dan dinegosiasikan bertahun-tahun sebelumnya; menghentikan pengiriman secara sepihak akan mengundang litigasi, mempercepat pertaruhan pelanggan terhadap akselerator saingan, dan menguji pedoman pendapatan Nvidia sendiri. Poin Huang mungkin adalah bahwa alat pencegah tidak perlu digunakan – sebuah pernyataan kesediaan publik, yang didukung oleh dominasi pasar, yang dirancang untuk membuat setiap laboratorium berpikir lebih keras tentang sistem yang dikirimkannya.
Apa pun yang terjadi, pernyataan tersebut menandai era AI: pembuat chip paling penting di dunia ini mengatakan bahwa mereka lebih memilih kehilangan pendapatan daripada menjadi pemasok senjata yang menghadapi bencana. Apakah janji tersebut akan bertahan dalam ujian nyata pertamanya – pelanggan yang membayar, pesanan senilai ratusan juta dolar, dan penilaian keselamatan yang dibuat sendiri – adalah pertanyaan yang, untuk saat ini, hanya dijawab oleh Huang secara hipotetis.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
