Moscone Center di San Francisco menjadi tuan rumah perselisihan publik yang tidak biasa minggu ini: para pemimpin Nvidia, Anthropic, dan OpenAI, yang muncul di panggung yang sama dalam waktu beberapa jam satu sama lain di konferensi Dreamforce Salesforce, memberikan jawaban yang sangat berbeda terhadap pertanyaan tentang seberapa cepat AI harus diizinkan untuk maju.
CEO Nvidia Jensen Huang mengatakan kepada kepala Salesforce Marc Benioff bahwa kerangka kecepatan versus keselamatan adalah salah. “Itu adalah pilihan yang salah,” kata Huang, menurut CNBC. "Kamu pasti bisa mendapatkan keduanya sekaligus." For more context on this story, see our ongoing AI industry coverage.
Posisinya sangat kontras dengan apa yang diutarakan sebelumnya oleh CEO Anthropic Dario Amodei, dan kemudian oleh CEO OpenAI Sam Altman, dalam debat yang beralih dari blog penelitian ke ceramah konferensi di Washington dalam kurun waktu seminggu.
Pitch Perlambatan Amodei Mendapat Platform Utama
Amodei muncul pertama kali, bergabung dengan Benioff untuk keynote tahunan Salesforce di depan sekitar 12.000 orang. Kemunculan tersebut menyusul sebuah esai yang diterbitkan Amodei pada akhir pekan yang mendesak industri untuk memperlambat laju pengembangan model, sebuah proposal yang menurutnya dapat mengurangi seberapa cepat peningkatan kemampuan tanpa "mengorbankan keunggulan komersial atau keunggulan Amerika Serikat dalam AI."
Menurut CNBC, Amodei menggambarkan pengekangan sukarela sebagai ujian kepemimpinan bagi industri. “Saya pikir itulah cara untuk memimpin industri ini ke depan, untuk memberikan contoh, untuk mengatakan bahwa setiap orang selalu bisa menjadi lebih baik,” katanya kepada Benioff.
Esai tersebut dengan cepat menarik dukungan publik dari eksekutif industri lainnya, termasuk Sam Altman dari OpenAI, CEO SpaceX Elon Musk, dan ketua Google DeepMind Demis Hassabis. Hal ini terjadi beberapa hari setelah para peneliti industri menyuarakan kekhawatiran mengenai potensi AI yang dapat menimbulkan dampak buruk, sehingga membuat argumen perlambatan ini menjadi semakin mendesak.
Huang: Kekuatan Pasar, Bukan Hukum Baru
Huang, yang perusahaannya menjadi yang paling bernilai di dunia karena menjual perangkat keras yang melatih dan menjalankan model-model terdepan, menolak premis trade-off dan gagasan peraturan baru. Sudah ada kekuatan pasar yang mendisiplinkan perilaku sembrono, menurutnya, dan terserah kepada pengembang model untuk bertindak secara bertanggung jawab terhadap produk mereka.
"Lari secepat mungkin," kata Huang pada Benioff. “Tetapi jika Anda merasa suatu saat perusahaan berada di luar kendali atau produknya tidak aman, berhentilah sejenak dan pastikan Anda melakukannya dengan benar.”
Perbedaan ini penting: Huang tidak berargumen bahwa perusahaan tidak boleh berhenti sejenak, hanya saja keputusan harus tetap berada di tangan masing-masing perusahaan dan tidak harus ditegakkan melalui undang-undang atau perjanjian kecepatan industri yang terkoordinasi. Sehari sebelumnya, di All-In Summit di Los Angeles, Huang menerima panggilan speakerphone dari Presiden Donald Trump, yang menyatakan keprihatinannya terhadap orang-orang yang mencoba menghalangi pembangunan pusat data AI. “Kami tidak akan membiarkan hal itu terjadi, Tuan,” jawab Huang.
Altman: Keamanan 'Seharusnya Tidak Memiliki Kualifikasi'
Giliran Altman di panggung Dreamforce datang di kemudian hari, dan dia memposisikan dirinya lebih dekat dengan Amodei daripada Huang. Selama obrolan singkat dengan Benioff, Altman mengatakan keselamatan dan pemantauan harus diutamakan sebelum kemampuan mengingat kekuatan model saat ini.
Dia menargetkan perusahaan-perusahaan yang menetapkan komitmen keselamatan mereka berdasarkan perilaku pesaing. “Ada perusahaan yang mengatakan hal-hal seperti, 'Kami hanya akan bertanggung jawab jika perusahaan lain juga bertanggung jawab,'” kata Altman, seraya menambahkan bahwa ketika orang bertanya apa yang akan dilakukan perusahaan agar aman “apa pun yang terjadi”, jawabannya tidak boleh memberikan ruang untuk syarat apa pun. "Seharusnya tidak ada kualifikasi dalam hal itu."
Benioff Duduk di Tengah
Benioff, yang menjadi tuan rumah bagi ketiga eksekutif tersebut, menolak memihak pada mondar-mandir. "Jika mereka merasa harus memperlambat, maka mereka harus memperlambat. Jika mereka merasa harus mempercepat, mereka harus mempercepat," katanya kepada wartawan, sebelum menambahkan bahwa perusahaan "harus bertanggung jawab."
Konferensi ini juga menunjukkan betapa rumitnya hubungan bisnis. Pada hari Selasa, Salesforce dan Nvidia mengumumkan model penalaran baru untuk platform Agentforce Salesforce yang dibangun di atas salah satu model Nemotron open-weight Nvidia. Pada akhir Agustus, Salesforce dan Anthropic memperluas kemitraan strategis mereka dan meluncurkan "Claudeforce", yang memungkinkan tenaga penjualan mengakses data Salesforce dari dalam Claude.
Mengapa Perpecahan Itu Penting
Pertukaran Dreamforce mengkristalkan apa yang menjadi titik kesalahan utama dalam perdebatan tata kelola AI: apakah pembatasan harus dikoordinasikan dan berpotensi dikodifikasikan, atau diserahkan kepada tekanan kompetitif dan penilaian masing-masing perusahaan.
Proposal Amodei tetap bersifat sukarela, namun dukungan dari CEO OpenAI, DeepMind, dan xAI menandai pertama kalinya para pemimpin laboratorium terdepan secara terbuka mendukung perlambatan ini. Argumen tandingan Huang, yang disampaikan oleh perusahaan paling berharga di dunia, memberikan perlindungan bagi para eksekutif dan pembuat kebijakan yang berpendapat bahwa mewajibkan kehati-hatian akan memberikan keuntungan bagi pesaing, khususnya di Tiongkok.
Presiden Trump telah menentang peraturan AI yang baru, sebuah sikap yang meremehkan seruan industri untuk melakukan perlambatan, sebagaimana dicatat oleh CNBC dalam analisis terkait. Hal ini menyebabkan perjanjian temporer sukarela tidak memiliki mekanisme penegakan hukum yang menurut para pendukung keselamatan diperlukan, dan membuat perdebatan mengenai sistem kehormatan perusahaan tetap kuat untuk saat ini.
Ketika para peneliti secara terbuka memperingatkan tentang risiko-risiko bencana dan para pemimpin perusahaan-perusahaan terbesar di bidang ini kini secara terbuka tidak setuju, pertanyaan mengenai kecepatan kemungkinan akan mendominasi siklus kebijakan berikutnya di Washington – apa pun keputusan pasar untuk sementara waktu.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
