CEO Anthropic Dario Amodei menolak anggapan bahwa ia telah melukiskan gambaran yang terlalu pesimistis mengenai kecerdasan buatan, dengan berargumen dalam serangkaian postingannya bahwa meningkatnya reaksi masyarakat terhadap teknologi ini "pada dasarnya adalah krisis kepercayaan" terhadap institusi - bukan hasil dari peringatan dari para eksekutif AI.
Pertukaran tersebut, yang dilaporkan oleh TechCrunch pada hari Minggu, dimulai ketika investor Gavin Baker berargumentasi di podcast All-In dan di X bahwa peringatan Amodei tentang bahaya AI telah membantu memicu reaksi balik di Amerika Serikat, khususnya terhadap pusat data. Baker mengklaim Amodei telah "kehilangan argumen" mengenai regulasi AI dan, mengingat bahwa "dia akan menjadi CEO salah satu perusahaan paling penting di dunia," dia menulis: "Saya dengan hormat berpendapat dia harus berupaya untuk menjadi pendukung yang lebih positif bagi industrinya sendiri." For more context on this story, see our ongoing AI trends.
Tanggapan Amodei, yang diposting di X, telah menarik perhatian seluruh industri AI atas apa yang diungkapkannya tentang bagaimana salah satu pemimpin paling terkemuka di bidang ini menafsirkan suasana hati masyarakat yang suram — dan atas kritik diri yang sangat blak-blakan mengenai janji-janji industri yang tidak dipenuhi.
'Orang biasa tidak mempercayai perusahaan'
Amodei mengakui dalam postingannya bahwa "masyarakat memiliki pandangan negatif terhadap AI" dan setuju bahwa "ini adalah masalah besar." Namun dia menolak anggapan bahwa hal negatif ini "terutama disebabkan" oleh dia "atau pemimpin AI lainnya yang memperingatkan tentang risiko AI."
“Saya pikir ini pada dasarnya adalah krisis kepercayaan,” tulis Amodei. “Saya pikir masyarakat awam tidak mempercayai perusahaan, pemerintah, atau industri teknologi dan selalu curiga bahwa kita sedang menyiapkan cara baru untuk mengacaukan mereka.”
Menurut Amodei, krisis ini sedang terjadi selama berpuluh-puluh tahun, dengan serangan balik dari AI “hanya merupakan versi terbaru dari krisis tersebut.” Komentar tersebut muncul pada saat terjadi ketegangan antara perusahaan AI dan masyarakat: protes terhadap pembangunan pusat data telah menyebar ke seluruh Amerika Serikat, dan penolakan masyarakat telah berulang kali menunda pembangunan besar-besaran tahun ini.
Menyengketakan tuduhan 'pesan negatif'
Dengan tuduhan khusus bahwa komunikasinya terlalu gelap, Amodei berterus terang. “Saya tidak setuju bahwa pesan saya terlalu negatif,” tulisnya, seraya mengatakan bahwa tulisannya “kira-kira seimbang antara risiko dan manfaat.” Ia mencatat bahwa ia menulis esainya yang berjudul "Mesin Pengasih Kasih Karunia" justru karena ia "merasa industri AI tidak memberikan gambaran yang cukup inspiratif tentang bagaimana teknologi dapat mengubah dunia menjadi lebih baik secara radikal."
Namun tanggapan Amodei yang paling banyak dikutip ditujukan pada industrinya sendiri – termasuk perusahaannya sendiri. “Saya pikir sejauh ini kritik yang paling akurat terhadap perusahaan-perusahaan AI termasuk Anthropic adalah bahwa kami belum memenuhi janji-janji besar kami untuk memberikan manfaat bagi dunia,” tulisnya. "Itu sepenuhnya tanggung jawab kami, dan saya pikir itu adalah kritik yang seharusnya Anda sampaikan, dibandingkan semua hal tentang pengiriman pesan dan pemasaran."
Menjanjikan bahwa AI akan menyembuhkan kanker, tambahnya, “lebih klise daripada menginspirasi.” Apa yang sebenarnya akan mengubah opini publik, menurutnya, adalah "sebenarnya menyembuhkan kanker."
Pertarungan regulasi
Amodei juga menolak kerangka regulasi yang diajukan Baker, dan menuduhnya membuat "pilihan yang salah" antara mendistribusikan AI secara luas tanpa aturan atau memusatkan teknologi di tangan beberapa perusahaan melalui aturan.
“Saya tahu bahwa ada semacam singkatan di Silicon Valley yang mana regulasi = penguasaan peraturan = konsentrasi kekuasaan, namun saya selalu menganggap ini sebagai gambaran dunia yang terlalu disederhanakan,” tulis Amodei. “Banyak orang di luar gelembung ini menganggap regulasi sebagai sesuatu yang membatasi kekuatan perusahaan dan menguntungkan masyarakat umum.”
Dia mengatakan Anthropic sengaja menyusun proposal kebijakan untuk menghindari pengukuhan petahana. “Kami berusaha keras untuk membuat proposal yang merugikan (memperlambat) perusahaan AI terdepan sekaligus menguntungkan pesaing yang lebih kecil,” tulisnya. Anthropic telah mengadvokasi persyaratan transparansi pada perusahaan AI besar, termasuk undang-undang California yang memberlakukan kewajiban pengungkapan.
Mengenai model open-weight – sebuah titik panas dalam perdebatan kebijakan saat ini, dengan Gedung Putih yang baru-baru ini mengambil langkah untuk mengecualikan model open-weight dari tinjauan federal tertentu – Amodei menawarkan posisi yang berbeda. “AI secara struktural adalah teknologi yang cenderung memusatkan kekuatan,” bantahnya. Bobot terbuka "membantu beberapa orang dalam hal ini, namun sama sekali bukan solusi yang memadai karena bobot tersebut hanya mengalihkan konsentrasi ke bobot yang memiliki komputasi dan chip paling banyak." “Aturan jalan” yang tepat, katanya, dapat secara bersamaan mengatasi risiko siber, bio, dan penyelarasan, membatasi kekuatan laboratorium terdepan, dan memberikan ruang bagi model open-weight.
Mengapa pertukaran itu penting
Perdebatan ini berakhir pada momen sensitif bagi Anthropic. Perusahaan ini sedang mengalami gelombang kesuksesan komersial, dengan pertumbuhan pendapatan yang menjadikannya salah satu bisnis teknologi yang paling banyak diawasi, dan diperkirakan akan melakukan pencatatan saham publik. CEO-nya tetap menjadi salah satu pendukung paling vokal dalam industri ini dalam menanggapi risiko AI dengan serius – sebuah kombinasi yang membuat pesan-pesannya menjadi penangkal petir.
Argumen Baker mencerminkan arus yang lebih luas dalam modal ventura dan pendukung AI: bahwa skeptisisme masyarakat terhadap AI sebagian besar merupakan masalah komunikasi yang disebabkan oleh kehati-hatian industri itu sendiri. Jawaban Amodei secara efektif membalikkan kerangka tersebut – masalahnya bukan pada apa yang dikatakan oleh para pemimpin AI, tetapi pada kegagalan industri untuk mewujudkannya dan betapa kecilnya kepercayaan masyarakat terhadap institusi yang membangun teknologi tersebut.
Bagi perusahaan yang mereknya dibangun sebagai laboratorium AI yang bertanggung jawab, pendiriannya konsisten. Namun konsesi Amodei – bahwa kritik yang paling keras dan paling akurat adalah kesenjangan industri antara janji dan pelaksanaan – merupakan pengakuan yang jujur dari seorang CEO yang perusahaannya telah memberikan janji-janji terbesar.
Postingan tersebut juga menggambarkan posisi yang kemungkinan akan dipertahankan oleh Anthropic ketika pertarungan kebijakan semakin intensif di Washington: aturan transparansi untuk laboratorium terdepan, perlindungan yang menguntungkan pesaing yang lebih kecil, dan tidak ada anggapan bahwa bobot terbuka memecahkan masalah konsentrasi kekuasaan.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
