Ketua Pegawai Eksekutif Anthropic Dario Amodei Berkata AI Backlash 'Pada asasnya Krisis Kepercayaan'

Ketua Pegawai Eksekutif Anthropic Dario Amodei telah menolak idea bahawa dia telah melukis gambaran yang terlalu pesimis tentang kecerdasan buatan, dengan alasan dalam satu siri siaran bahawa tindak balas orang ramai yang semakin meningkat terhadap teknologi itu adalah "pada asasnya krisis kepercayaan" dalam institusi - bukan produk amaran daripada eksekutif AI.

Pertukaran, yang dilaporkan oleh TechCrunch pada hari Ahad, bermula apabila pelabur Gavin Baker berhujah di podcast All-In dan di X bahawa amaran Amodei tentang bahaya AI telah membantu mencetuskan tindak balas di Amerika Syarikat, terutamanya terhadap pusat data. Baker mendakwa Amodei telah "kehilangan hujah" mengenai peraturan AI dan, memandangkan "dia bakal menjadi Ketua Pegawai Eksekutif salah satu syarikat terpenting di dunia," menulis: "Saya dengan hormatnya berpendapat dia harus berusaha untuk menjadi penyokong yang lebih positif untuk industrinya sendiri." For more context on this story, see our ongoing breaking AI news.

Maklum balas Amodei, yang disiarkan di X, telah menarik perhatian seluruh industri AI untuk perkara yang didedahkan tentang cara salah seorang pemimpin paling menonjol dalam bidang itu mentafsirkan suasana hati orang ramai — dan untuk kritikan diri yang luar biasa tumpul tentang janji industri yang tidak ditepati.

'Orang biasa tidak mempercayai syarikat'

Amodei mengakui dalam jawatannya bahawa "orang ramai mempunyai pandangan negatif terhadap AI" dan bersetuju bahawa "ini adalah masalah besar." Tetapi dia menolak tanggapan bahawa negatif itu "terutamanya disebabkan" olehnya "atau mana-mana pemimpin AI lain yang memberi amaran tentang risiko AI."

"Saya fikir ia pada asasnya adalah krisis kepercayaan," tulis Amodei. "Saya fikir orang biasa tidak mempercayai syarikat, kerajaan, atau industri teknologi dan sentiasa mengesyaki bahawa kami sedang membuat beberapa cara baharu untuk merosakkan mereka."

Dalam kenyataan Amodei, ini adalah krisis yang sedang dibuat selama beberapa dekad, dengan tindak balas AI "hanya lelaran terkini." Komen itu tiba pada saat ketegangan yang nyata antara firma AI dan orang ramai: bantahan terhadap pembinaan pusat data telah merebak ke seluruh Amerika Syarikat, dan penentangan masyarakat telah berulang kali menangguhkan pembinaan utama tahun ini.

Mempertikaikan caj 'pemesejan negatif'

Atas tuduhan khusus bahawa komunikasinya sendiri terlalu gelap, Amodei secara langsung. "Saya tidak bersetuju bahawa pemesejan saya telah negatif secara tidak seimbang," tulisnya, berkata tulisannya "kira-kira seimbang antara risiko dan faedah." Dia menyatakan bahawa dia menulis eseinya "Machines of Loving Grace" dengan tepat kerana dia "tidak merasakan industri AI melukis gambaran yang cukup memberi inspirasi tentang bagaimana teknologi boleh mengubah dunia secara radikal menjadi lebih baik."

Tetapi petikan jawapan Amodei yang paling banyak dipetik adalah ditujukan kepada industrinya sendiri — termasuk syarikatnya sendiri. "Saya fikir setakat ini kritikan paling tepat terhadap syarikat AI termasuk Anthropic ialah kami masih belum menunaikan janji besar kami untuk memberi manfaat kepada dunia," tulisnya. "Itu bergantung sepenuhnya kepada kami, dan saya fikir ia adalah kritikan yang anda patut buat, bukannya semua perkara ini tentang pemesejan dan pemasaran."

Menjanjikan bahawa AI akan menyembuhkan kanser, tambahnya, adalah "lebih klise daripada yang memberi inspirasi." Apa yang sebenarnya akan mengubah pendapat umum, dia berhujah, adalah "sebenarnya menyembuhkan kanser."

Perlawanan peraturan

Amodei juga menolak pembingkaian Baker mengenai peraturan, menuduhnya melukis "pilihan palsu" antara mengedarkan AI secara meluas tanpa peraturan atau menumpukan teknologi di tangan beberapa syarikat melalui peraturan.

"Saya tahu bahawa terdapat semacam trengkas Silicon Valley di mana peraturan = penangkapan peraturan = penumpuan kuasa, tetapi saya sentiasa mendapati ini sebagai gambaran dunia yang terlalu mudah," tulis Amodei. "Ramai orang di luar gelembung ini menganggap peraturan sebagai sesuatu yang mengekang kuasa korporat dan memberi manfaat kepada orang biasa."

Beliau berkata Anthropic sengaja merangka cadangan dasar untuk mengelak penyandangnya berakar umbi. "Kami berusaha keras untuk membuat cadangan yang merugikan (melambatkan) syarikat AI sempadan sambil menguntungkan pesaing yang lebih kecil," tulisnya. Anthropic telah menyokong keperluan ketelusan pada syarikat AI yang besar, termasuk rang undang-undang California yang mengenakan kewajipan pendedahan.

Mengenai model berwajaran terbuka — titik kilat dalam perbahasan dasar semasa, dengan Rumah Putih baru-baru ini bergerak untuk mengecualikan model berwajaran terbuka daripada semakan persekutuan tertentu — Amodei menawarkan kedudukan yang bernuansa. "AI adalah secara struktur teknologi yang cenderung untuk menumpukan kuasa," hujahnya. Pemberat terbuka "membantu sesetengah orang dengan ini tetapi tidak mencapai penyelesaian yang mencukupi kerana ia hanya mengalihkan kepekatan sedikit kepada mereka yang paling banyak mengira dan cip." "Peraturan jalan raya" yang betul, katanya, boleh menangani risiko siber, bio dan penjajaran serentak, mengekang kuasa makmal sempadan, dan memberi ruang untuk model berat terbuka.

Mengapa pertukaran itu penting

Perbahasan itu tiba pada saat yang sensitif untuk Anthropic. Syarikat itu sedang mengharungi gelombang kejayaan komersial, dengan pertumbuhan hasil yang menjadikannya salah satu perniagaan yang paling diperhatikan dalam bidang teknologi, dan secara meluas dijangka meneruskan penyenaraian awam. Ketua Pegawai Eksekutifnya pada masa yang sama kekal sebagai salah seorang penyokong paling lantang dalam industri untuk mengambil risiko AI dengan serius — gabungan yang menjadikan pemesejannya sebagai penangkal kilat.

Hujah Baker mencerminkan arus yang lebih luas dalam modal teroka dan antara penggalak AI: bahawa keraguan orang ramai terhadap AI sebahagian besarnya adalah masalah komunikasi yang dicipta oleh kewaspadaan industri itu sendiri. Jawapan Amodei secara berkesan menyongsangkan pembingkaian itu — masalahnya bukanlah apa yang dikatakan oleh pemimpin AI, tetapi apa yang gagal disampaikan oleh industri dan betapa sedikit kepercayaan orang ramai terhadap institusi yang membina teknologi itu.

Bagi syarikat yang jenamanya dibina sebagai makmal AI yang bertanggungjawab, pendiriannya adalah konsisten. Tetapi konsesi Amodei - bahawa kritikan yang paling keras dan paling tepat ialah jurang industri antara janji dan penyampaian - adalah pengakuan yang jelas daripada seorang CEO yang syarikatnya telah membuat beberapa janji terbesar.

Catatan itu juga melakar kedudukan yang mungkin akan dipertahankan oleh Anthropic apabila pergaduhan dasar semakin sengit di Washington: peraturan ketelusan untuk makmal sempadan, perlindungan yang memberi kelebihan kepada pesaing yang lebih kecil, dan tiada anggapan menyeluruh bahawa wajaran terbuka menyelesaikan masalah penumpuan kuasa.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →