Gelombang peringatan publik dari dalam Anthropic semakin intensif minggu ini ketika beberapa peneliti di perusahaan AI menggemakan penilaian apokaliptik mantan rekannya terhadap kecerdasan buatan – yang memicu tanggapan yang mencemooh dari Elon Musk, yang menyatakan bahwa protes tersebut adalah “psyop” yang terkoordinasi.
Menurut The Guardian, eskalasi ini terjadi satu hari setelah peneliti Anthropic Jacob Coxon mengumumkan pengunduran dirinya dalam sebuah postingan viral, menulis bahwa baik Anthropic maupun OpenAI – mantan perusahaannya – tidak membangun model AI secara bertanggung jawab dan “berjudi dengan hidup kita.” Alih-alih memudar, kontroversi tersebut justru berkembang ketika staf Anthropic saat ini memposting penilaian buruk mereka sebagai dukungan. For more context on this story, see our ongoing latest AI developments.
Peringatan Menumpuk
Anna Wang, yang bekerja pada keselamatan kecerdasan umum buatan di Anthropic dan sebelumnya bekerja di DeepMind Google, mengatakan pada hari Kamis bahwa banyak orang di perusahaan tersebut ingin memperlambat pengembangan untuk merencanakan risiko yang ditimbulkan oleh model yang semakin mumpuni.
“Belum ada rencana ilmiah yang layak untuk mengatasi risiko AI yang dapat memperbaiki diri secara rekursif,” tulis Wang di X.
Karyawan Anthropic lainnya, Drake Thomas, mengatakan dia menghormati keputusan Coxon untuk tidak lagi mengembangkan teknologi tersebut. “Segala sesuatunya berjalan terlalu cepat, kita tidak mempunyai tingkat jaminan yang kita inginkan untuk ASI [kecerdasan super buatan],” tulis Thomas.
Samuel Marks, yang bekerja pada penelitian keselamatan di perusahaan tersebut, berpendapat bahwa kekhawatiran ini tersebar luas di dalam industri – dan bahwa senioritas berkorelasi dengan kekhawatiran. “Pengembang AI percaya bahwa teknologi mereka dapat menyebabkan kepunahan manusia (atau akibat buruk serupa),” tulis Marks. "Hal ini bisa terjadi dalam beberapa tahun ke depan. Secara umum, semakin senior karyawannya, semakin besar kekhawatiran mereka."
Evan Hubinger, yang menggambarkan dirinya sebagai pemimpin di divisi penyelarasan Anthropic, melangkah lebih jauh. "Kami benar-benar yakin AI bisa membunuh semua manusia!" Hubinger menulis, menambahkan bahwa dia secara pribadi memperkirakan kemungkinannya di atas 10 persen dalam dekade berikutnya.
Catatan Insider mengikuti laporan dari CBS News bahwa seorang peneliti Antropik memperkirakan AI memiliki peluang lebih besar dari 10 persen untuk menyebabkan kepunahan manusia, dan liputan dari The Japan Times bahwa peringatan tersebut telah memperbaharui seruan untuk peraturan AI yang baru di Amerika Serikat.
Musk: 'Sepertinya Sebuah Pengaturan'
Elon Musk mengambil pandangan yang sangat bermusuhan. “Sepertinya ini sebuah jebakan,” tulis orang terkaya di dunia di X, platform sosialnya sendiri.
Coxon menjawab dengan selfie: "Saya nyata dan ini adalah keyakinan saya yang sebenarnya. Anda dapat bertanya kepada peneliti xAI Anda tentang saya jika Anda tidak memecat mereka."
Musk dan suara-suara simpatik lainnya memperkuat teori yang dilontarkan oleh Parker Thayer, seorang peneliti di lembaga pemikir konservatif Capital Research, yang menyarankan – dengan sedikit bukti, The Guardian mencatat – bahwa postingan Coxon adalah langkah pembuka dari “operasi humas yang SANGAT canggih dan didanai dengan baik untuk mendapatkan dukungan bagi Partai Demokrat untuk mengatur AI hingga terlupakan.”
Manajer hedge fund miliarder Bill Ackman mengutip postingan Thayer dengan jawaban satu kata: "Menarik."
Musk kemudian menjelaskan lebih lanjut. “Saya kira landasan untuk psy op ini (karena tidak ada istilah yang lebih baik) sudah dipersiapkan sejak lama,” tulisnya. "Ini hanyalah korek api yang menyalakan api."
Anthropic Mempertahankan Pendekatannya
Terjebak di antara peringatan karyawannya dan serangan dari luar, Anthropic memberikan tanggapan publik yang terukur.
“Kami selalu transparan bahwa AI akan membawa manfaat besar dan risiko yang belum pernah terjadi sebelumnya,” kata juru bicara perusahaan kepada The Guardian. “Untuk mengatasi risiko-risiko ini, kami terus membangun model dengan perlindungan terkuat di industri.”
Perusahaan menunjukkan rekam jejaknya dalam mendokumentasikan dan mencegah penyalahgunaan. Pada hari yang sama ketika peringatan tersebut menjadi viral, Anthropic merilis laporan intelijen ancaman pada bulan September, yang merinci bagaimana perusahaan tersebut membongkar operasi yang mencoba membuat senjata biologis menggunakan model AI-nya – bersamaan dengan gangguan kampanye yang mencakup serangan siber dan operasi pengaruh. Al Jazeera dan BBC termasuk di antara media yang menyoroti temuan senjata biologis tersebut pada hari Jumat.
Orang yang Skeptis Melihat Resiko yang Berbeda
Tidak semua orang menerima kerangka kepunahan. Gary Marcus, ilmuwan dan kritikus AI sejak lama, berargumentasi bahwa teknologi ini telah menyebabkan kerugian yang memerlukan tindakan apa pun skenario superintelligence – menyerukan boikot terhadap AI atas kerusakan yang terjadi saat ini.
Lebih dari sekadar kepunahan, Marcus mengatakan kepada The Guardian bahwa ia mengkhawatirkan “risiko bencana” yang disebabkan oleh “patogen yang dihasilkan oleh AI, dari perang yang dimulai atau ditingkatkan oleh disinformasi yang dihasilkan oleh AI, dari peretasan yang menghancurkan infrastruktur penting, dan sebagainya. Saya belum melihat adanya indikasi bahwa semua hal tersebut dapat dikendalikan.”
Posisinya menggarisbawahi perpecahan dalam perdebatan keselamatan AI itu sendiri: antara perdebatan yang berfokus pada risiko jangka panjang dan berskala peradaban dari sistem masa depan, dan perdebatan yang berfokus pada dampak nyata dari model yang ada saat ini.
Perdebatan yang Menolak Bertahan di Internal
Apa yang dimulai dengan surat pengunduran diri seorang peneliti telah menjadi referendum publik tentang bagaimana industri AI membangun sistemnya yang paling kuat. Di dalam Anthropic, karyawan secara terbuka memperdebatkan apakah jadwal mereka untuk pengembangan yang aman telah terlewati. Di luar konteks ini, peringatan tersebut berkembang menjadi pertarungan politik yang semakin terpolarisasi mengenai apakah dan bagaimana pemerintah harus melakukan intervensi.
Pelaporan The Guardian menunjukkan bahwa banyak staf Anthropic menyampaikan kekhawatiran ini secara pribadi namun belum mengungkapkannya secara terbuka. Jika lebih banyak dari mereka mengikuti jejak Coxon, Wang, Thomas, Marks, dan Hubinger, tekanan terhadap laboratorium AI terkemuka untuk melambat – dan pada regulator untuk bertindak – akan semakin besar.
_Artikel ini berdasarkan laporan The Guardian, dengan konteks tambahan dari CBS News, The Japan Times, Al Jazeera, dan BBC._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
