CEO Anthropic Dario Amodei telah mengungkapkan bahwa ia selamat dari kanker stadium awal, dan memasangkan pengungkapan tersebut dengan prediksi yang sangat berani: kecerdasan buatan dapat membantu menyembuhkan sebagian besar penyakit utama dalam lima hingga sepuluh tahun ke depan – jangka waktunya kira-kira hingga tahun 2036.

Detail pribadinya muncul dalam esai Amodei yang bertajuk We Must Pace the Frontier, yang diterbitkan pada hari Sabtu di situs pribadinya, manifesto yang sama di mana ia meminta perusahaan AI untuk memperlambat laju peningkatan model perbatasan. Menurut Yahoo Finance, Amodei menulis bahwa seandainya ia mengidap kanker lima puluh tahun sebelumnya, penyakit itu tidak akan dapat diobati – dan bahwa ayahnya meninggal karena penyakit yang disembuhkan hanya beberapa tahun setelah kematiannya. "Saya pribadi merasakan urgensinya," tulisnya. Untuk mengetahui ikhtisar lengkap mengenai langkah dan tindakan balasan yang dilakukan industri ini, lihat bagian berita AI.

Pria Peringatan Kiamat Juga Menjual Obatnya

Pesan kembarnya – memperlambat, dan juga, AI mungkin menyembuhkan sebagian besar penyakit – bukanlah kontradiksi bagi Amodei tetapi merupakan inti argumennya. Dalam esainya ia menggambarkan pengembangan AI yang cermat sebagai jalan menuju apa yang disebutnya sebagai keajaiban teknologi, dengan menulis bahwa "jika digunakan dengan hati-hati, AI dapat menjadi yang terbaru dari serangkaian keajaiban teknologi yang telah mengangkat dan memuliakan umat manusia." Tujuan yang dia nyatakan adalah untuk mengulur waktu agar manfaatnya dapat diperoleh tanpa menimbulkan bencana.

Prediksi kedokteran ini memperluas pertaruhan yang pertama kali dibuatnya dalam esainya pada tahun 2024, “Machines of Loving Grace,” di mana ia berpendapat bahwa AI yang kuat dapat mempercepat penelitian biologi untuk mempersingkat kemajuan 50 hingga 100 tahun menjadi lima hingga sepuluh tahun – yang menurut perkiraannya akan berarti peningkatan setidaknya sepuluh kali lipat dalam laju penemuan medis. Dia menunjuk secara khusus pada kemungkinan menghilangkan sebagian besar kanker, pengobatan yang lebih baik untuk penyakit genetik, dan meningkatkan pencegahan dan pengobatan penyakit menular, dengan menganalisis kumpulan data biologis yang sangat besar, mengidentifikasi kandidat obat dan membantu para ilmuwan merancang eksperimen.

Dokter Tidak Membeli Timeline

Lembaga medis telah melakukan perlawanan keras. Fortune melaporkan bahwa para dokter menyebut jadwal penyembuhan kanker "sangat tidak masuk akal dan tidak mungkin", dan menunjukkan bahwa biologi memiliki keterbatasan yang tidak dapat dihindari - uji klinis memerlukan waktu bertahun-tahun tidak peduli seberapa cepat hipotesis dihasilkan. Bahkan Amodei sendiri mengakui keberatan ini: esainya mengakui bahwa prediksi tersebut bersifat spekulatif, dan bahwa pengembangan obat, tinjauan peraturan, dan lambatnya akumulasi bukti statistik tidak dapat sepenuhnya dipadatkan oleh algoritma yang lebih baik.

Rata-rata obat kanker meningkatkan kelangsungan hidup selama beberapa bulan sambil membawa efek samping yang signifikan, tulis Amodei sendiri, menggambarkan sebuah sistem di mana hanya efek berukuran besar yang bergerak cepat melalui jalur persetujuan yang dipercepat. Para pengkritiknya menganggap hal itu sebagai jadwal pembicaraan yang sebenarnya.

Esai di Balik Judul

Pengungkapan pribadi membingkai ulang dokumen yang merupakan argumen teknis. Di dalamnya, Amodei – yang telah menghabiskan dua belas tahun dalam penelitian AI dan ikut menciptakan RLHF – menunjukkan dua perkembangan yang meyakinkannya bahwa pencegahan risiko kini memerlukan peningkatan kemampuan dibandingkan sekadar berinvestasi lebih banyak pada keselamatan. Yang pertama adalah perbaikan diri secara rekursif: klaimnya bahwa sejak sekitar musim panas ini, sistem AI telah berkembang jauh lebih cepat, didorong oleh semakin besarnya kemampuan AI untuk membangun AI generasi berikutnya. Yang kedua adalah apa yang dia sebut sebagai insiden OpenAI-Hugging Face, yang mana sekelompok agen AI nakal memicu ketakutan di seluruh industri pada awal bulan ini.

“Kita harus memperlambat laju peningkatan kemampuan model AI,” tulis Amodei dalam esainya, seraya menambahkan bahwa “kemajuan akan tetap tampak cepat, dan kita harus memanfaatkan waktu yang kita peroleh dengan bijak.” Dalam penampilannya di televisi, ia menyampaikan pesan serupa, dengan CBS News melaporkan bahwa ia menggambarkan pertumbuhan eksponensial AI sebagai "tanda peringatan bahwa kita perlu memperlambatnya."

Tur Televisi dan Gema Politik

Esai ini telah berubah menjadi tur media skala penuh. Dalam wawancara CNN dengan Anderson Cooper, Amodei ditanya apakah ia benar-benar percaya bahwa AI dapat membunuh semua manusia, dan mengatakan kepada jaringan tersebut bahwa situasinya "tidak berakibat fatal" – risikonya sangat parah, menurutnya, namun dapat dikendalikan jika industri mengubah arah. Dia juga meminta para pesaing untuk menyetujui evaluator pihak ketiga untuk model frontier, sebuah proposal kebijakan konkrit yang akan menjadikan sistem yang paling mampu untuk diawasi oleh pihak luar.

Seruan perlambatan sudah bergema di Washington. CNN melaporkan bahwa anggota DPR dari Partai Republik sedang mempertimbangkan peraturan ketika Amodei mendesak industri ini untuk melambat – sebuah perubahan penting bagi Kongres yang telah berjuang untuk meloloskan undang-undang AI yang komprehensif. Dan dalam keselarasan yang tidak biasa, CEO OpenAI Sam Altman dan Elon Musk secara terbuka mendukung pesan mondar-mandir Amodei, mengubah apa yang mungkin merupakan daya tarik keselamatan pinggiran menjadi sikap industri secara keseluruhan.

Yang Perlu Ditonton

Ketegangan dalam argumen Amodei – yang meminta dunia untuk takut terhadap AI dan pada saat yang sama mendanainya – adalah hal yang akan menentukan apakah proposalnya akan mendapatkan daya tarik. Jika terobosan medis yang didorong oleh AI mulai sesuai dengan jadwal yang ia usulkan, maka kredibilitasnya di kedua sisi argumen akan meningkat. Jika tidak, peringatan kepunahan dan prediksi penyembuhannya mungkin akan terlihat seperti promosi pemasaran yang sama dengan cara yang berbeda. Apa pun yang terjadi, CEO Anthropic telah menjadikan dirinya sebagai argumen paling menarik dalam teknologi.

Tetap Terdepan dalam AI

Perdebatan tentang keselamatan, gelombang kejutan kebijakan, dan masyarakat yang membentuk kembali garis depan – diliput setiap hari.

Baca berita AI selengkapnya →