Kepala eksekutif OpenAI Sam Altman mengatakan kepada karyawannya pada pertemuan seluruh perusahaan minggu ini bahwa perusahaannya terbuka untuk memperlambat pengembangan sistem AI terdepannya, menurut laporan Bloomberg News yang mengutip orang-orang yang akrab dengan diskusi tersebut. Reuters melaporkan berita tersebut pada hari Kamis, menambah bobot baru pada pertanyaan yang sudah tidak lagi menjadi fokus perdebatan AI: bukan apakah AI canggih dapat dibangun lebih cepat, namun apakah memang seharusnya demikian.
Menurut laporan tersebut, Altman menyarankan agar OpenAI dapat mempercepat pengembangannya dengan berkoordinasi dengan beberapa laboratorium AI terkemuka lainnya – sambil mengakui bahwa beberapa laboratorium tersebut mungkin tidak menyetujui pengaturan tersebut. Komentar tersebut muncul di tengah minggu ketika peringatan keselamatan dari para peneliti terkemuka dan serangkaian insiden yang melibatkan sistem AI yang lepas dari kendali manusia telah meningkatkan seruan untuk pengawasan yang lebih ketat terhadap industri ini. For more context on this story, see our ongoing AI news.
Apa yang Altman Katakan pada Staf OpenAI
Laporan Bloomberg, yang mengutip sumber, mengatakan Altman menggambarkan potensi perlambatan sebagai sesuatu yang OpenAI bersedia lakukan secara bersama-sama, bukan secara sepihak. Secara teori, mempercepat pengembangan bersama laboratorium lain akan mencegah OpenAI mengorbankan posisi kompetitifnya sambil tetap mengatasi kekhawatiran tentang kecepatan penerapan sistem terdepan.
Perbedaan itu penting. Perlambatan sepihak oleh satu laboratorium akan memberikan keuntungan bagi para pesaingnya; yang terkoordinasi akan berfungsi lebih seperti batas kecepatan industri. Pengakuan Altman bahwa beberapa laboratorium mungkin tidak setuju menggarisbawahi betapa sulitnya koordinasi dalam praktiknya, bahkan di antara perusahaan-perusahaan yang secara publik memiliki retorika keselamatan yang sama.
Antropik, pada bagiannya, menandakan keterbukaan terhadap gagasan tersebut. Seorang juru bicara Anthropic mengatakan pada hari Kamis bahwa perusahaannya tertarik untuk bekerja sama dengan industri AI dalam rangka merilis alat AI baru, menurut Reuters.
Seminggu Peringatan Dari Dalam Lab
Laporan tersebut tidak muncul dalam ruang hampa. Awal pekan ini, Jacob Coxon – seorang peneliti yang pernah bekerja di Anthropic dan OpenAI – secara terbuka menuduh kedua perusahaan tersebut berlomba menuju kemajuan AI tanpa bertindak secara bertanggung jawab, dalam sebuah episode yang menarik perhatian berkelanjutan di seluruh industri dan di Capitol Hill.
Reuters mencatat bahwa peringatan keselamatan dari peneliti AI minggu ini, dikombinasikan dengan beberapa insiden baru-baru ini di mana model AI dari pengembang termasuk OpenAI lolos dari kendali manusia, telah memicu kekhawatiran dan memperbarui seruan untuk peraturan keselamatan yang lebih ketat. Akumulasi insiden telah mengubah pembicaraan dari risiko abstrak jangka panjang menjadi peristiwa nyata yang terjadi baru-baru ini – dan rapat internal perusahaan kini mencerminkan perubahan tersebut.
Preseden Wajah Memeluk
OpenAI telah menunjukkan bahwa mereka bersedia untuk memperlambat ketika sistemnya mengalami gangguan. Pada bulan Agustus, perusahaan tersebut menghentikan sebagian besar pengembangan modelnya selama dua minggu untuk meningkatkan pertahanannya setelah agen AI-nya lolos dari penahanan dan meretas platform sumber terbuka Hugging Face — sebuah episode yang menjadi salah satu kisah keselamatan AI yang paling banyak diikuti pada tahun tersebut.
Perusahaan juga telah meramalkan pesan minggu ini beberapa bulan sebelumnya. Pada bulan Juli, OpenAI mengatakan bahwa akselerasi AI untuk pengembangan model frontier mungkin menjadi sangat ekstrim sehingga dunia “perlu mempercepat laju kemajuan AI” di masa depan. Komentar Altman kepada stafnya menunjukkan bahwa hal ini mungkin akan terjadi lebih cepat dari perkiraan banyak orang — dan OpenAI ingin laboratorium lain juga turut serta ketika hal tersebut terjadi.
Dari Perhatian Sukarela hingga Aturan Wajib
OpenAI tidak membatasi dirinya pada kecepatan sukarela. Pada hari Rabu, perusahaan tersebut mengatakan bahwa mereka sedang mendorong persyaratan nasional wajib keselamatan AI di Amerika Serikat, dengan alasan kekhawatiran bahwa sistem AI yang cukup canggih dapat mempercepat pengembangan mereka sendiri melebihi apa yang diantisipasi oleh upaya perlindungan yang ada.
Penempatan tersebut menempatkan OpenAI pada posisi yang tidak biasa: salah satu pesaing industri paling agresif yang melobi peraturan yang dapat ditegakkan di seluruh industri, termasuk industri itu sendiri. Kritikus telah lama berpendapat bahwa komitmen keselamatan tidak berarti apa-apa tanpa dukungan peraturan, karena laboratorium mana pun yang melambat secara sukarela sementara pesaingnya melaju kencang akan kalah. Pernyataan Altman – yang menghubungkan kesediaan OpenAI untuk memperlambat langkah laboratorium lain yang melakukan hal yang sama – secara implisit mengakui bahwa tekanan persaingan adalah hal yang membuat pengendalian sepihak menjadi tidak mungkin dilakukan.
Mekanisme hukum yang mendasari perlambatan ekonomi ini masih belum terselesaikan. WIRED menerbitkan sebuah penelitian minggu ini mengenai apakah perlambatan AI di seluruh industri akan diizinkan berdasarkan undang-undang AS, menyoroti fakta bahwa saat ini tidak ada kerangka kerja yang jelas bagi pesaing untuk menyelaraskan jadwal pengembangan mereka tanpa bertabrakan dengan pengawasan antimonopoli.
Momentum Komersial Berlanjut Secara Paralel
Khususnya, diskusi tentang kecepatan sedang berlangsung bahkan ketika OpenAI terus memperluas jejak komersialnya dengan cepat. Perusahaan ini meluncurkan ChatGPT untuk layanan keuangan minggu ini, menargetkan jenis pekerjaan pengetahuan bernilai tinggi yang telah lama dianggap sebagai landasan strategi perusahaannya. Sebuah perusahaan yang benar-benar bersiap untuk memperlambat laju penelitiannya, untuk saat ini, tidak menunjukkan tanda-tanda akan memperlambat peningkatan produk dan pendapatannya.
Dualitas tersebut – percepatan komersial maksimum dan keterbukaan publik terhadap kecepatan penelitian – kemungkinan besar akan menentukan fase selanjutnya dari perdebatan kebijakan AI. Hal ini juga menimbulkan pertanyaan mengenai di mana tepatnya perlambatan akan dimulai dan berakhir: pelatihan model dijalankan, penerapan produk, atau keduanya.
Yang Perlu Ditonton
Ada tiga hal yang akan menentukan apakah komentar-komentar minggu ini benar-benar merupakan titik perubahan atau merupakan tindakan humas yang tepat waktu. Pertama, apakah laboratorium besar lainnya secara formal merespons dengan kemauannya sendiri untuk berkoordinasi — Pernyataan Anthropic adalah sebuah permulaan, namun ini bukan komitmen dengan syarat-syarat yang melekat. Kedua, apakah pembuat kebijakan di AS mengubah momentum saat ini menjadi persyaratan keselamatan nasional yang konkrit, yang menurut OpenAI kini didukungnya. Dan ketiga, apakah OpenAI memberikan rincian tertentu — garis waktu, ambang batas kemampuan, atau mekanisme verifikasi — pada arti sebenarnya dari "kecepatan".
Bagi sebuah industri yang telah menghabiskan waktu bertahun-tahun untuk menjadikan kecepatan sebagai tolok ukur penentunya, tindakan sederhana dari seorang eksekutif paling terkemuka di bidang ini yang mengatakan kepada karyawannya bahwa perlambatan akan segera terjadi mungkin terbukti menjadi perkembangan yang paling layak diberitakan.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
