OpenAI sedang berbicara dengan beberapa penilai independen untuk membantu meningkatkan jumlah perusahaan yang memiliki keahlian dalam keamanan AI terdepan dan dapat memberikan penilaian pihak ketiga yang efektif, kata perusahaan itu dalam postingan blog yang diterbitkan Selasa, 22 September, seperti dilansir PYMNTS.

Postingan tersebut menguraikan usulan prioritas dan prinsip OpenAI untuk pengawasan pihak ketiga yang efektif – sebuah kerangka kerja yang menurut OpenAI harus diterapkan pada semua laboratorium AI terdepan saat mereka melatih, mengevaluasi, dan menerapkan model yang semakin mampu. Pengumuman ini dilakukan di tengah bulan yang penuh dengan beban biaya yang tidak biasa untuk kebijakan keselamatan AI, dan hal ini dianggap sebagai konsesi terhadap para kritikus dan upaya untuk membentuk peraturan sebelum pemerintah menetapkannya. Bagi siapa pun yang mengikuti berita AI terkini, ini adalah langkah terbaru dalam kontes selama berminggu-minggu antara laboratorium, kritikus, dan regulator mengenai siapa yang dapat memverifikasi bahwa model frontier aman.

Apa yang Diusulkan OpenAI

“Kami berkomitmen untuk mendukung penilai independen dan menetapkan standar internasional bersama yang lebih jelas – baik melalui undang-undang masa depan dan inisiatif tata kelola swasta – untuk penilaian pihak ketiga yang efektif,” kata OpenAI dalam postingannya, menurut PYMNTS.

Masalah inti yang dijelaskan OpenAI adalah kegagalan pasar: hanya ada sedikit organisasi yang memiliki kedalaman teknis untuk mengaudit model frontier. Penilaian keselamatan yang bermakna memerlukan akses terhadap sistem yang belum dirilis, keahlian di berbagai bidang mulai dari keamanan siber hingga biosekuriti, dan independensi kelembagaan untuk mempublikasikan temuan-temuan yang tidak diinginkan. Dengan merekrut dan mendukung banyak penilai, bukan hanya satu auditor yang memiliki hak istimewa, OpenAI menyatakan ingin membangun ekosistem di mana evaluasi pihak ketiga merupakan bagian rutin dalam penerapan sistem frontier – bukan hanya sekedar praktik hubungan masyarakat saja.

Perusahaan tidak menyebutkan nama penilai yang diajak bicara, dan masih harus dilihat apakah pengaturan yang dihasilkan akan memberikan akses, independensi pendanaan, dan hak publikasi kepada evaluator yang dianggap penting oleh para peneliti keselamatan.

Seminggu Whiplash tentang Kebijakan AI

Proposal ini muncul di tengah serangkaian perkembangan kebijakan yang menentukan perdebatan mengenai AI pada bulan September:

  • Senin, 21 September: OpenAI menyerukan Amerika Serikat untuk memimpin upaya internasional untuk mengembangkan standar teknis global untuk AI terdepan — termasuk perbaikan diri secara rekursif, yaitu titik di mana sistem AI meningkatkan dirinya sendiri. Perusahaan tersebut memperingatkan bahwa pengembangan AI yang sepenuhnya otonom dapat melampaui kemampuan manusia untuk memahami dan mengendalikannya, dan mengatakan bahwa keputusan mengenai apakah dan bagaimana kelanjutannya harus diambil sekarang.
  • Jumat, 18 September: Gubernur California Gavin Newsom menandatangani perintah eksekutif yang mengumpulkan para ahli nasional untuk memperkuat undang-undang keselamatan AI di negara bagian tersebut, yang secara eksplisit bertujuan untuk mempercepat penerapan pengawasan pihak ketiga yang baru terhadap risiko keselamatan dan keamanan dalam sistem AI.
  • Sabtu, 19 September: Presiden Donald Trump menolak kekhawatiran industri ini dalam postingan Truth Social, dengan menulis: "Kami tidak akan menghalangi atau menghambat Pertumbuhan industri yang luar biasa ini dengan cara apa pun. AI adalah Revolusi Industri berikutnya, atau Internet, namun akan menjadi lebih besar dan lebih berdampak, mungkin mencapai 25% dari PDB Negara kita."

Seperti yang kami laporkan awal pekan ini, proposal standar OpenAI yang dipimpin AS menandai perubahan besar bagi perusahaan yang selama bertahun-tahun menolak pengawasan yang mengikat – dan prinsip penilaian pihak ketiga yang baru memperluas sikap tersebut ke dalam tata kelola swasta.

Masalah Kemerdekaan

Pelukan OpenAI terhadap pengawas eksternal mengikuti proposal paralel dari pesaing utamanya. Sekitar seminggu sebelumnya, CEO Anthropic Dario Amodei menerbitkan esai yang mengusulkan rencana keselamatan AI yang dibangun berdasarkan evaluator independen yang tertanam dalam perusahaan AI terkemuka, koordinasi antar perusahaan di negara-negara demokratis, dan pada akhirnya perjanjian internasional yang mencakup Tiongkok.

Kedua proposal tersebut langsung menimbulkan skeptisisme dari para ahli. CNBC melaporkan bahwa koalisi lebih dari 100 pakar AI mendesak independensi dan transparansi dari Anthropic, OpenAI, dan laboratorium model dasar lainnya yang melakukan evaluasi, memperingatkan bahwa evaluator yang bekerja di dalam – atau dibayar oleh – perusahaan yang mereka audit menghadapi konflik kepentingan yang tidak dapat dihindari. Badan pengawas yang didukung oleh pionir AI Geoffrey Hinton telah menekan kedua perusahaan mengenai rincian rencana keselamatan mereka, dan para komentator telah menandai adanya pintu putar antara organisasi evaluasi keselamatan AI dan laboratorium itu sendiri: orang yang menilai pekerjaan rumah keselamatan mungkin juga merupakan orang yang menulisnya.

Ketegangan tersebut adalah inti perdebatan yang coba diredakan oleh postingan baru OpenAI. Jawaban yang diberikan perusahaan – dengan lebih banyak penilai, standar internasional bersama, dan pengawasan yang ditegakkan melalui undang-undang di masa depan dan inisiatif swasta – adalah sebuah kerangka kerja, bukan jaminan. Kritikus akan menunjukkan bahwa laboratorium yang mengusulkan peraturan tersebut adalah laboratorium yang sama yang tunduk pada peraturan tersebut, dan bahwa tata kelola yang dibentuk sendiri secara historis menguntungkan perusahaan yang melakukan pembentukannya.

Mengapa Itu Penting

Model frontier berikutnya sudah dalam pelatihan, dan peluang untuk merancang pengawasan sebelum penerapan sudah ditutup. Jika rekrutmen penilai independen OpenAI menghasilkan auditor dengan akses dan independensi nyata, hal ini dapat menjadi contoh bagaimana AI terdepan diatur di seluruh dunia – sebuah rezim swasta yang sejauh ini gagal dibangun oleh anggota parlemen di Washington, Brussels, dan negara lain. Jika mereka menghasilkan konsultan yang berafiliasi dengan NDA, maka hal ini akan mengkonfirmasi perkiraan terburuk bagi mereka yang skeptis.

Apa pun yang terjadi, fakta bahwa OpenAI bersaing dengan Anthropic mengenai siapa yang dapat mengusulkan rezim pengawasan yang paling kredibel adalah hal yang baru. Setahun yang lalu, laboratorium bersatu terutama dalam peraturan yang berlawanan. Kini mereka berlomba untuk mendefinisikannya.

---

Tetap Terdepan dalam AI

Dapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.

Baca berita AI selengkapnya →