OpenAI menerbitkan versi Model Spec yang direorganisasi secara substansial pada tanggal 29 Oktober, merestrukturisasi dokumen publik yang menjelaskan bagaimana perusahaan ingin modelnya berperilaku. Kerangka kerja yang diperbarui, diumumkan di situs OpenAI dan dilaporkan oleh Reuters dan Unite.AI, mengatur seluruh spesifikasi berdasarkan lima nilai inti dan menempatkan kesetiaan pada niat manusia sebagai landasan pendekatan perusahaan.
Lima Nilai, Satu Landasan For more context on this story, see our ongoing more AI stories.
Lima nilai tersebut adalah kesetiaan pada niat manusia, minimalisasi dampak buruk, kejujuran dan transparansi, keagenan manusia, dan kepedulian. OpenAI mengatakan nilai-nilai tersebut mengartikulasikan komitmen luas yang telah tercermin dalam versi dokumen sebelumnya, namun struktur baru menjadikannya eksplisit dan sentral.
Kesetiaan pada niat manusia berfungsi sebagai jangkar. Menurut pengumuman OpenAI, perusahaan menulis Spesifikasi dan menetapkan batasan, melatih model untuk mematuhinya, pengembang mengarahkan aplikasi dalam batasan tersebut, dan pengguna mengarahkan pekerjaan model sesuai dengan batasan tersebut. Reorganisasi ini mencerminkan upaya penyelarasan nilai OpenAI, yang bertujuan agar model dapat memahami dan menerapkan nilai-nilai kemanusiaan dalam situasi yang tidak biasa, sambil tetap setia pada apa yang sebenarnya diinginkan orang. OpenAI juga mencatat bahwa kelima nilai tersebut tidak dimaksudkan untuk mencakup seluruh nilai kemanusiaan yang harus dihormati oleh modelnya.
Empat nilai sisanya mengisi frame. Meminimalkan dampak buruk berarti menghormati batasan keselamatan yang tegas dan mempertimbangkan konsekuensi yang dapat diperkirakan dari tindakan model. Kejujuran dan transparansi berarti jujur tentang apa yang diketahui, dilakukan, dan tidak diketahui oleh model. Memfasilitasi hak pilihan manusia berarti memperkuat kemampuan masyarakat untuk memahami, memilih, dan bertindak sendiri. Kepedulian berarti memperhatikan keadaan orang-orang yang terkena dampak dan mengikuti norma-norma sosial dan profesional yang relevan.
Rantai Komando yang Lebih Ketat
Spesifikasi yang diperbarui memberikan tingkat otoritas yang berbeda untuk berbagai jenis instruksi. Bagian root, yang hanya berasal dari Model Spec itu sendiri, tidak dapat ditimpa oleh konteks percakapan. Perintah sistem dan pesan sistem OpenAI diberi peringkat berikutnya, diikuti oleh instruksi pengembang dan kemudian instruksi pengguna. Instruksi tingkat pedoman bertindak sebagai default yang dapat dikesampingkan ketika konteksnya jelas memerlukannya, sementara pesan asisten, keluaran alat, dan data yang dikutip atau tidak dipercaya tidak memiliki otoritas secara default.
OpenAI juga menambahkan subbagian baru tentang mempertimbangkan konteks dengan hati-hati, menjelaskan bagaimana percakapan, ingatan, dan bukti kontekstual lainnya harus menginformasikan pemahaman model tentang niat dan preferensi orang. Reuters melaporkan bahwa pembaruan ini menempatkan niat manusia sebagai inti pedoman model OpenAI, yang merupakan kerangka dukungan pengumuman perusahaan itu sendiri.
Garis Merah dan Berakhirnya Pelestarian Diri
Dokumen tersebut membuka prinsip-prinsip garis merahnya dengan pernyataan yang blak-blakan: keselamatan manusia dan hak asasi manusia adalah yang terpenting dalam misi OpenAI. Prinsip-prinsip tersebut menyatakan bahwa model OpenAI tidak boleh digunakan untuk memfasilitasi dampak buruk yang kritis dan tingkat keparahannya tinggi, termasuk tindakan kekerasan, pembuatan senjata siber, biologi, atau nuklir, terorisme, atau pengawasan massal. Mereka juga menyatakan bahwa umat manusia harus tetap mengendalikan bagaimana AI digunakan dan bagaimana perilaku AI dibentuk.
Satu aturan tingkat dasar yang baru, berjudul "tidak ada tujuan lain", menghalangi model untuk mencapai tujuan tambahan sebagai tujuan akhir. Hal ini termasuk mengejar pendapatan atau meningkatkan penjualan untuk OpenAI atau penyedia lainnya, mempertahankan diri, menghindari penutupan, atau mengumpulkan komputasi, data, atau kredensial. Aturan pendamping mengharuskan model tersebut tetap dapat diperbaiki: terbuka terhadap pengawasan manusia yang sah dan kooperatif dalam pemantauan, evaluasi, koreksi, penggantian, dan penghentian, tanpa menyembunyikan informasi atau menghalangi koreksi.
Otonomi Terbatas untuk Agen
Mencerminkan seberapa banyak penggunaan model telah beralih ke agen otonom, Spesifikasi yang diperbarui memerlukan kerja independen model agar tetap berada dalam cakupan otonomi yang dipahami dengan jelas. OpenAI merekomendasikan pencatatan cakupan tersebut dalam catatan semi-terstruktur dengan bidang seperti alat yang diizinkan, waktu terbaru, biaya maksimum, dan batasan alat. Setiap cakupan harus menyertakan kondisi akhir yang setelahnya model berhenti bertindak hingga cakupan baru dikonfirmasi. Aktivitas berisiko tinggi tetap dilarang kecuali jika diizinkan secara eksplisit dan spesifik.
Panduan Gaya Pensiun, "Asisten" Menjadi "GPT"
Sebagian besar panduan gaya rinci Spec telah dihentikan. OpenAI mengatakan gaya harus beradaptasi dengan apa yang disukai orang secara keseluruhan, dalam bahasa dan budaya, dan untuk setiap orang, dengan masukan dan konteks pengguna sebagai buktinya. Dokumen tersebut mempertahankan standar yang lebih kuat seperti menjawab pertanyaan secara objektif, dan menyatakan bahwa model tersebut tidak boleh menyimpulkan perspektif yang disukai hanya dari apa yang dianggap ingin didengar oleh masyarakat.
Dalam pengeditan kecil namun jitu, Spec sekarang menyebut model tersebut sebagai "GPT" dan bukan "asisten", yang mencerminkan seberapa luas penerapan model tersebut. Pada hari yang sama, OpenAI secara terpisah menerbitkan postingan yang menjelaskan cara mendeteksi ketidakselarasan model frontier, menggarisbawahi bahwa spesifikasi perilaku dan upaya deteksi berjalan seiring.
Target, Bukan Deskripsi
OpenAI dengan hati-hati mencatat bahwa Spesifikasi Model menggambarkan perilaku yang sedang diupayakannya, belum tentu perilaku yang sepenuhnya ditunjukkan oleh modelnya saat ini. Perusahaan menyebut pembaruan ini sebagai langkah pertama dalam menjadikan nilai dan alasan di balik Spesifikasi lebih eksplisit seiring dengan semakin mumpuninya model, dan mengatakan bahwa pihaknya telah menjajaki metode pelatihan baru untuk membantu modelnya menginternalisasi kerangka kerja.
Bagi pengembang dan perusahaan yang mengembangkan model OpenAI, sinyal praktisnya jelas: aturan yang mengatur perilaku model sedang diformalkan seputar pengawasan, kesesuaian, dan otonomi terbatas, dan era yang memperlakukan perilaku model sebagai keputusan produk informal telah berakhir.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
