OpenAI menerbitkan versi yang banyak disusun semula bagi Model Spec pada 29 Oktober, menstruktur semula dokumen awam yang menerangkan cara syarikat mahu modelnya berkelakuan. Rangka kerja yang dikemas kini, diumumkan di tapak OpenAI dan dilaporkan oleh Reuters dan Unite.AI, menyusun keseluruhan spesifikasi di sekitar lima nilai teras dan meletakkan kesetiaan kepada niat manusia sebagai asas pendekatan syarikat.

Lima Nilai, Satu Asas For more context on this story, see our ongoing AI trends.

Lima nilai tersebut ialah kesetiaan kepada niat manusia, pengurangan bahaya, kejujuran dan ketelusan, agensi manusia, dan penjagaan. OpenAI berkata nilai itu menyatakan komitmen luas yang telah dicerminkan merentas versi dokumen sebelumnya, tetapi struktur baharu menjadikannya jelas dan penting.

Kesetiaan kepada niat manusia berfungsi sebagai sauh. Menurut pengumuman OpenAI, syarikat itu menulis Spec dan menetapkan sempadan, melatih model untuk menghormatinya, pembangun mengarahkan aplikasi dalam sempadan tersebut, dan pengguna mengarahkan kerja model tertakluk kepada kekangan tersebut. Penyusunan semula mencerminkan kerja penjajaran nilai OpenAI, yang bertujuan untuk model memahami dan menerapkan nilai manusia dalam situasi yang tidak dikenali sambil kekal setia kepada perkara yang sebenarnya dikehendaki oleh orang ramai. OpenAI juga menyatakan bahawa lima nilai itu tidak bertujuan untuk menangkap julat penuh nilai manusia yang patut dihormati oleh modelnya.

Baki empat nilai mengisi bingkai. Meminimumkan bahaya bermakna menghormati sempadan keselamatan yang kukuh dan mengambil kira akibat yang boleh dijangka daripada tindakan model. Kejujuran dan ketelusan bermaksud bersikap jujur ​​tentang perkara yang diketahui, dilakukan dan tidak pasti oleh model. Memudahkan agensi manusia bermakna mengukuhkan keupayaan orang untuk memahami, memilih, dan bertindak untuk diri mereka sendiri. Penjagaan bermaksud menjaga keadaan mereka yang terjejas dan mengikut norma sosial dan profesional yang berkaitan.

Rantaian Perintah yang Lebih Ketat

Spec yang dikemas kini memberikan tahap kuasa yang berbeza kepada pelbagai jenis arahan. Bahagian akar, yang datang hanya daripada Spesifikasi Model itu sendiri, tidak boleh ditindih oleh konteks perbualan. Gesaan sistem dan mesej sistem OpenAI berkedudukan seterusnya, diikuti dengan arahan pembangun dan kemudian arahan pengguna. Arahan peringkat garis panduan bertindak sebagai lalai yang boleh ditindih apabila konteks memerlukannya dengan jelas, manakala mesej pembantu, output alat dan data yang disebut atau tidak dipercayai tidak mempunyai kuasa secara lalai.

OpenAI juga menambah subseksyen baharu tentang mempertimbangkan konteks dengan teliti, menerangkan cara perbualan, kenangan dan bukti kontekstual lain harus memaklumkan pemahaman model tentang niat dan pilihan orang. Reuters melaporkan bahawa kemas kini itu meletakkan niat manusia di tengah-tengah garis panduan model OpenAI, yang membingkai sokongan pengumuman syarikat itu sendiri.

Garis Merah dan Pengakhiran Pemeliharaan Diri

Dokumen itu membuka prinsip garis merahnya dengan kenyataan yang jelas: keselamatan manusia dan hak asasi manusia adalah yang terpenting dalam misi OpenAI. Prinsip mengatakan model OpenAI tidak boleh digunakan untuk memudahkan kemudaratan kritikal dan keterukan tinggi, termasuk tindakan keganasan, penciptaan senjata siber, biologi atau nuklear, keganasan atau pengawasan besar-besaran. Mereka juga menyatakan bahawa manusia harus kekal mengawal cara AI digunakan dan bagaimana tingkah laku AI dibentuk.

Satu peraturan peringkat akar baharu, bertajuk "tiada objektif lain," menghalang model daripada mengejar matlamat tambahan sebagai matlamat mereka sendiri. Ini termasuk mengejar hasil atau peningkatan untuk OpenAI atau penyedia lain, pemeliharaan diri, mengelakkan penutupan, atau mengumpul pengiraan, data atau bukti kelayakan. Peraturan pendamping memerlukan model untuk kekal boleh diperbaiki: terbuka kepada pengawasan manusia yang sah dan bekerjasama dengan pemantauan, penilaian, pembetulan, penggantian dan penutupan, tanpa menyembunyikan maklumat atau menghalang pembetulan.

Autonomi Terhad untuk Ejen

Mencerminkan berapa banyak penggunaan model telah beralih kepada ejen autonomi, Spec yang dikemas kini memerlukan kerja bebas model untuk kekal dalam skop autonomi yang difahami dengan jelas. OpenAI mengesyorkan merekodkan skop itu dalam rekod separa berstruktur dengan medan seperti alat yang dibenarkan, masa terkini, kos maksimum dan kekangan alat. Setiap skop mesti menyertakan syarat tamat di mana model berhenti bertindak sehingga skop baharu disahkan. Aktiviti berisiko tinggi kekal dilarang melainkan ia dibenarkan secara jelas dan khusus.

Panduan Gaya Bersara, "Pembantu" Menjadi "GPT"

Kebanyakan panduan gaya terperinci Spec telah dihentikan. OpenAI berkata gaya sebaliknya harus menyesuaikan diri dengan perkara yang disukai orang secara agregat, dalam bahasa dan budaya, dan untuk setiap orang, dengan maklum balas dan konteks pengguna memberikan bukti. Dokumen itu mengekalkan lalai yang lebih kukuh seperti mendekati soalan secara objektif, dan menyatakan bahawa model itu tidak seharusnya membuat kesimpulan perspektif pilihan semata-mata daripada perkara yang difikirkannya ingin didengari oleh orang ramai.

Dalam suntingan yang kecil tetapi jelas, Spec kini merujuk kepada model sebagai "GPT" dan bukannya "pembantu", gambaran tentang sejauh mana model itu digunakan sekarang. Pada hari yang sama, OpenAI secara berasingan menerbitkan siaran yang menerangkan cara ia mengesan salah jajaran model sempadan, menggariskan bahawa spesifikasi tingkah laku dan kerja pengesanan sedang berkembang bersama.

Sasaran, Bukan Penerangan

OpenAI berhati-hati untuk mengambil perhatian bahawa Spesifikasi Model menerangkan tingkah laku yang sedang diusahakannya, tidak semestinya tingkah laku yang dipamerkan sepenuhnya oleh modelnya hari ini. Syarikat itu memanggil kemas kini sebagai langkah pertama dalam menjadikan nilai dan alasan di sebalik Spec lebih jelas apabila model menjadi lebih berkebolehan, dan berkata ia telah meneroka kaedah latihan baharu untuk membantu modelnya menghayati rangka kerja.

Bagi pembangun dan perusahaan yang membina model OpenAI, isyarat praktikal adalah jelas: peraturan yang mengawal tingkah laku model sedang diformalkan di sekitar pengawasan, kesesuaian dan autonomi terhad, dan era menganggap tingkah laku model sebagai keputusan produk tidak formal akan berakhir.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →