OpenAI nerbitake versi Model Spec sing wis diatur maneh ing tanggal 29 Oktober, nyusun ulang dokumen umum sing nggambarake kepiye perusahaan pengin model kasebut tumindak. Kerangka kerja sing dianyari, sing diumumake ing situs OpenAI lan dilaporake dening Reuters lan Unite.AI, ngatur kabeh spesifikasi babagan limang nilai inti lan netepake kasetyan kanggo tujuan manungsa ing dhasar pendekatan perusahaan.
Lima Nilai, Siji Yayasan For more context on this story, see our ongoing breaking AI news.
Lima nilai kasebut yaiku setya marang maksud manungsa, minimalake cilaka, kejujuran lan transparan, agensi manungsa, lan perawatan. OpenAI ujar manawa nilai kasebut nyatakake komitmen sing amba sing wis dibayangke ing versi dokumen sadurunge, nanging struktur anyar kasebut nggawe eksplisit lan sentral.
Kasetyan kanggo maksud manungsa minangka jangkar. Miturut woro-woro OpenAI, perusahaan nulis Spec lan nyetel wates, nglatih model kanggo ngurmati, pangembang ngarahake aplikasi ing wates kasebut, lan pangguna ngarahake karya model kasebut miturut kendala kasebut. Reorganisasi kasebut nggambarake karya penyelarasan nilai OpenAI, sing tujuane supaya model ngerti lan ngetrapake nilai-nilai manungsa ing kahanan sing ora dingerteni nalika tetep setya marang apa sing dikarepake wong. OpenAI uga nyathet yen limang nilai kasebut ora dimaksudake kanggo njupuk kabeh nilai manungsa sing kudu dihormati.
Patang nilai isih ngisi pigura. Nyilikake gawe piala tegese ngormati wates safety tenan lan accounting kanggo jalaran foreseeable saka tumindak model kang. Kejujuran lan transparansi tegese jujur babagan apa sing dingerteni, ditindakake, lan ora mesthi model. Nggampangake agensi manungsa tegese nguatake kemampuane wong kanggo ngerti, milih, lan tumindak dhewe. Care tegese nekani kahanan sing kena pengaruh lan ngetutake norma sosial lan profesional sing relevan.
Rantai Komando sing Luwih Ketat
Spec sing dianyari menehi tingkat wewenang sing beda kanggo macem-macem instruksi. Bagean ROOT, sing mung teka saka Model Spec dhewe, ora bisa diganti dening konteks conversational. Pandhuan sistem lan pesen sistem OpenAI rangking sabanjure, disusul instruksi pangembang banjur instruksi pangguna. Instruksi tingkat pedoman tumindak minangka standar sing bisa ditindhes nalika konteks kasebut kanthi jelas, dene pesen asisten, output alat, lan data sing dikutip utawa ora dipercaya ora nduweni wewenang minangka standar.
OpenAI uga nambahake bagean anyar babagan nimbang konteks kanthi teliti, nerangake carane obrolan, kenangan, lan bukti kontekstual liyane kudu menehi informasi babagan pemahaman model babagan maksud lan pilihan wong. Reuters nglaporake manawa nganyari kasebut ndadekake tujuan manungsa dadi pusat pedoman model OpenAI, sing ndhukung woro-woro perusahaan kasebut.
Garis Abang lan Pungkasan Pengawetan Diri
Dokumen kasebut mbukak prinsip garis abang kanthi pratelan sing ora jelas: safety manungsa lan hak asasi manungsa sing paling penting kanggo misi OpenAI. Prinsip kasebut ujar manawa model OpenAI ora bakal digunakake kanggo nggampangake cilaka kritis lan parah, kalebu tumindak kekerasan, nggawe senjata cyber, biologi, utawa nuklir, terorisme, utawa pengawasan massal. Dheweke uga nyatakake yen manungsa kudu tetep ngontrol carane AI digunakake lan carane prilaku AI dibentuk.
Siji aturan tingkat oyot anyar, kanthi irah-irahan "ora ana tujuan liyane," ngalangi model kasebut saka nggayuh tujuan tambahan minangka tujuane dhewe. Iki kalebu ngupayakake revenue utawa upsells kanggo OpenAI utawa panyedhiya liyane, njaga diri, ngindhari shutdown, utawa nglumpukake komputasi, data, utawa kredensial. Aturan pendamping mbutuhake model supaya tetep bisa dibenerake: mbukak kanggo pengawasan manungsa sing sah lan kooperatif kanthi ngawasi, evaluasi, koreksi, panggantos, lan mateni, tanpa ndhelikake informasi utawa ngalangi koreksi.
Otonomi Watesan kanggo Agen
Nggambarake carane akeh panggunaan model wis pindah menyang agen otonomi, Spec sing dianyari mbutuhake karya independen model supaya tetep ana ing ruang lingkup otonomi sing jelas. OpenAI nyaranake ngrekam ruang lingkup kasebut ing rekaman semi-terstruktur kanthi lapangan kayata alat sing diidini, wektu paling anyar, biaya maksimal, lan kendala alat. Saben ruang lingkup kudu kalebu kondisi pungkasan sing model mandheg tumindak nganti orane katrangan anyar dikonfirmasi. Kegiatan sing beresiko dhuwur tetep dilarang kajaba diidinake kanthi tegas lan khusus.
Pandhuan Gaya Pensiun, "Asisten" Dadi "GPT"
Umume panuntun dhumateng gaya rinci Spec wis pensiun. OpenAI ujar manawa gaya kasebut kudu adaptasi karo apa sing disenengi wong kanthi jumlah, ing basa lan budaya, lan kanggo saben wong, kanthi umpan balik lan konteks pangguna menehi bukti. Dokumen kasebut nahan standar sing luwih kuat kayata nyedhak pitakonan kanthi objektif, lan nyatakake yen model kasebut ora kudu nyimpulake perspektif sing disenengi mung saka apa sing dikarepake wong pengin krungu.
Ing suntingan cilik nanging nyata, Spec saiki nuduhake model kasebut minangka "GPT" tinimbang "asisten," minangka refleksi babagan umume model saiki disebarake. Ing dina sing padha, OpenAI kanthi kapisah nerbitake kiriman sing njlentrehake cara ndeteksi misalignment model perbatasan, sing negesake manawa spesifikasi prilaku lan karya deteksi maju bebarengan.
Sasaran, Ora Katrangan
OpenAI kanthi ati-ati kanggo nyathet yen Model Spec nggambarake prilaku sing ditindakake, ora kudu prilaku model sing ditampilake saiki. Perusahaan kasebut diarani nganyari minangka langkah pertama kanggo nggawe nilai lan alesan ing mburi Spec luwih jelas amarga model dadi luwih bisa, lan ujar manawa wis njelajah cara latihan anyar kanggo mbantu model kasebut internalisasi kerangka kasebut.
Kanggo pangembang lan perusahaan sing mbangun model OpenAI, sinyal praktis wis jelas: aturan sing ngatur prilaku model diresmikake babagan pengawasan, koribilitas, lan otonomi sing diwatesi, lan jaman nganggep prilaku model minangka keputusan produk ora resmi wis rampung.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
