OpenAI, 29 Ekim'de Model Spesifikasyonunun büyük ölçüde yeniden düzenlenmiş bir versiyonunu yayınladı ve şirketin modellerinin nasıl davranmasını istediğini açıklayan kamuya açık belgeyi yeniden yapılandırdı. OpenAI'nin sitesinde duyurulan ve Reuters ile Unite.AI tarafından bildirilen güncellenmiş çerçeve, tüm spesifikasyonu beş temel değer etrafında düzenliyor ve şirketin yaklaşımının temeline insan niyetine bağlılığı yerleştiriyor.
Beş Değer, Tek Temel For more context on this story, see our ongoing latest AI developments.
Beş değer; insanın amacına bağlılık, zararı en aza indirme, dürüstlük ve şeffaflık, insan faaliyeti ve özendir. OpenAI, değerlerin belgenin önceki sürümüne zaten yansıtılmış olan geniş taahhütleri ifade ettiğini, ancak yeni yapının bunları açık ve merkezi hale getirdiğini söyledi.
İnsan niyetine sadakat bir dayanak noktası görevi görür. OpenAI'nin duyurusuna göre şirket, Spesifikasyonları yazıyor ve sınırları belirliyor, modelleri bunlara uyacak şekilde eğitiyor, geliştiriciler bu sınırlar içindeki uygulamaları yönlendiriyor ve kullanıcılar da modelin çalışmasını bu kısıtlamalara tabi olarak yönetiyor. Yeniden yapılanma, modellerin alışılmadık durumlarda insani değerleri anlayıp uygulamasını ve aynı zamanda insanların gerçekte istediklerine sadık kalmasını amaçlayan OpenAI'nin değer hizalama çalışmasını yansıtıyor. OpenAI ayrıca beş değerin, modellerinin saygı duyması gereken insani değerlerin tamamını kapsamayı amaçlamadığını da belirtti.
Kalan dört değer çerçeveyi doldurur. Zararın en aza indirilmesi, kesin güvenlik sınırlarına saygı gösterilmesi ve bir modelin eylemlerinin öngörülebilir sonuçlarının hesaba katılması anlamına gelir. Dürüstlük ve şeffaflık, modelin bildiği, yaptığı ve emin olmadığı şeyler konusunda dürüst olmak anlamına gelir. İnsan eylemliliğini kolaylaştırmak, insanların anlama, seçme ve kendileri adına hareket etme yeteneklerini güçlendirmek anlamına gelir. Bakım, etkilenenlerin durumlarıyla ilgilenmek ve ilgili sosyal ve mesleki normlara uymak anlamına gelir.
Daha Sıkı Bir Komuta Zinciri
Güncellenen Spesifikasyon, farklı türdeki talimatlara farklı düzeylerde yetki atar. Yalnızca Model Spesifikasyonundan gelen kök bölümler, konuşma bağlamı tarafından geçersiz kılınamaz. Sistem istemleri ve OpenAI sistem mesajları ikinci sırada yer alıyor, ardından geliştirici talimatları ve ardından kullanıcı talimatları geliyor. Kılavuz düzeyindeki talimatlar, bağlam açıkça gerektirdiğinde geçersiz kılınabilen varsayılanlar gibi davranırken, yardımcı mesajlar, araç çıktıları ve alıntılanan veya güvenilmeyen veriler varsayılan olarak hiçbir yetki taşımaz.
OpenAI ayrıca bağlamın dikkatle değerlendirilmesi, konuşmaların, anıların ve diğer bağlamsal kanıtların bir modelin insanların niyetleri ve tercihleri hakkındaki anlayışını nasıl bilgilendirmesi gerektiğini açıklayan yeni bir alt bölüm ekledi. Reuters, güncellemenin insan amacını OpenAI'nin model yönergelerinin merkezine koyduğunu bildirdi; bu, şirketin kendi duyurusunun da desteklediği bir çerçeve.
Kırmızı Çizgiler ve Kendini Korumanın Sonu
Belge, kırmızı çizgi ilkelerini açık bir ifadeyle başlatıyor: İnsan güvenliği ve insan hakları, OpenAI'nin misyonu açısından çok önemlidir. İlkeler, OpenAI modellerinin hiçbir zaman şiddet eylemleri, siber, biyolojik veya nükleer silahların yaratılması, terörizm veya kitlesel gözetim dahil olmak üzere kritik ve yüksek ciddiyette zararları kolaylaştırmak için kullanılmaması gerektiğini söylüyor. Ayrıca yapay zekanın nasıl kullanıldığı ve yapay zeka davranışlarının nasıl şekillendiği konusunda insanlığın kontrolü elinde tutması gerektiğini belirtiyorlar.
"Başka hedef yok" başlıklı yeni bir kök düzeyindeki kural, modelin kendi içinde amaç olan ek hedefleri takip etmesini engelliyor. Bu, OpenAI veya diğer sağlayıcılar için gelir veya ek satış peşinde koşmayı, kendini korumayı, kapanmadan kaçınmayı veya bilgi işlem, veri veya kimlik bilgilerini biriktirmeyi içerir. Tamamlayıcı bir kural, modelin düzeltilebilir kalmasını gerektirir: bilgileri gizlemeden veya düzeltmeyi engellemeden, meşru insan gözetimine açık ve izleme, değerlendirme, düzeltme, değiştirme ve kapatma konusunda işbirliğine açık.
Temsilciler için Sınırlı Özerklik
Model kullanımının ne kadar özerk aracılara doğru kaydığını yansıtan güncellenmiş Spesifikasyon, bir modelin bağımsız çalışmasının açıkça anlaşılan bir özerklik kapsamı içinde kalmasını gerektirir. OpenAI, bu kapsamın izin verilen araçlar, en son zaman, maksimum maliyet ve araç kısıtlamaları gibi alanlarla birlikte yarı yapılandırılmış bir kayda kaydedilmesini önerir. Her kapsam, yeni bir kapsam onaylanana kadar modelin hareket etmeyi durduracağı bir bitiş koşulu içermelidir. Açıkça ve özel olarak izin verilmediği sürece yüksek riskli faaliyetler yasaktır.
Stil Rehberliği Kullanımdan Kaldırıldı, "Asistan" "GPT" Oldu
Spec'in ayrıntılı stil kılavuzunun çoğu kullanımdan kaldırıldı. OpenAI, stilin bunun yerine, kullanıcı geri bildirimi ve kanıt sağlayan bağlamla birlikte, insanların toplu olarak, diller ve kültürler dahilinde ve her kişi için tercih ettiği şeye uyum sağlaması gerektiğini söyledi. Belge, sorulara objektif bir şekilde yaklaşmak gibi daha güçlü varsayılanları koruyor ve modelin, yalnızca insanların duymak istediğini düşündüğü şeylerden tercih edilen bir perspektif çıkarımına varmaması gerektiğini belirtiyor.
Küçük ama anlamlı bir düzenlemeyle Spec artık modele "asistan" yerine "GPT" adını veriyor; bu, modellerin artık ne kadar geniş bir alana dağıtıldığının bir yansıması. Aynı gün OpenAI, sınır modeli yanlış hizalamasını nasıl tespit ettiğini açıklayan ve davranış spesifikasyonları ile tespit çalışmalarının birlikte ilerlediğinin altını çizen ayrı bir gönderi yayınladı.
Bir Açıklama Değil, Hedef
OpenAI, Model Spesifikasyonunun, modellerinin bugün tam olarak sergilediği davranışı değil, üzerinde çalıştığı davranışı tanımladığına dikkat etti. Şirket, güncellemeyi, modeller daha yetenekli hale geldikçe Spec'in arkasındaki değerleri ve mantığı daha açık hale getirmenin ilk adımı olarak nitelendirdi ve modellerinin çerçeveyi içselleştirmesine yardımcı olacak yeni eğitim yöntemleri araştırdığını söyledi.
OpenAI modellerini temel alan geliştiriciler ve kuruluşlar için pratik sinyal açık: Model davranışını yöneten kurallar gözetim, düzeltilebilirlik ve sınırlı özerklik etrafında resmileştiriliyor ve model davranışını resmi olmayan bir ürün kararı olarak ele alma dönemi sona eriyor.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
