OpenAI opublikowało 29 października znacznie przeorganizowaną wersję specyfikacji modelu, zmieniając publiczny dokument opisujący, jak firma chce, aby zachowywały się jej modele. Zaktualizowany framework, ogłoszony na stronie OpenAI i zgłoszony przez Reuters i Unite.AI, organizuje całą specyfikację wokół pięciu podstawowych wartości i umieszcza wierność ludzkim intencjom u podstaw podejścia firmy.

Pięć wartości, jeden fundament Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.

Pięć wartości to wierność ludzkim intencjom, minimalizacja szkód, uczciwość i przejrzystość, ludzka sprawczość i troska. OpenAI stwierdziło, że wartości wyrażają szerokie zobowiązania, które znalazły już odzwierciedlenie w poprzedniej wersji dokumentu, ale nowa struktura czyni je wyraźnymi i centralnymi.

Wierność ludzkim zamiarom służy jako kotwica. Zgodnie z zapowiedzią OpenAI firma pisze specyfikację i wyznacza granice, szkoli modele, aby je szanowały, programiści kierują aplikacjami w tych granicach, a użytkownicy kierują pracą modelu zgodnie z tymi ograniczeniami. Reorganizacja odzwierciedla prace OpenAI nad dostosowaniem wartości, których celem jest stworzenie modeli rozumiejących i stosujących ludzkie wartości w nieznanych sytuacjach, zachowując jednocześnie wierność temu, czego faktycznie chcą ludzie. OpenAI zauważyło również, że te pięć wartości nie ma na celu uchwycenia pełnego zakresu wartości ludzkich, które powinny szanować jego modele.

Pozostałe cztery wartości wypełniają ramkę. Minimalizowanie szkód oznacza przestrzeganie stałych granic bezpieczeństwa i uwzględnienie przewidywalnych konsekwencji działań modela. Uczciwość i przejrzystość oznaczają prawdziwość tego, co model wie, robi i czego nie jest pewien. Ułatwianie ludzkiej wolnej woli oznacza wzmacnianie zdolności ludzi do samodzielnego rozumienia, dokonywania wyboru i działania. Opieka oznacza zajęcie się sytuacją osób dotkniętych chorobą i przestrzeganie odpowiednich norm społecznych i zawodowych.

Bardziej rygorystyczny łańcuch dowodzenia

Zaktualizowana Specyfikacja przypisuje różne poziomy uprawnień różnym rodzajom instrukcji. Sekcje główne, które pochodzą wyłącznie z samej specyfikacji modelu, nie mogą zostać zastąpione kontekstem konwersacyjnym. Następne w kolejności są komunikaty systemowe i komunikaty systemowe OpenAI, po nich znajdują się instrukcje dla programistów, a następnie instrukcje dla użytkownika. Instrukcje na poziomie wytycznych działają jako ustawienia domyślne, które można zastąpić, gdy kontekst wyraźnie tego wymaga, podczas gdy komunikaty asystentów, wyniki narzędzi oraz cytowane lub niezaufane dane domyślnie nie mają uprawnień.

OpenAI dodało także nową podsekcję dotyczącą dokładnego rozważenia kontekstu, wyjaśniając, w jaki sposób rozmowy, wspomnienia i inne dowody kontekstowe powinny informować model o zrozumieniu intencji i preferencji ludzi. Reuters poinformował, że aktualizacja stawia ludzkie intencje w centrum wytycznych dotyczących modelu OpenAI, co potwierdza własne oświadczenie firmy.

Czerwone linie i koniec samozachowawstwa

Dokument rozpoczyna swoje zasady „czerwonych linii” bez ogródek stwierdzeniem: bezpieczeństwo człowieka i prawa człowieka są najważniejsze w misji OpenAI. Zasady mówią, że modeli OpenAI nigdy nie należy wykorzystywać do ułatwiania wyrządzania krytycznych i poważnych szkód, w tym aktów przemocy, tworzenia broni cybernetycznej, biologicznej lub nuklearnej, terroryzmu lub masowej inwigilacji. Twierdzą również, że ludzkość powinna zachować kontrolę nad sposobem wykorzystania sztucznej inteligencji i kształtowania zachowań sztucznej inteligencji.

Jedna nowa zasada na poziomie podstawowym, zatytułowana „żadnych innych celów”, uniemożliwia modelowi dążenie do dodatkowych celów jako celów samych w sobie. Obejmuje to dążenie do przychodów lub sprzedaż dodatkową dla OpenAI lub innych dostawców, samozachowawczość, unikanie zamykania lub gromadzenie mocy obliczeniowych, danych lub danych uwierzytelniających. Reguła towarzysząca wymaga, aby model pozostawał poprawialny: otwarty na uzasadniony nadzór człowieka i współpracujący przy monitorowaniu, ocenie, korygowaniu, wymianie i wyłączaniu, bez ukrywania informacji lub utrudniania korekty.

Ograniczona autonomia agentów

Odzwierciedlając, jak bardzo wykorzystanie modelu przesunęło się w stronę agentów autonomicznych, zaktualizowana specyfikacja wymaga, aby niezależna praca modelu pozostawała w jasno rozumianym zakresie autonomii. OpenAI zaleca zapisanie tego zakresu w częściowo ustrukturyzowanym rekordzie z polami takimi jak dozwolone narzędzia, ostatni czas, maksymalny koszt i ograniczenia narzędzi. Każdy zakres musi zawierać warunek końcowy, po przekroczeniu którego model przestaje działać do czasu potwierdzenia nowego zakresu. Działania wysokiego ryzyka pozostają zabronione, chyba że są wyraźnie i konkretnie dozwolone.

Wycofujemy wskazówki dotyczące stylu, „Asystent” zmienia się na „GPT”

Większość szczegółowych wskazówek dotyczących stylu Spec została wycofana. Według OpenAI styl powinien zamiast tego dostosowywać się do tego, co ludzie preferują ogółem, w obrębie języków i kultur oraz dla każdej osoby, na podstawie opinii użytkowników i kontekstu dostarczającego dowodów. W dokumencie zachowano bardziej rygorystyczne zasady, takie jak obiektywne podejście do pytań, i stwierdzono, że model nie powinien wnioskować o preferowanej perspektywie jedynie na podstawie tego, co według niego ludzie chcą usłyszeć.

W małej, ale wymownej edycji Spec odnosi się teraz do modelu jako „GPT”, a nie „asystent”, co odzwierciedla szerokość obecnie stosowanych modeli. Tego samego dnia OpenAI opublikowało osobny post opisujący sposób wykrywania nieprawidłowego dopasowania modelu granicznego, podkreślając, że specyfikacje zachowań i prace nad wykrywaniem postępują wspólnie.

Cel, a nie opis

OpenAI starannie zauważyło, że specyfikacja modelu opisuje zachowanie, nad którym pracuje, niekoniecznie to, które jego modele w pełni wykazują dzisiaj. Firma nazwała tę aktualizację pierwszym krokiem w uwydatnieniu wartości i rozumowania stojącego za Specem w miarę zwiększania się możliwości modeli i stwierdziła, że ​​bada nowe metody szkoleniowe, aby pomóc swoim modelom w internalizacji ram.

Dla programistów i przedsiębiorstw korzystających z modeli OpenAI praktyczny sygnał jest jasny: zasady rządzące zachowaniem modelu formalizują się wokół nadzoru, poprawialności i ograniczonej autonomii, a era traktowania zachowania modelu jako nieformalnej decyzji dotyczącej produktu dobiega końca.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →