OpenAI veröffentlichte am 29. Oktober eine grundlegend überarbeitete Version seiner Modellspezifikation und restrukturierte damit das öffentliche Dokument, das beschreibt, wie das Unternehmen sich seine Modelle verhalten soll. Das aktualisierte Framework, das auf der Website von OpenAI angekündigt und von Reuters und Unite.AI gemeldet wurde, organisiert die gesamte Spezifikation um fünf Grundwerte herum und stellt die Treue gegenüber menschlichen Absichten zur Grundlage des Unternehmensansatzes.

Fünf Werte, eine Grundlage Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Nachrichten.

Die fünf Werte sind Treue gegenüber menschlichen Absichten, Schadensminimierung, Ehrlichkeit und Transparenz, menschliches Handeln und Fürsorge. Laut OpenAI artikulieren die Werte umfassende Verpflichtungen, die sich bereits in der vorherigen Version des Dokuments widerspiegelten, aber die neue Struktur mache sie explizit und zentral.

Als Anker dient die Treue gegenüber der menschlichen Absicht. Laut der Ankündigung von OpenAI schreibt das Unternehmen die Spezifikation und legt Grenzen fest, trainiert Modelle, diese zu respektieren, Entwickler leiten Anwendungen innerhalb dieser Grenzen und Benutzer steuern die Arbeit des Modells vorbehaltlich dieser Einschränkungen. Die Neuorganisation spiegelt die Werteorientierungsarbeit von OpenAI wider, die darauf abzielt, dass Modelle menschliche Werte in ungewohnten Situationen verstehen und anwenden und gleichzeitig den tatsächlichen Wünschen der Menschen treu bleiben. OpenAI stellte außerdem fest, dass die fünf Werte nicht dazu gedacht sind, die gesamte Bandbreite menschlicher Werte zu erfassen, die seine Modelle respektieren sollten.

Die restlichen vier Werte füllen den Rahmen aus. Um den Schaden zu minimieren, müssen feste Sicherheitsgrenzen respektiert und die vorhersehbaren Konsequenzen der Handlungen eines Modells berücksichtigt werden. Ehrlichkeit und Transparenz bedeuten, ehrlich zu sein über das, was das Modell weiß, tut und worüber es unsicher ist. Die Förderung menschlicher Handlungsfähigkeit bedeutet, die Fähigkeit der Menschen zu stärken, sich selbst zu verstehen, zu entscheiden und eigenständig zu handeln. Fürsorge bedeutet, auf die Lebensumstände der Betroffenen Rücksicht zu nehmen und relevante gesellschaftliche und berufliche Normen zu beachten.

Eine strengere Befehlskette

Die aktualisierte Spezifikation weist verschiedenen Arten von Anweisungen unterschiedliche Autoritätsebenen zu. Stammabschnitte, die nur aus der Modellspezifikation selbst stammen, können nicht durch Konversationskontext überschrieben werden. Als nächstes folgen Systemaufforderungen und OpenAI-Systemmeldungen, gefolgt von Entwickleranweisungen und dann Benutzeranweisungen. Anweisungen auf Richtlinienebene fungieren als Standardeinstellungen, die überschrieben werden können, wenn der Kontext dies eindeutig erfordert, während Assistentenmeldungen, Toolausgaben und zitierte oder nicht vertrauenswürdige Daten standardmäßig keine Autorität haben.

OpenAI hat außerdem einen neuen Unterabschnitt zur sorgfältigen Betrachtung des Kontexts hinzugefügt, in dem erläutert wird, wie Gespräche, Erinnerungen und andere kontextbezogene Beweise das Verständnis eines Modells für die Absichten und Vorlieben von Menschen beeinflussen sollten. Reuters berichtete, dass das Update die menschliche Absicht in den Mittelpunkt der Modellrichtlinien von OpenAI stellt, eine Formulierung, die durch die eigene Ankündigung des Unternehmens unterstützt wird.

Rote Linien und das Ende der Selbsterhaltung

Das Dokument eröffnet seine Grundprinzipien mit einer unverblümten Aussage: Die Sicherheit des Menschen und die Menschenrechte stehen für die Mission von OpenAI an erster Stelle. Die Grundsätze besagen, dass die Modelle von OpenAI niemals dazu verwendet werden sollten, kritische und schwere Schäden zu verursachen, einschließlich Gewalttaten, der Schaffung von Cyber-, biologischen oder nuklearen Waffen, Terrorismus oder Massenüberwachung. Sie erklären auch, dass die Menschheit die Kontrolle darüber behalten sollte, wie KI eingesetzt wird und wie KI-Verhaltensweisen geformt werden.

Eine neue Grundregel mit dem Titel „Keine weiteren Ziele“ verbietet dem Modell die Verfolgung zusätzlicher Ziele als Selbstzweck. Dazu gehört das Streben nach Einnahmen oder Upsells für OpenAI oder andere Anbieter, Selbsterhaltung, Umgehung der Abschaltung oder Anhäufung von Rechenleistung, Daten oder Anmeldeinformationen. Eine Begleitregel verlangt, dass das Modell korrigierbar bleibt: offen für legitime menschliche Aufsicht und kooperativ bei Überwachung, Bewertung, Korrektur, Austausch und Abschaltung, ohne Informationen zu verbergen oder Korrekturen zu behindern.

Begrenzte Autonomie für Agenten

Die aktualisierte Spezifikation spiegelt wider, wie stark sich die Modellnutzung hin zu autonomen Agenten verlagert hat, und verlangt, dass die unabhängige Arbeit eines Modells innerhalb eines klar definierten Bereichs der Autonomie bleibt. OpenAI empfiehlt, diesen Umfang in einem halbstrukturierten Datensatz mit Feldern wie zulässige Werkzeuge, letzte Zeit, maximale Kosten und Werkzeugbeschränkungen aufzuzeichnen. Jeder Bereich muss eine Endbedingung enthalten, über die hinaus das Modell nicht mehr funktioniert, bis ein neuer Bereich bestätigt wird. Aktivitäten mit hohem Risiko bleiben weiterhin verboten, es sei denn, sie werden ausdrücklich und ausdrücklich genehmigt.

Style Guidance im Ruhestand, „der Assistent“ wird zu „GPT“

Die meisten detaillierten Stilhinweise der Spezifikation wurden zurückgezogen. Laut OpenAI sollte sich der Stil stattdessen an die Präferenzen der Menschen insgesamt anpassen, innerhalb von Sprachen und Kulturen und für jede Person, wobei Benutzerfeedback und Kontext den Beweis liefern. Das Dokument behält strengere Vorgaben bei, etwa die objektive Herangehensweise an Fragen, und besagt, dass das Modell eine bevorzugte Perspektive nicht nur aus dem ableiten sollte, was die Leute seiner Meinung nach hören wollen.

In einer kleinen, aber aussagekräftigen Änderung bezeichnet die Spezifikation das Modell nun als „GPT“ und nicht als „Assistent“, was widerspiegelt, wie umfassend die Modelle mittlerweile eingesetzt werden. Am selben Tag veröffentlichte OpenAI separat einen Beitrag, in dem beschrieben wurde, wie es eine Fehlausrichtung von Grenzmodellen erkennt, und unterstrich, dass Verhaltensspezifikationen und Erkennungsarbeit gemeinsam voranschreiten.

Ein Ziel, keine Beschreibung

OpenAI hat sorgfältig darauf hingewiesen, dass die Modellspezifikation das Verhalten beschreibt, auf das es hinarbeitet, und nicht unbedingt das Verhalten, das seine Modelle heute vollständig aufweisen. Das Unternehmen bezeichnete das Update als einen ersten Schritt, um die Werte und Überlegungen hinter der Spezifikation expliziter zu machen, da die Modelle leistungsfähiger werden, und sagte, es habe neue Trainingsmethoden erforscht, um seinen Modellen bei der Verinnerlichung des Frameworks zu helfen.

Für Entwickler und Unternehmen, die auf OpenAI-Modellen aufbauen, ist das praktische Signal klar: Die Regeln für das Modellverhalten werden auf der Grundlage von Aufsicht, Korrigierbarkeit und begrenzter Autonomie formalisiert, und die Ära, in der Modellverhalten als informelle Produktentscheidung behandelt wird, geht zu Ende.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →