OpenAI hat am Donnerstag seinen bisher detailliertesten Bericht darüber veröffentlicht, wie es „kontradiktorische Destillation“ – die unbefugte Nutzung der Ausgaben eines Frontier-Modells zum Trainieren eines konkurrierenden Systems – erkennt und unterbricht und mehreren Berichten zufolge damit begonnen hat, von Gateways und Wiederverkäufern von Drittanbietern die Einholung seiner Genehmigung zu verlangen, bevor es direkten Zugriff auf seine Modelle anbietet.

Die Schritte, die in einem OpenAI-Blogbeitrag mit dem Titel „Bekämpfung der gegnerischen Destillation“ beschrieben und von Semafor und eWeek berichtet werden, stellen eine deutliche Verschärfung der Art und Weise dar, wie das Unternehmen kontrolliert, wer die Fähigkeiten seiner Modelle neu verteilen kann – eine Verschiebung mit echten Konsequenzen für die Entwickler, Start-ups und Unternehmen, die über Vermittler auf OpenAI-Systeme zugreifen.

Warum OpenAI die Destillation als Sicherheitsproblem behandelt

Die Destillation ist eine Standardtechnik des maschinellen Lernens, bei der ein Modell aus den Ergebnissen eines anderen Modells lernt. OpenAI stellt fest, dass es an sich weder illegal noch ungewöhnlich ist. Das Anliegen des Unternehmens ist das, was es als gegnerische Destillation bezeichnet: Ein Akteur nutzt die Ergebnisse eines Frontier-Modells ohne Genehmigung, um ein anderes Modell mit ähnlichen Fähigkeiten zu trainieren, und setzt es dann ohne vergleichbare Sicherheitsmaßnahmen ein.

In seinem Blogbeitrag argumentiert OpenAI, dass das Risiko in Bereichen mit doppeltem Verwendungszweck wie Cybersicherheit und Biologie am deutlichsten sei. Ein Modell, das Verteidigern hilft, Software-Schwachstellen zu finden, könnte, sobald seine Fähigkeiten auf ein System mit schwächeren Leitplanken übertragen werden, einem Angreifer dabei helfen, diese auszunutzen. „Ein Gegner könnte die Cyber-Fähigkeiten eines Modells herausfiltern und das resultierende Modell nutzen, um bei der Durchführung von Cyberangriffen zu helfen, bei denen das ursprüngliche Modell nicht mitgeholfen hätte“, schrieb das Unternehmen.

Schutz der Gedankenkette

Im Zentrum der Verteidigung von OpenAI steht das, was es geschütztes Denken nennt: die Zwischenschritte – die Gedankenkette –, die ein Modell intern generiert, während es auf eine Antwort hinarbeitet. Diese Spuren, erklärt das Unternehmen, können Informationen enthalten, die in der endgültigen Antwort weggelassen werden, was sie als Trainingsdaten für das Modell eines anderen Labors besonders wertvoll macht.

OpenAI sagt, dass es seine Abwehrkräfte gegen die Extraktion von Begründungsspuren in GPT-6.2 Astra und GPT-6.2 Sol gestärkt hat. In einer internen adaptiven Bewertung mithilfe von automatisiertem Red-Teaming berichtete das Unternehmen, dass die durchschnittliche Angriffserfolgsrate zur Wiederherstellung geschützter Argumente von 54,0 % gegen GPT-6 Astra mit seinen ursprünglichen Schutzmaßnahmen auf 0,2 % gegen GPT-6.2 Astra mit den aktualisierten Schutzmaßnahmen gesunken ist.

Was die interne Cyber-Studie ergab

Das Unternehmen teilte auch Ergebnisse einer internen Studie darüber mit, wie Cyber-Fähigkeiten während der Destillation übertragen werden. Die Schülermodelle wurden auf die Flugbahnen abgestimmt, die von Lehrermodellen erstellt wurden, die sich mit Codierung und defensiven Cybersicherheitsaufgaben beschäftigten. Studenten, die auf exakte Argumentationsspuren trainiert wurden, schnitten im Allgemeinen besser ab als Studenten, die nur auf Argumentationszusammenfassungen trainiert wurden, sowohl nach überwachter Feinabstimmung als auch – bei den größten getesteten Inferenzbudgets – nach einer weiteren Runde des verstärkenden Lernens, gemäß den Benchmarks, die OpenAI neben dem Beitrag angezeigt hat.

Die Implikation ist ernüchternd für jeden, der hofft, dass die Übertragung von Fähigkeiten durch die Veröffentlichung bereinigter Ergebnisse eingedämmt werden kann: Selbst Interaktionen, die gemäß Nutzungsrichtlinien zulässig sind, können einem Schüler insgesamt Modellfähigkeiten vermitteln, die über die Aufgaben hinausgehen, die der Lehrer ursprünglich ausgeführt hat.

Gateways und Wiederverkäufer benötigen jetzt eine Genehmigung

Die technischen Maßnahmen gehen mit einer Änderung der Politik einher. Ab Donnerstag verlangt OpenAI, dass Router und Gateways für KI-Modelle, die Dritten direkten Zugriff auf seine Modelle ermöglichen, eine vorherige Genehmigung einholen müssen, berichtete eWeek. Die Anforderung baut auf einer Ankündigung des Unternehmens vom Oktober auf, in der dargelegt wird, wie Sicherheitsmaßnahmen gelten sollen, wenn Kunden direkt oder über Hosting-Partner und Wiederverkäufer auf seine Modelle zugreifen.

Laut der eWeek-Zusammenfassung dieses Rahmenwerks wird von den teilnehmenden Diensten erwartet, dass sie vergleichbare Standards einhalten, sodass Benutzer nicht einfach den Anbieter wechseln können, um Beschränkungen zu umgehen. Die Maßnahmen umfassen drei Phasen: Risikobewertungen und Tests gegen Umgehungsversuche vor dem Einsatz; Überwachung während der Nutzung, wobei von den Partnern erwartet wird, dass sie verdächtige Aktivitäten untersuchen; und Durchsetzungsmaßnahmen nach Verstößen. Semafor bezeichnete die Änderung als eine verstärkte Kontrolle von OpenAI über ein Reseller-Ökosystem, das rund um seine API schnell gewachsen ist.

Was es für Entwickler bedeutet

Für Entwickler bedeutet der praktische Effekt eine neue Compliance-Frage, die zur Due Diligence des Anbieters hinzugefügt werden muss: ob ein Vermittler, der OpenAI-Modelle anbietet, tatsächlich dazu berechtigt ist. Unternehmen, die Datenverkehr über Aggregatoren weiterleiten, sollten den Genehmigungsstatus ihres Anbieters und dessen Umgang mit Anmeldeinformationen und Daten überprüfen, rät eWeek.

Für die gesamte Branche ist die Ankündigung ein Signal dafür, dass Modellanbieter zunehmend die Kontrolle abgeleiteter Fähigkeiten – und nicht nur die Modelle selbst – als den entscheidenden Umfang betrachten. Destillationsstreitigkeiten sind in den letzten Jahren überall auf dem Gebiet aufgeflammt, und OpenAI formuliert seine Reaktion nun nicht mehr als Lizenzstreit, sondern als Sicherheitsanforderung, indem es die Verteidigungsmaßnahmen bei der Destillation mit den Kontrollen in Einklang bringt, die es auf biologische und Cybersicherheitsrisiken anwendet.

Der Weg in die Zukunft

OpenAI sagt, dass es weiterhin untersuchen wird, wie viel Fähigkeitstransfer zwischen verschiedenen Studentenmodellen und Destillationsrezepten erfolgt, und lädt andere Labore ein, auf seiner Erkennungs- und Durchsetzungsarbeit aufzubauen. Ob Konkurrenten vergleichbare Gateway-Genehmigungssysteme einführen – und ob Benutzer die zusätzlichen Reibungen akzeptieren – wird dabei helfen, zu bestimmen, wie die nächste Generation von KI-Systemen aufgebaut wird und wer sie bauen darf.

Bleiben Sie der Zeit immer einen Schritt voraus

Möchten Sie aktuelle Informationen zu KI-Modellen, Sicherheit und Richtlinien erhalten? Verfolgen Sie aktuelle KI-Nachrichten auf AI Buzz Wire.

Weitere KI-Neuigkeiten lesen →