Google DeepMind hat ein neues Institut gegründet, das sich der Ausweitung der Diskussion über künstliche allgemeine Intelligenz widmet – und seine Eröffnungsaufsätze enthalten einen konkreten Vorschlag von Demis Hassabis für ein von den USA geführtes Gremium, das bahnbrechende KI-Modelle vor dem Einsatz bewerten soll.
Das DeepMind Institute, das am Mittwoch von Google und Google DeepMind-Forschern ins Leben gerufen wurde, listet laut TechCrunch den Mitbegründer von DeepMind, Shane Legg, als seinen geschäftsführenden Herausgeber auf, zusammen mit dem Google-Manager James Manyika und dem Vorsitzenden von Google DeepMind, Demis Hassabis, als Direktoren. Weitere Informationen zu dieser Geschichte finden Sie in unserer neueste KI-Entwicklungen.
Raum für Meinungsverschiedenheiten
Der erklärte Zweck des Instituts besteht darin, echte Meinungsverschiedenheiten aufzudecken – auch innerhalb von Google selbst. „Sie werden nicht immer einer Meinung sein und wahrscheinlich ihre Meinung ändern, wenn an der schnelllebigen Grenze immer mehr Daten und Informationen ans Licht kommen“, heißt es in der Ankündigung.
Die erste Sammlung umfasst vier Aufsätze zu wirtschaftspolitischen Maßnahmen zur Bewältigung potenzieller AGI-Störungen, zur Bewahrung menschenlesbarer Modellargumente, zu Prinzipien für das menschliche Gedeihen und zu einem Rahmenwerk zur Bewertung von Grenz-KI-Modellen.
Die Institutionalisierung offener Meinungsverschiedenheiten ist ein ungewöhnlicher Schritt für ein KI-Labor eines Unternehmens, in dem öffentliche Nachrichten in der Regel streng kontrolliert werden. Absichtlich bietet das Institut den Google-Forschern einen Ort, an dem sie Positionen diskutieren können, die im Widerspruch zu den kommerziellen Interessen des Unternehmens – oder untereinander – stehen könnten.
Der Transparenz-Essay: Sehen Sie sich die „undurchsichtige serielle Tiefe“ an
In einem der vier Aufsätze der DeepMind-Sicherheitsforscher Rohin Shah und Anca Dragan wird argumentiert, dass das schrumpfende Transparenzfenster der KI – die Fähigkeit, die schrittweisen Überlegungen eines Modells zu sehen und zu überprüfen – nicht unvermeidlich ist, auch wenn neue Architekturen die Überwachung der leistungsstärksten Modelle erschweren.
Die Autoren sagen, dass Entwickler und Regulierungsbehörden die Sicherheitskompromisse direkt angehen sollten. Konkret könnte das bedeuten, die sogenannte „undurchsichtige serielle Tiefe“ zu begrenzen – den Umfang der sequentiellen Berechnungen, die ein Modell durchführen kann, ohne eine lesbare Argumentationsspur zu erzeugen – oder von Entwicklern den Nachweis zu verlangen, dass weniger transparente Systeme genauso überwachbar bleiben wie interpretierbare.
Der Vorschlag ist bemerkenswert, weil er den Verlust der Interpretierbarkeit als Design- und Politikentscheidung und nicht als unvermeidbare Folge der Größenordnung behandelt und so die Tür für Anforderungen öffnet, die in die Verordnung aufgenommen werden könnten.
Hassabis' Vorschlag: ein US-Grenzstandardgremium
Der folgenreichste Aufsatz dürfte der von Hassabis sein. Er schlägt ein von den USA geführtes Gremium für Grenz-KI-Standards vor, das die Aufgabe hat, die fortschrittlichsten KI-Modelle zu bewerten. Im Rahmen des Rahmenwerks würden Entwickler Modelle zunächst bis zu 30 Tage vor der Veröffentlichung freiwillig zur Überprüfung einreichen. Sobald sich das Bewertungssystem als wirksam erwiesen hat, könnte das Bestehen seiner Tests eine Voraussetzung für den Einsatz von Grenzmodellen in den Vereinigten Staaten werden.
Das Gremium würde zunächst in Absprache mit KI-Unternehmen Bewertungen entwerfen, aber schließlich unabhängige, nicht offengelegte Bewertungen entwickeln – was der Aufsatz als „ausgehaltene“ Tests bezeichnet –, um zu verhindern, dass Labore ihre Modelle an bekannte Benchmarks anpassen, eine gut dokumentierte Fehlerart öffentlicher Bewertungssysteme.
Hassabis ließ auch die Tür für eine Eskalation offen: Das Rahmenwerk könnte „verschärft werden, wenn der Ernst der Lage es erfordert“, was möglicherweise eine koordinierte Verlangsamung unter den KI-Entwicklern an vorderster Front einschließen könnte.
Warum die anderen beiden Aufsätze wichtig sind
Die verbleibenden zwei Aufsätze – über Wirtschaftspolitik zur Bewältigung von AGI-Störungen und über Prinzipien für das Gedeihen des Menschen – runden eine Sammlung ab, in der AGI als ein gesamtgesellschaftliches Problem und nicht als rein technisches Problem behandelt wird. Wirtschaftliche Verdrängung ist seit langem das greifbarste öffentliche Anliegen im Zusammenhang mit fortgeschrittener KI, und wenn man es mit Bewertungspolitik und Interpretierbarkeit verknüpft, legt das Institut nahe, dass die politischen Entscheidungsträger die einzelnen Teile als eine Tagesordnung und nicht als separate Debatten betrachten.
Diese Breite ist auch ein Signal für die Positionierung von Google. Das Unternehmen konkurriert um Unternehmenskunden und Regierungsaufträge und argumentiert gleichzeitig, dass Grenzsysteme einer externen Prüfung bedürfen. Die Kernanliegen des Instituts sind es, die Spannungen zu verbreiten, statt sie zu glätten.
Vom Anliegen zu konkreten Vorschlägen
Die Essays erscheinen zu einem Zeitpunkt, an dem sich die Sicherheitsdebatte der Branche von allgemeinen Besorgnisbekundungen hin zu spezifischen Mechanismen verlagert: Offenlegungspflichten, externe Kontrolle und – wenn Schutzmaßnahmen ins Hintertreffen geraten – koordinierte Verlangsamungen. Dieser Wandel beschleunigte sich diese Woche, als Branchenführer laut TechCrunch Elemente der Forderung von Anthropic-CEO Dario Amodei befürworteten, die bahnbrechende KI-Entwicklung „zu beschleunigen“.
Der Zeitpunkt ist wichtig. Regierungen auf beiden Seiten des Atlantiks überlegen, wie sie Systeme überwachen sollen, deren Fähigkeiten sich schneller weiterentwickeln als die Evaluierungsinfrastruktur. Ein Vorschlag, der aus einem führenden KI-Labor stammt – und eine sorgfältige Prüfung vor der Veröffentlichung beinhaltet – gibt politischen Entscheidungsträgern eine Vorlage an die Hand, die die Branche selbst nominell gebilligt hat und die in der Vergangenheit eine Voraussetzung für eine sinnvolle KI-Regulierung war.
Was Sie sehen sollten
Die redaktionelle Unabhängigkeit des Instituts von Google wird der erste Test sein. Wenn die Aufsätze weiterhin Positionen enthalten, die im Widerspruch zur kommerziellen Roadmap von Google stehen – wie es im Transparenzaufsatz wohl der Fall ist –, könnte der Veranstaltungsort zu einem ernsthaften Beitrag zur AGI-Politikdebatte werden. Wenn es in Richtung Corporate Messaging abdriftet, wird es ein weiterer PR-Kanal in einem überfüllten Feld sein.
Wie auch immer, die Substanz liegt jetzt auf dem Tisch: Anforderungen an die Evaluierung vor der Veröffentlichung, aufgeschobene Tests und sogar eine koordinierte Verlangsamung werden von einer der mächtigsten Persönlichkeiten der KI öffentlich gefordert. Die Frage ist nicht mehr, ob Grenzmodelle unabhängig evaluiert werden sollten, sondern wer die Evaluierung durchführt – und nach welchem Zeitplan.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
