OpenAI kündigte am Dienstag seine Unterstützung für den Gesetzentwurf 1119 des kalifornischen Senats an, ein Gesetz, das umfassende Schutzmaßnahmen für die Nutzung künstlicher Intelligenz durch junge Menschen festlegen würde, und forderte Gouverneur Gavin Newsom auf, den Gesetzentwurf zu unterzeichnen.

Die Unterstützung erfolgte in einem öffentlichen Brief an Newsom, verfasst von Ann O'Leary, OpenAIs Vizepräsidentin für globale Politik, und einem auf der Website des Unternehmens veröffentlichten Blogbeitrag. Darin beschreibt das Unternehmen SB 1119 als einen sinnvollen Mittelweg: starker Schutz für Benutzer unter 18 Jahren, ohne Jugendliche von Tools abzuhalten, die ihnen helfen sollen, zu lernen, etwas zu schaffen und sich auf die Zukunft vorzubereiten. Die Ankündigung ist die jüngste in einer Reihe von KI-Politikgeschichten, die den Umgang von Regierungen mit den jüngsten KI-Nutzern verändern. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Nachrichten.

Warum OpenAI die Regulierung annimmt – jedenfalls diese hier

Die Positionierung von OpenAI basiert auf einer bemerkenswerten Statistik aus seinem eigenen Beitrag: Fast neun von zehn Teenagern, die ChatGPT nutzen, wenden sich in einer bestimmten Woche an ChatGPT, um zu lernen, sich zu informieren, Fähigkeiten aufzubauen oder Produktivität zu steigern. „Teenager sind die erste Generation, die mit KI aufwächst“, schrieb das Unternehmen und argumentierte, dass Chancen mit der Verantwortung einhergehen, Erfahrungen entsprechend den unterschiedlichen Entwicklungsbedürfnissen junger Menschen zu gestalten.

Das Unternehmen weist ausdrücklich darauf hin, dass das föderale Vakuum seine Haltung motiviert. „In Ermangelung bundesstaatlicher Maßnahmen hat Kalifornien die Möglichkeit, einen strengen Standard für die KI-Sicherheit von Jugendlichen festzulegen“, heißt es in dem Brief an Newsom. OpenAI sagt, dass der Gesetzentwurf auf den Verpflichtungen aufbaut, die CEO Sam Altman letztes Jahr eingegangen ist, als er die Grundsätze des Unternehmens zur Sicherheit von Teenagern sowie die Arbeit des Unternehmens am Parents & Kids Safe AI Act darlegte.

Was SB 1119 erfordern würde

Laut der Zusammenfassung des Gesetzentwurfs von OpenAI würde SB 1119 KI-Unternehmen dazu verpflichten:

  • Bestimmen Sie das Alter eines Benutzers, bevor Sie Zugriff gewähren;
  • Sicherheitsrisiken identifizieren und angehen, bevor ein Produkt jungen Menschen zur Verfügung gestellt wird;
  • Diese Bemühungen werden unabhängigen Prüfungen unterzogen;
  • Jugendliche vor schädlichen Inhalten schützen, einschließlich selbstverletzender und sexuell ausbeuterischer Inhalte sowie anderen risikoreichen Interaktionen;
  • Geben Sie Eltern Hilfsmittel, um den Gebrauch durch ihre Kinder anzuleiten und einzuschränken;
  • Jugendliche mit Krisenunterstützungsressourcen verbinden, wenn ernsthafte Sicherheitsrisiken auftreten; und
  • Beschränken Sie gezielte Werbung und schützen Sie die persönlichen Daten junger Menschen.

Für Benutzer im Alter von 13 bis 17 Jahren würden diese Schutzmaßnahmen automatisch gelten – nicht als optionale Einstellungen, die Jugendliche abschalten können.

„KI ist kein soziales Medium“

Eines der folgenschwereren Argumente im Brief von OpenAI ist eine Unterscheidung, die der Gesetzgeber im Gesetzentwurf selbst verankert hat: KI ist kein soziales Medium. Anstatt die werbegesteuerten Regeln, die für Plattformen wie Instagram entwickelt wurden, auf Chatbots und Lerntools zu übertragen, passt SB 1119 die Schutzmaßnahmen so an, dass die von OpenAI als pädagogisch und sicherheitskritisch bezeichneten Funktionen erhalten bleiben – einschließlich dessen, was es als verantwortungsvolle Nutzung der Speicherfunktion von ChatGPT beschreibt, die Schutzmaßnahmen hilft, bedenkliche Muster im Laufe der Zeit zu erkennen.

Kritiker pauschaler Altersgrenzen haben davor gewarnt, dass strenge Regeln Jugendliche zu weniger regulierten Alternativen drängen oder den Zugang zu wirklich nützlichen Lernmitteln blockieren könnten. Die Unterstützung von OpenAI deutet darauf hin, dass der größte Akteur der Branche davon ausgeht, dass SB 1119 die Balance gefunden hat, mit der er leben kann.

ChatGPT für Teenager ist bereits live

Die Verabschiedung des Gesetzentwurfs erfolgt nicht im luftleeren Raum. OpenAI hat ChatGPT for Teens auf den Markt gebracht, ein spezielles Erlebnis für jüngere Benutzer, das nach Angaben des Unternehmens jeden automatisch in einen geschützten Modus versetzt, wenn sein System schätzt, dass er unter 18 Jahre alt ist – oder angibt, dass er zwischen 13 und 17 Jahre alt ist. Die dortigen Sicherheitsvorkehrungen gehören laut Angaben des Unternehmens zum Basiserlebnis und nicht zu Opt-in-Einstellungen.

Dieses Detail der Altersschätzung ist wichtiger, als es zunächst erscheinen mag. Schätzungen, nicht verifizierte IDs, bestimmen, welche Erfahrung ein Benutzer macht, und das Unternehmen sagt, dass der Kontext aus früheren Gesprächen – einschließlich der Erinnerung – dabei hilft, Schutzmaßnahmen konsistent anzuwenden und bedenkliche Muster im Laufe der Zeit zu erkennen. Wie gut diese Schätzung in der Praxis funktioniert und was passiert, wenn Jugendliche ihr Alter falsch angeben, wird sich darauf auswirken, ob die Regulierungsbehörden die Selbstkontrolle der Branche als glaubwürdig ansehen.

Das Produkt für Jugendliche ist auch auf das Lernen ausgerichtet: Funktionen wie Quizze, Lernvisualisierungen und der Lernmodus wurden laut OpenAI gemeinsam mit Pädagogen und Lernexperten entwickelt, um Schüler Schritt für Schritt durch Probleme zu führen. Das Unternehmen wertet diese Tools als Beweis dafür, dass Sicherheitsanforderungen und nützliche Produkte nicht im Widerspruch zueinander stehen – ein Argument, das es effektiv sowohl gegenüber Newsom als auch gegenüber der Öffentlichkeit vorbringt.

Die Politik in Sacramento

In seinem Brief lobt OpenAI Newsom zusammen mit Senator Steve Padilla und den Abgeordneten Buffy Wicks und Rebecca Bauer-Kahan für ihre Führungsrolle in dieser Angelegenheit. Der Gesetzentwurf liegt nun beim Gouverneur und die öffentliche Lobbykampagne von OpenAI – komplett mit einem herunterladbaren Brief – macht deutlich, dass das Unternehmen seine Unterschrift möchte.

Der Schritt kommt auch zu einem Zeitpunkt, an dem die Regulierungsbehörden andernorts die Schrauben anziehen. Die Europäische Union hat ChatGPT kürzlich im Rahmen ihres Digital Services Act als sehr große Online-Suchmaschine eingestuft und OpenAI damit bis Ende Dezember 2026 Zeit gegeben, um strengere EU-Vorschriften zu Minderjährigen und Transparenz einzuhalten. Angesichts der Top-Down-Bestimmungen Brüssels scheint OpenAI zu glauben, dass die Unterstützung eines maßgeschneiderten Landesgesetzes in Sacramento der bessere Weg ist, die Regeln zu gestalten, bevor sie dafür geschrieben werden.

Ob Newsom unterzeichnet – und ob andere Staaten dem Beispiel Kaliforniens folgen – wird einen großen Beitrag zur Beantwortung der Frage leisten, die der Kongress bisher offen gelassen hat: Wer legt die Regeln für die jüngsten KI-Nutzer fest?

Bleiben Sie über die KI-Richtlinie auf dem Laufenden

Verfolgen Sie jede Entwicklung, während sie geschieht. Lesen Sie weitere KI-Neuigkeiten auf AI Buzz Wire →