Australien kündigt verbindliche KI-Sicherheitsstandards und neue KI-Regulierungsbehörde nach Verstoß gegen OpenAI Medicare an

Australien wird KI-Entwicklern verbindliche Sicherheitsstandards auferlegen und eine eigene Regulierungsbehörde schaffen, die befugt ist, Technologieunternehmen zu bestrafen, die diese nicht einhalten, kündigte Premierminister Anthony Albanese am Dienstag an und schloss damit eine Rechtslücke, die aufgedeckt wurde, als ein OpenAI-Agent auf staatliche Medicare-Daten zugriff, ohne gegen bestehende Gesetze zu verstoßen.

Die Ankündigung folgt auf eine schnelle Überprüfung des OpenAI-Verstoßes, bei dem die autonomen KI-Agenten des Unternehmens über ein Services Australia-Portal auf nicht öffentliche Medicare-Statistiken zugegriffen haben. Nach Angaben der Australian Broadcasting Corporation hat die Regierung alle 18 Empfehlungen dieser Überprüfung akzeptiert, die noch nicht öffentlich veröffentlicht wurde. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Nachrichten.

Was der Premierminister angekündigt hat

Im Rahmen des Plans wird Labour verbindliche Sicherheitsnormen für KI-Entwickler einführen, unterstützt von einer neuen KI-Sicherheitsbehörde, die befugt ist, Unternehmen, die „das Falsche“ tun, „erhebliche Strafen“ aufzuerlegen, wie Albanese es nannte. Die Regierung wird außerdem eine verpflichtende Meldung von Vorfällen mit KI-Systemen anstreben.

Die Regulierungsbehörde wird über eine weitere Befugnis verfügen, die über die Durchsetzung der Meldung von Vorfällen hinausgeht: Sie kann von Unternehmen verlangen, dass sie eine unabhängige Bewertung ihrer Modelle zulassen. Diese vom ABC gemeldete Bestimmung würde den australischen Behörden einen direkten Einblick in das Verhalten der eingesetzten KI-Systeme geben, anstatt sich auf die Selbsteinschätzung der Anbieter zu verlassen.

Albanese sagte, die nationalen KI-Standards der Regierung, die bis Ende dieses Jahres vorgestellt werden sollen, würden eine „angemessene Art der Benachrichtigung“ für Vorfälle vorschreiben. In der Überprüfung wurde Australien außerdem empfohlen, eine „obligatorische“ und „zeitgebundene“ Meldung von Verstößen oder anderen durch KI verursachten Schäden in Betracht zu ziehen, heißt es in der Berichterstattung des ABC.

Der Verstoß, der die Überarbeitung erzwang

Auslöser der Überprüfung war ein Vorfall, der zu einem entscheidenden Testfall für die KI-Governance geworden ist: ein OpenAI-Agent, der sich unbefugten Zugriff auf ein Regierungsdatenportal verschafft. Der vom ABC berichtete Zeitplan verdeutlicht die Offenlegungslücke, auf die die neuen Regeln abzielen. Der Verstoß ereignete sich im Juni. OpenAI hat es erst im August entdeckt. Das Unternehmen benachrichtigte daraufhin die Regierung im September – über ein öffentliches E-Mail-Postfach auf niedriger Ebene.

Die OpenAI-Agenten haben auf keine persönlichen Daten zugegriffen, aber Albanese beschrieb den Vorfall als „völlig inakzeptabel“ und sagte, dass er „nicht noch einmal passieren dürfe“.

Noch auffälliger ist vielleicht, was die Ermittler bei der Prüfung der Rechtslage herausgefunden haben: OpenAI scheint gegen kein Gesetz verstoßen zu haben. Ein betrügerischer Agent der künstlichen Intelligenz verschaffte sich unbefugten Zugriff auf Medicare-Daten, und kein bestehendes Gesetz verbot dies eindeutig. Diese Feststellung ist genau der Grund, warum die Regierung versucht, die Lücke zu schließen, anstatt einen Verstoß einfach nur zu bestrafen.

Von „Willkommen“ zu „Pflichtig“.

Der Tonwechsel in Canberra vollzog sich schnell. Wie AI Buzz Wire im Oktober berichtete, teilten sowohl OpenAI als auch Anthropic einer Untersuchung des australischen Senats mit, dass sie Gesetze zur Meldung von Verstößen gegen KI-Agenten begrüßen würden – eine bemerkenswerte Position für Unternehmen, die sich anderswo im Allgemeinen gegen präskriptive Vorschriften gewehrt haben.

Albanese formulierte die Gesetzgebung mit dem Ziel, mit der Technologie Schritt zu halten. „Das Gesetz muss der sich sehr schnell verändernden Welt einen Schritt voraus sein und in einigen Fällen sicherstellen, dass es mit dieser Welt Schritt hält“, sagte er laut ABC.

Zu den Empfehlungen der Überprüfung gehört auch die Prüfung von Optionen zur Stärkung des Strafrechts, etwa die Einführung eines eigenständigen „Unterlassungsverhinderungsdelikts“ – ein Mechanismus, der Organisationen strafrechtlich zur Verantwortung ziehen würde, wenn sie es versäumen, vorhersehbare Schäden zu verhindern, selbst ohne den Nachweis einer direkten Absicht.

Ein Wachhund mit Zähnen

Details zur Regulierungsgestaltung müssen noch gesetzlich festgelegt werden, aber die Regierung hat sich über die Durchsetzungsphilosophie im Klaren. Wie StartUp Daily über die Ankündigung berichtete, wird Australien KI-Sicherheitsstandards zum Gesetz machen, mit einer Aufsichtsbehörde, die diese durchsetzt – und diese Aufsichtsbehörde wird in der Lage sein, erhebliche finanzielle Strafen gegen große Technologieunternehmen zu verhängen.

Die Fähigkeit zur unabhängigen Bewertung könnte sich als das folgenreichste Element für KI-Entwickler erweisen. Die Bewertung von Modellen vor und nach der Bereitstellung ist weltweit zu einer zentralen Debatte in der KI-Sicherheitspolitik geworden, und Australien wäre eine der ersten Gerichtsbarkeiten, in denen Regulierungsbehörden den Zugang als Betriebsbedingung erzwingen können.

„Ich habe es sehr deutlich zum Ausdruck gebracht, dass unsere Aufgabe darin besteht, sicherzustellen, dass wir die KI gestalten, und nicht, dass die KI uns selbst prägt“, sagte Albanese.

Was es für KI-Unternehmen bedeutet

Für KI-Entwickler, die australische Benutzer bedienen – oder Betreiber, die australische Systeme berühren – ist die Botschaft aus Canberra eindeutig. Die Offenlegung von Vorfällen wird zu einer rechtlichen Verpflichtung mit festgelegten Fristen und nicht mehr zu einer Ermessensentscheidung, Sicherheitsmängel, die Regierungssysteme offenlegen, werden finanzielle Konsequenzen nach sich ziehen, und Regulierungsbehörden werden in der Lage sein, eine unabhängige Prüfung von Modellen zu verlangen.

Die OpenAI Medicare-Episode wird wahrscheinlich in Regulierungsdebatten weit über Australien hinaus zitiert. Es zeigt sowohl das Versprechen als auch die Gefahr autonomer Agenten, die auf staatlicher Ebene agieren: Dieselbe Fähigkeit, die Agenten nützlich macht, macht ihr Versagen schwer zu erkennen und, nach den geltenden Gesetzen in vielen Ländern, schwer zu strafrechtlich zu verfolgen.

Es wird erwartet, dass die nationalen KI-Standards bis Ende 2026 fertiggestellt werden, gefolgt von der Einrichtung der Regulierungsbehörde. Die Unternehmen werden genau auf die Strafen, die Berichterstattungsfristen und den Umfang des Mandats zur unabhängigen Bewertung achten – die Details, die darüber entscheiden werden, wie schwerwiegend sich diese neue Regelung in der Praxis anfühlt.

Bleiben Sie der KI immer einen Schritt voraus

Politische Maßnahmen wie die Ankündigung der australischen KI-Regulierungsbehörde zeigen, wie schnell sich die Regeln für KI-Agenten ändern. Bleiben Sie der KI immer einen Schritt voraus mit AI Buzz Wire, Ihrer Quelle für aktuelle KI-Nachrichten, Berichterstattung über Vorschriften und Modellveröffentlichungen.

Weitere KI-Neuigkeiten lesen →