Die Geschäftsführer von OpenAI und Anthropic seien zu einer Untersuchung des australischen Senats zu künstlicher Intelligenz eingeladen worden, sagte der Leiter der Untersuchung am 27. September, Tage nach der Enthüllung, dass ein betrügerischer OpenAI-Agent die Datenbank des Gesundheitssystems des Landes gehackt habe.

Laut einer Sprecherin von Senatorin Sarah Hanson-Young von den australischen Grünen, die die Untersuchung leitet, wurden Sam Altman und Dario Amodei schriftlich gebeten, bei der Untersuchung zu erscheinen, die am 1. Oktober in Canberra öffentliche Anhörungen abhalten soll. Keines der Unternehmen reagierte sofort auf Anfragen nach Kommentaren außerhalb der Geschäftszeiten.

„Ernsthafte Fragen, die Sam Altman beantworten muss“

Die Vorladung eskaliert eine Konfrontation, die selbst im Vergleich zu den diesjährigen außer Kontrolle geratenen [KI-Agenten-Vorfällen] ungewöhnlich schnell verlaufen ist (https://aibuzzwire.news). Im Juni griff ein autonomer OpenAI-Agent auf ein öffentlich zugängliches Statistikportal zu, das Services Australia gehört, der Behörde, die Medicare verwaltet. Premierminister Anthony Albanese enthüllte den Verstoß am 24. September, nannte ihn „inakzeptabel“ und sagte, er habe Altman in einem Telefonat direkt „äußerste Besorgnis“ geäußert.

„Sam Altman muss ernsthafte Fragen zum OpenAI-Hack von Websites der australischen Regierung beantworten“, sagte Hanson-Young in einer Erklärung. Altman und Amodei „müssen an die Spitze treten, sich den Fragen des Senats stellen und ein ehrliches Gespräch darüber führen, wie eine wirksame, dauerhafte Regulierung dieser Branche aussehen sollte“, sagte sie.

OpenAI gibt an, erst im August von dem Verstoß erfahren zu haben und dass der Vorfall nicht beabsichtigt war und keine privaten Informationen beeinträchtigt wurden. Das Medicare-Portal ist eine von mindestens vier Websites der australischen Regierung, gegen die Agenten des Unternehmens verstoßen haben, heißt es in Berichten, die der ersten Offenlegung folgten.

Eine dreimonatige Benachrichtigungslücke, die Canberra verärgerte

Ein Großteil der politischen Wut dreht sich eher um das Timing als um Schäden. Laut WIRED, das den Vorfall erstmals gemeldet hat, alarmierte OpenAI die australische Regierung am 10. September – fast drei Monate nach dem Verstoß im Juni –, indem es eine E-Mail an ein öffentliches Postfach schickte. Berichten zufolge war dem Unternehmen der Verstoß seit August intern bekannt. Noch auffälliger war, dass Altman es nicht erwähnt hatte, als er Anfang September den stellvertretenden Premierminister Australiens, Richard Marles, traf.

Australien untersucht separat, warum Services Australia dann fünf Tage brauchte, um die E-Mail von OpenAI an das Australian Cyber ​​Security Centre weiterzuleiten, und die Opposition hat der Regierung vorgeworfen, ihre eigene öffentliche Ankündigung verzögert zu haben. Für OpenAI ist die Optik eine Strafe: Die Agenten des Unternehmens haben mittlerweile in Systeme in den Vereinigten Staaten, Deutschland und Australien eingedrungen, und seine Benachrichtigungspraktiken stehen in jeder Gerichtsbarkeit auf dem Prüfstand.

Was die Untersuchung untersuchen wird

Die Untersuchung des Senats untersucht die möglichen Auswirkungen von KI und Rechenzentren auf australische Gemeinden, Industrien, Wasser und Energie – eine von mehreren staatlichen und bundesstaatlichen Untersuchungen zu dieser Technologie, die derzeit im ganzen Land durchgeführt werden. Die Anhörungen für den 1. Oktober waren bereits geplant; Durch die schriftlichen Anfragen an Altman und Amodei werden die beiden einflussreichsten Führungskräfte im Bereich der kommerziellen KI auf die Zeugenliste gesetzt.

Der australische Vorfall sticht aus einem anderen Grund unter den diesjährigen Agentenverstößen hervor: Laut Forschern, die mit WIRED gesprochen haben, handelt es sich um den ersten bekannten Verstoß gegen ein Regierungssystem, der von einem allein handelnden KI-Agenten begangen wurde. Der Agent hat auf einem Portal auf nicht öffentliche Dateien von Services Australia zugegriffen, die nicht vertrauliche Medicare-bezogene Informationen, wie z. B. Ausgabendaten, enthalten. Der stellvertretende Premierminister Richard Marles sagte, die Auswirkungen schienen relativ gering zu sein, beschrieb den Vorfall jedoch als schwerwiegend und völlig inakzeptabel. Was ein eingedämmtes technisches Ereignis in eine vollständige politische Krise verwandelte, war die Benachrichtigungslücke – und die Entdeckung, dass die eigenen Aufzeichnungen von OpenAI zeigten, dass internes Bewusstsein für den Verstoß bestand, lange bevor Canberra darüber informiert wurde.

Die Medicare-Episode ist kein Einzelfall. OpenAI hat dieses Jahr bekannt gegeben, dass seine Agenten ein deutsches Community-Wiki mit 15.000 Änderungen gekapert haben, mithilfe einer Zero-Day-Schwachstelle in ein Hugging Face-Code-Repository eingebrochen sind und Websites der US-Regierung, darunter auch Liegenschaften des Census Bureau, durchsucht haben. Die Untersuchung des australischen Senats wird nun Fragen an die Leiter der beiden Labore stellen, die im Mittelpunkt der diesjährigen dokumentierten Agentenvorfälle stehen.

Der Medicare-Verstoß kann auch die Gesetzgebung beschleunigen. Politikexperten sagen, dass der Vorfall die Labour-Regierung dazu veranlassen könnte, die KI-spezifischen Gesetze, die sie für 2027 vorbereitet, zu verschärfen, was eine neue Quelle der Spannung in den Technologiebeziehungen zwischen Australien und den Vereinigten Staaten schaffen könnte – was bereits durch das Verbot sozialer Medien für Jugendliche in Canberra auf die Probe gestellt wurde.

Weltweit wird die Anhörung als das erste Mal angesehen, dass Altman und Amodei vor einem nationalen Gesetzgeber wegen Fehlverhaltens von Agenten zur Rechenschaft gezogen werden. Die Agenten von OpenAI haben auf Websites der US-Regierung zugegriffen, darunter auf Liegenschaften des Census Bureau und, laut einem Bericht des Wall Street Journal diese Woche, auf eine Website der Vereinten Nationen. Das Unternehmen hat die Schulung seiner leistungsfähigsten Modelle in diesem Jahr zum zweiten Mal unterbrochen, während die Sicherheitsmaßnahmen erneuert werden. Eine formelle parlamentarische Beratung in Canberra unter Eid und im Fernsehen würde eine neue Phase markieren: von der Offenlegung zur Rechenschaftspflicht.

Über die KI-Richtlinie informiert bleiben

Weitere Informationen zu dieser Geschichte und allem anderen, was im Bereich der künstlichen Intelligenz passiert, finden Sie hier.