Australiens nationales Arbeitsgericht hat die zum Scheitern verurteilte, KI-gesteuerte Klage eines entlassenen Arbeitnehmers öffentlich verurteilt – und auf neue Regeln hingewiesen, die Personen, die Klagen einbringen, dazu zwingen werden, offenzulegen, wenn sie bei der Erstellung künstlicher Intelligenz eingesetzt haben.

In einer Entscheidung, die letzte Woche gefällt wurde, unternahm der stellvertretende Vorsitzende der Fair Work Commission, Michael Easton, den ungewöhnlichen Schritt, einem entlassenen ALDI-Mitarbeiter die Zahlung von 1.230 A$ der Rechtskosten des Supermarktgiganten aufzuerlegen, nachdem er herausgefunden hatte, dass er KI als „quasi-rechtlichen Berater“ eingesetzt hatte, um einen Fall zu verfolgen, der keine realistische Aussicht auf Erfolg hatte. Weitere Informationen zu dieser Geschichte finden Sie in unserer neueste KI-Entwicklungen.

„Ich habe den sehr seltenen Schritt unternommen, ihm die Zahlung eines Teils der Anwaltskosten des Arbeitgebers aufzuerlegen, weil sein unangemessenes Verhalten dazu geführt hat, dass sein früherer Arbeitgeber diese Kosten unnötigerweise getragen hat“, sagte Easton in der Entscheidung, über die ABC berichtete. „Wenn Herr Khan seine eigenen KI-generierten Antworten richtig gelesen hätte … hätte er gewusst, dass sein Fall zum Scheitern verurteilt war.“

Ein mit ChatGPT erstellter Fall

Sadnan Khan sagte dem ABC, er habe eine kostenpflichtige Version von ChatGPT genutzt, um die rechtlichen Präzedenzfälle zu entschlüsseln, die das Gericht und ALDI gegen ihn angeführt hatten. Als selbstvertretender Prozessanwalt ohne juristische Ausbildung, sagte er, bräuchte er eine Anlaufstelle, um die gegen ihn zitierte Rechtsprechung zu verstehen.

„Sie zitieren mir Fälle, richtig … und da ich keine juristische Person bin, muss ich irgendwo hingehen, um die Studie durchzuführen“, sagte Khan. „Das Hauptproblem der KI ist, dass sie Dinge nicht auf die australische [Gerichts-]Art tun.“

Khan, der ursprünglich aus Bangladesch nach Australien kam, gab einen entscheidenden Fehler zu: Er reichte dem Gericht Dokumente ein, die noch übrig gebliebene Anweisungen enthielten, die er in den KI-Chat eingegeben hatte, ein Fehler, der genau offenlegte, wie seine Unterlagen erstellt wurden. Er argumentiert nun, dass Verständnisbarrieren die Anregungen prägten, die er dem Modell gab. Mit Blick auf die Zukunft lässt er sich nicht beirren – er plant, mit „einer Mischung aus Claude und ChatGPT … und zwei oder drei [anderen]“ Berufung einzulegen, um eine Reihe von Ansichten zu erhalten.

Die Zahl der Fälle nimmt zu, und KI ist einer der Gründe dafür

Der Fall Khan ist keine Einzelanekdote. Ein vom Gericht in Auftrag gegebener Bericht über den Einsatz von KI durch Prozessparteien, der vom ABC zitiert wurde, ergab, dass generative KI teilweise für einen 40-prozentigen Anstieg der Fallzahl der Kommission zwischen 2023-24 und 2024-25 verantwortlich war.

Die Studie zeichnete ein detailliertes Bild davon, wer bei Streitigkeiten am Arbeitsplatz auf KI zurückgreift:

  • In 40 Prozent der untersuchten Fälle nutzte mindestens ein Prozessbeteiligter KI
  • Der KI-Einsatz konzentrierte sich auf jüngere und selbstvertretene Prozessparteien
– Mehr als drei Viertel dieser Gruppe nutzten ChatGPT und 60 Prozent von ihnen verließen sich auf die kostenlose Version
  • Nicht-Englisch-Sprecher nutzten KI doppelt so häufig wie Englisch-Muttersprachler

Das Tribunal soll selbstvertretenden Prozessparteien helfen, sich ohne Anwalt im System zurechtzufinden. Mithilfe von KI-Tools steht praktisch jedem Bewerber ein kostengünstiger Rechtsrechercheur zur Verfügung – einer, dessen Ergebnisse fließend, sicher und falsch sein können.

Neue Offenlegungsregeln ab 20. Oktober

Ab dem 20. Oktober müssen Bewerber bei der Fair Work Commission offenlegen, ob sie bei der Vorbereitung ihrer Fälle KI eingesetzt haben. Die Kommission hat außerdem eine Vorlage implementiert, die KI-abhängigen Prozessparteien dabei helfen soll, ihre Argumente in einer Form darzulegen, die das Gericht ordnungsgemäß beurteilen kann.

Der Schritt macht Australien zu einem der ersten Gerichtsbarkeiten, das die Offenlegung von KI direkt in die Prozesse eines Mainstream-Arbeitsgerichts integriert, und er spiegelt ein praktisches Anliegen wider: Kommissare müssen wissen, was sie lesen, und Prozessparteien, die ihr Urteil auslagern, müssen das von ihnen eingereichte Material verstehen.

Eastons Kritik an Khan konzentrierte sich genau auf diese Lücke – die selbstbewussten Antworten der KI waren, in den Worten des Vizepräsidenten, „einfach falsch“, und Khan prüfte sie nicht genau genug, um es zu erkennen.

Die andere Seite: KI als Werkzeug für den Zugang zur Justiz

Insbesondere betrachtete das Gericht den Einsatz von KI nicht als grundsätzlich problematisch. Es wurde anerkannt, dass KI den Zugang zur Justiz für Antragsteller mit echten, begründeten Ansprüchen verbessert, die andernfalls möglicherweise davon abgehalten worden wären, überhaupt tätig zu werden. Erfahrene Benutzer, heißt es in der Entscheidung, betrachten KI kritisch als „ein Werkzeug unter vielen“.

Einer dieser anspruchsvollen Benutzer ist Gregory Baker, ein Informatikdozent an der Macquarie University, der diesen Monat als erster Mensch mit einem Team von KI-Agenten erfolgreich gegen Australiens Gesetze zur Gelegenheitsarbeit vorging. Baker, der KI lehrt, erzählte dem ABC, dass sein Anspruch auf Fair Work begann, als er ChatGPT nach Optionen für die Karriereplanung fragte, nachdem die Universität sich geweigert hatte, ihn von einem Angestellten in einen Festangestellten umzuwandeln.

„Früher war ich dafür bekannt, meinen Schülern zu sagen: ‚Wenn Sie in meinem Unterricht keine KI einsetzen, werden Sie scheitern‘“, sagte Baker.

Ein Warnschuss für Prozessparteien überall

Die Botschaft der Kommission wird wahrscheinlich über das australische Arbeitsrecht hinausgehen. Selbstvertretende Prozessparteien, die Chatbots zur Analyse von Präzedenzfällen nutzen, sind mittlerweile ein messbares und kein hypothetisches Phänomen – und die Gerichte passen ihre Regeln als Reaktion darauf an.

Für die wachsende Zahl KI-gestützter Prozessparteien ist die Lehre aus dem ALDI-Fall eindeutig: Das Gericht wird „die KI hat es mir gesagt“ nicht als Entschuldigung akzeptieren, unbehandelte KI-Ergebnisse können echte finanzielle Konsequenzen nach sich ziehen, und ab Oktober wird das System wissen, wann es sich mit maschinengestützten Einreichungen befasst.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →