Australský národní tribunál pro pracoviště veřejně odsoudil propuštěný pracovník odsouzený k záhubě, řízenou umělou inteligencí – a označil nová pravidla, která donutí lidi, kteří přinesou případy, aby zveřejnili, kdy k jejich sestavení použili umělou inteligenci.

V rozhodnutí vyneseném minulý týden učinil místopředseda Komise pro spravedlivou práci Michael Easton neobvyklý krok a nařídil propuštěnému pracovníkovi ALDI, aby zaplatil 1 230 austrálských dolarů z právních nákladů giganta supermarketů poté, co zjistil, že používal AI jako „kvazi-právního poradce“ ke sledování případu, který neměl reálné vyhlídky na úspěch. For more context on this story, see our ongoing AI industry coverage.

"Udělal jsem velmi vzácný krok, kdy jsem mu nařídil, aby zaplatil některé z právních nákladů zaměstnavatele, protože jeho nepřiměřené chování způsobilo, že jeho bývalému zaměstnavateli tyto náklady zbytečně vznikly," uvedl Easton v rozhodnutí, o kterém informovala ABC. "Kdyby si pan Khan řádně přečetl své vlastní AI generované odpovědi... věděl by, že jeho případ je odsouzen k záhubě."

Pouzdro vytvořené pomocí ChatGPT

Sadnan Khan řekl ABC, že použil placenou verzi ChatGPT, aby mu pomohla rozluštit právní precedenty, které proti němu tribunál a ALDI uvedly. Jako samostatně zastupovaný účastník sporu bez právního vzdělání se podle něj potřeboval někam obrátit, aby pochopil judikaturu, která je na něj citována.

"Citují mě případy, správně... a já, jako ne právní subjekt, musím někam jít, abych provedl studii," řekl Khan. "Hlavní věc, kterou AI trpí, je, že dělají věci jiným než australským [soudním] způsobem."

Khan, který původně přišel do Austrálie z Bangladéše, přiznal zásadní chybu: předložil tribunálu dokumenty, které stále obsahovaly zbytky pokynů, které zadal do chatu AI, což byla chyba, která přesně odhalila, jak byly jeho spisy vyrobeny. Nyní tvrdí, že podněty, kterými model krmil, formovaly překážky porozumění. Při pohledu dopředu se nenechá odradit – plánuje apelovat pomocí „směsi Claude a ChatGPT … a dvou nebo tří [dalších]“, aby získal řadu pohledů.

Případy přibývají a AI je součástí důvodu

Případ Khan není izolovanou anekdotou. Zpráva zadaná tribunálem o používání umělé inteligence stranami sporu, citovaná ABC, zjistila, že generativní umělá inteligence byla částečně zodpovědná za 40procentní nárůst počtu případů komise mezi lety 2023-24 a 2024-25.

Výzkum vykreslil podrobný obrázek toho, kdo se obrací na AI ve sporech na pracovišti:

  • 40 procent zkoumaných případů se týkalo alespoň jednoho účastníka řízení využívajícího AI
  • Používání umělé inteligence se soustředilo mezi mladšími a samostatně zastupovanými stranami sporu
  • Více než tři čtvrtiny této skupiny používaly ChatGPT a 60 procent z nich se spoléhalo na bezplatnou verzi
  • Neanglicky mluvící lidé používali AI dvakrát častěji než rodilí mluvčí angličtiny

Tribunál byl navržen tak, aby pomohl samostatně zastupovaným účastníkům řízení orientovat se v systému bez právníka. Nástroje umělé inteligence ve skutečnosti poskytly každému žadateli levného právního výzkumníka – takového, jehož výstupy mohou být plynulé, sebevědomé a nesprávné.

Nová pravidla zveřejňování od 20. října

Od 20. října budou žadatelé v komisi pro spravedlivou práci povinni sdělit, zda při přípravě svých případů použili AI. Komise také zavedla šablonu, jejímž cílem je pomoci účastníkům sporu závislým na AI předložit své argumenty ve formě, kterou může tribunál řádně posoudit.

Tento krok dělá z Austrálie jednu z prvních jurisdikcí, které zabudují odhalování AI přímo do procesů hlavního pracovního tribunálu, a odráží praktický problém: komisaři potřebují vědět, co čtou, a strany, které zadávají svůj úsudek, musí rozumět materiálu, který podávají.

Eastonova kritika Khana se soustředila přesně na tuto mezeru – sebevědomé odpovědi AI byly, slovy náměstka prezidenta, „prostě špatné“ a Khan je nezkontroloval dostatečně pečlivě, aby si to uvědomil.

Druhá strana: AI jako nástroj přístupu k justici

Je pozoruhodné, že tribunál nepovažoval použití AI za inherentně problematické. Uznala, že AI zlepšuje přístup ke spravedlnosti pro žadatele se skutečnými, opodstatněnými nároky, které by jinak mohly odradit od jednání. Sofistikovaní uživatelé, jak bylo uvedeno v rozhodnutí, přistupují k AI kriticky jako k „jednomu nástroji z mnoha“.

Jedním z těchto sofistikovaných uživatelů je Gregory Baker, lektor počítačových věd na Macquarie University, který se tento měsíc stal prvním člověkem, který úspěšně zpochybnil australské zákony o příležitostném zaměstnání pomocí týmu agentů AI. Baker, který vyučuje AI, řekl ABC, že jeho tvrzení o Fair Work začalo, když požádal ChatGPT o možnosti plánování kariéry poté, co ho univerzita odmítla přeměnit ze stálého zaměstnance.

„Býval jsem slavný tím, že jsem svým studentům říkal: ‚Pokud v mé třídě nepoužíváte AI, propadnete‘,“ řekl Baker.

Varovný výstřel pro sporné strany všude

Poselství komise se pravděpodobně odrazí nad rámec australských zákonů na pracovišti. Samostatně zastupované strany sporu využívající chatboty k analýze precedentů jsou nyní měřitelným fenoménem, ​​nikoli hypotetickým – a tribunály v reakci na to přizpůsobují svá pravidla.

Pro rostoucí populaci účastníků sporu s pomocí AI je poučení z případu ALDI jednoznačné: tribunál nepřijme „AI mi to řekla“ jako omluvu, neošetřený výstup AI může mít skutečné finanční důsledky a od října bude systém vědět, kdy se bude zabývat podáním za pomoci stroje.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →