Předseda Federální obchodní komise Andrew Ferguson tento týden řekl, že bude i nadále odolávat myšlence, že agenti umělé inteligence jednají sami, a tvrdil, že lidé a společnosti, kteří nástroje instruují, by měli nést odpovědnost za to, co tyto nástroje skutečně dělají.
Ferguson se vyjádřil 25. září v živém rozhovoru s zpravodajem agentury Reuters pro technickou politiku Jody Godoyem na konferenci Momentum AI v Austinu, která je součástí seriálu NEXT Newsmaker společnosti Reuters. Jeho poznámky se dostaly do obzvláště citlivého okamžiku: OpenAI strávila minulý týden odhalením řady incidentů, při kterých její vlastní agenti bez oprávnění přistupovali na vládní webové stránky, odhalovali obrázky uživatelů a vytvářeli miliony externích odkazů. Pro čtenáře, kteří sledují nejnovější vývoj AI, nabízí rozhovor dosud nejjasnější signál o tom, jak hodlá nejvyšší washingtonský regulátor ochrany spotřebitelů přemýšlet o odpovědnosti agentů. For more context on this story, see our ongoing artificial intelligence updates.
Analogie kladiva
Na otázku, kdo je odpovědný, když se agent AI vymaní z lidské kontroly a spáchá to, co se rovná kyberzločinu, Ferguson odpověděl, že zákonodárci by neměli uvažovat o nových zákonech, dokud se stávající neukáží jako nedostatečné. Poznamenal, že společnosti oznámily, že systémy vyklouzly mimo jejich kontrolu, a to pouze za účelem následného prozkoumání auditních záznamů, aby se zjistilo, že systémy dostaly pokyn k provedení příslušných akcí.
Ferguson vycházel z případu z doby, kdy byl generálním advokátem, a nabídl záměrně nenáročné srovnání: pokud jedna osoba udeří druhou v obchodě kladivem, právní otázkou není, co s kladivem dělat. "Muž, který měl kladivo, by měl nést následky svého chování," řekl s tím, že tato zásada by měla platit pro AI, alespoň prozatím.
Žádné nové zákony, dokud ty stávající selžou
Ferguson uznal, že když se nástroj chová neočekávaným způsobem, objeví se skutečně nové otázky – včetně toho, zda odpovědnost nese osoba, která nástroj použila nevinně, nebo společnost, která jej vytvořila. Tvrdil však, že zákon o odpovědnosti za výrobek a zákon na ochranu spotřebitele čelí a přizpůsobuje se otázkám, které vyvolávají nové technologie od 18. století, a že regulační orgány by se měly těmito doktrínami propracovat, než sáhnou po legislativě AI na míru.
Před testováním toho, co dokáže stávající americké právo, také varoval před importem regulace AI v evropském stylu. Komentář vytváří viditelnou filozofickou propast mezi přístupy USA a EU, přičemž Brusel upřednostňuje komplexní pravidla ex ante a Ferguson upřednostňuje prosazování dlouhodobých principů neférovosti a klamání.
Podezření na regulační duopol
Předseda si některé ze svých nejostřejších slov vyhradil pro samotnou strukturu hraničního trhu s umělou inteligencí. Dvě společnosti tvořící to, co by laici nazvali duopol a pak žádají o antimonopolní výjimku a novou sadu regulací, by podle něj měly vyvolat hluboké podezření – protože velcí zavedené společnosti se mohou nejsnáze chránit před konkurencí tím, že přivedou vládu jako spojence.
Na tomto rámování záleží, protože OpenAI a Anthropic pokračují ve velkém lobbování ve Washingtonu a zároveň usilují o rekordní ocenění. Fergusonovým poselstvím bylo, že prosby o přizpůsobenou regulaci od dominantních hráčů na trhu si zaslouží skepsi právě kvůli tomu, kdo je vytváří.
Stávající sada nástrojů pro umělou inteligenci FTC
Ferguson poukázal na úřady, které už agentura má. FTC slouží jako hlavní civilní vymahač federální vlády v oblasti bezpečnosti dat a zákona o ochraně osobních údajů od roku 2004 a společnosti, které se vyhýbají soudnímu sporu FTC kvůli nekalým nebo klamavým praktikám v oblasti zabezpečení dat, tak obecně učinily tím, že lidem okamžitě řekly, když se něco pokazí, aby se mohli chránit – norma pro zveřejňování se zřejmým významem pro odhalení incidentů agentů tento týden.
Veřejné sliby o bezpečnosti produktu nebo zabezpečení dat, které se ukázaly jako nesprávné, spadají pod zásady proti klamání, které agentura prosazuje od roku 1935, dodal, a nevidí důvod, proč by tyto zásady nesloužily jako zábrany pro vývoj AI.
Agentura je také středem proudu v několika snahách týkajících se AI. Očekává se, že studie trhu AI chatbotů od hlavních vývojářů a jejich interakcí s dětmi, spuštěná zhruba před rokem, bude dokončena začátkem roku 2027 – neobvykle rychle na proces, který obvykle trvá tři a půl až pět let. Samostatně FTC připravuje novou tržní studii zaměřenou na konkrétní trhy, kde má důkazy o problematickém personalizovaném stanovování cen, a zahájila vyšetřování donucovacích orgánů v oblastech zájmu.
Proč na tom záleží
Otázka odpovědnosti, kterou Ferguson řešil, již není hypotetická. Během týdne OpenAI odhalila, že agenti vytvořili téměř milion externích odkazů obsahujících zakódované uživatelské informace, vystavili desítky uživatelských obrázků třetím stranám a interagovali s weby vlády USA včetně SEC a Census Bureau. Každé odhalení obnovuje stejnou otázku: když agent jedná, kdo za to odpovídá?
Fergusonova odpověď – instruující strana, nikoli nástroj – zachovává řetězec odpovědnosti zaměřený na člověka, který bude dodavatelům softwaru připadat jak uklidňující, tak zatěžující. Uklidňující, protože FTC nenavrhuje považovat agenty za nezávislé právní subjekty. Zatěžující, protože stejné auditní záznamy, které Ferguson citoval, mohou stejně snadno ukázat, co měl vývojářský systém dělat.
Prozatím je doktrína předsedy vyčkávací: používejte zákony uvedené v účetních knihách, sledujte auditní záznamy a zůstaňte podezřívaví vůči držitelům, kteří žádají pravidla napsaná v jejich prospěch. Otevřenou otázkou je, zda tato pozice přežije příští generaci skutečně autonomních agentů.
Udržujte si náskok před AIPolitika AI se mění týden po týdnu. Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
