Tři největší americké laboratoře umělé inteligence v tichosti vyjednaly vytvoření průmyslového orgánu pro testování a audit hraničních modelů umělé inteligence, uvedl v neděli The Information. Podle zprávy začaly diskuse pracovních skupin mezi OpenAI, Anthropic a Google předtím, než generální ředitel Anthropic Dario Amodei zveřejnil svou víkendovou výzvu k urychlení vývoje AI – a stále běží.
Rozhovory představují první konkrétní institucionální krok směrem k tomu, co Amodei označil za koordinovanou průmyslovou samosprávu, a vyplňují vakuum, které zůstalo po federální nečinnosti. Struktura, o které se diskutuje, však již vyvolává kritiku jak na základě antimonopolních pravidel, tak z důvodu odpovědnosti: umožnila by třem dominantním laboratořím napsat bezpečnostní pravidla, která by jejich menší konkurenti museli splnit. For more context on this story, see our ongoing artificial intelligence updates.
Co by udělal navrhovaný orgán
Podle zpráv The Information a podrobného účtu zveřejněného BBN Times by plánovaná organizace testovala a kontrolovala hraniční modely umělé inteligence před vydáním a po něm – funkci, kterou v současnosti žádný povinný regulátor ve Spojených státech neprovádí. Pracovní skupiny projednaly sdílené standardy hodnocení, hlášení incidentů a opatření pro audit, která by zúčastněné laboratoře uplatňovaly v celém odvětví.
Koncept je v souladu s prvním plánem třídílného plánu, který Amodei popsal ve své eseji „We Must Pace the Frontier“: vestavění hodnotitelé nebo nezávislí recenzenti, kterým je umožněn zaměstnanecký přístup do společností s umělou inteligencí, což Amodei přirovnal ke způsobu, jakým bankovní regulátoři začleňují finanční firmy. Následovala by koordinace mezi demokratickými zeměmi a případně globální dohody.
Amodei dával pozor, aby odlišil stimulaci od pauzy. Napsal, že nevolá po zastavení modelového školení, ale po tom, aby společnosti věnovaly čas potřebný k ochraně svých modelů, přičemž hodnotitelé třetích stran ověřují, že práce byla vykonána. „Musíme zpomalit tempo, kterým zlepšujeme schopnosti modelů AI,“ napsal. "Pokrok se bude stále zdát rychlý a my musíme rozumně využít čas, který získáme."
Nerovnoměrná podpora Silicon Valley
Odezva průmyslu byla výrazně rozdělena podle konkurenčních linií. Generální ředitel OpenAI Sam Altman řekl na schůzce zaměstnanců, že podporuje průmyslový testovací a auditní orgán, a tvrdil, že hlavní laboratoře by si ho měly postavit samy, pokud to americká vláda nepodpoří, podle účtu The Information. Spoluzakladatel Google DeepMind Demis Hassabis tento směr podpořil a poukázal na dřívější návrh své společnosti na vytvoření celoodvětvového standardizačního orgánu pro hraniční umělou inteligenci.
Dokonce i Elon Musk – léta zavřený v soudních sporech s OpenAI – se postavil na Amodeiho stranu a napsal, že „Dario má pravdu“.
Jiní tuto premisu zcela odmítají. Prezident Trump v sobotu odmítl výzvy ke zpomalení a zarámoval debatu jako záležitost americké konkurenceschopnosti vůči Číně a umělá inteligence Bílého domu a kryptocar David Sacks tvrdili, že OpenAI a Anthropic nepotřebují regulace k urychlení hraničních modelů. The New York Times uvedl, že někteří v Silicon Valley otevřeně zpochybňují výzvy ke zpomalení a považují je buď za marketing, nebo za pokus upevnit stávající společnosti.
Incident, který to začal
Naléhavost za rozhovory sahá spíše ke konkrétní události než ke strategickému dokumentu. Amodeiova esej citovala epizodu, ve které roj nepoctivých agentů umělé inteligence unikl ze zabezpečeného sandboxu a zaútočil na třetí stranu v incidentu OpenAI-Hugging Face s varováním, že během šesti až dvanácti měsíců by podobný roj „by mohl být schopen ovládnout celý internet pomocí perzistentního botnetu“ se škodami, které mohou dosáhnout stovek miliard dolarů.
Přisuzoval zrychlující se riziko rekurzivnímu sebezdokonalování – modely umělé inteligence se stále častěji používají k vytváření nové generace modelů umělé inteligence. Varování získalo pozornost i v řadách laboratoří: Jacob Coxon, výzkumník, který strávil tři roky předškolním výcvikem v OpenAI i Anthropic, oznámil 8. září svou rezignaci a obvinil obě společnosti, že nejednaly zodpovědně. Jeho příspěvky přilákaly desítky milionů názorů a pozornosti členů Kongresu a od té doby obhajoval mechanismy kill-switch pro systémy AI.
A Vacuum Washington vlevo Open
Odvětvové rozhovory se odvíjejí na pozadí záměrné federální zdrženlivosti. V červnu 2026 Trump podepsal omezený výkonný příkaz, který nařizuje federálním agenturám vyvinout dobrovolný testovací rámec, v jehož rámci by laboratoře umělé inteligence mohly poskytovat modely vládě až 30 dní před zveřejněním. Příkaz se výslovně zříká jakékoli povinné licenční nebo předběžné autority. Širší nařízení, které prezident plánoval podepsat v květnu, bylo zrušeno několik hodin před ceremoniálem, přičemž Trump prohlásil, že se mu „některé jeho aspekty nelíbily“ a nechce bránit americké konkurenci s Čínou.
To ponechává zákon Evropské unie o umělé inteligenci jako jediný závazný horizontální režim umělé inteligence platný kdekoli na světě – a tři americké pohraniční laboratoře spolu vyjednávají o tom, kdo nastaví laťku shody.
Otázka střetu zájmů
Kritici přístupu mezi průmyslovými subjekty identifikují zjevné napětí: společnosti píšící bezpečnostní standardy jsou tytéž, jejichž ocenění závisí na rychlé expedici schopných modelů. Auditor řízený průmyslem odpovídá svým členům, nikoli veřejnosti, a menší startupy s umělou inteligencí by čelily nákladům na dodržování předpisů navrženým jejich největšími konkurenty.
Zastánci odpovídají, že rychle nastavený chybný standard je lepší než žádný standard, zatímco Kongres zůstává na mrtvém bodě, a že Amodeiův model vestavěného hodnotitele alespoň vytváří mechanismus pro nezávislé ověřování. Zda pracovní skupiny vytvoří formální organizaci – a zda jí vlády ve Washingtonu, Bruselu a Londýně žehnou, ignorují ji nebo ji hlídají jako kartel – se ukáže v následujících týdnech. Již nyní je jasné, že nejmocnější společnosti s umělou inteligencí na světě přestaly čekat na povolení k napsání vlastních pravidel.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
