OpenAI potvrdila, že ona, Anthropic a Google DeepMind vedou rozhovory o koordinaci bezpečnosti AI již několik týdnů a tvrdí, že podporuje legislativu, která by donutila hraniční laboratoře otevřít dveře nezávislým ověřovacím organizacím.

Chris Lehane, ředitel globálních záležitostí OpenAI, to podle TechCrunch oznámil na úterním setkání. Agentury Reuters a Bloomberg s odvoláním na stejné poznámky uvedly, že OpenAI spolupracuje s Anthropic a Google na bezpečnosti AI. Potvrzení mění týdny narážek – včetně rozhovoru pro Fortune, ve kterém Sam Altman uznal soukromé diskuse s dalšími vůdci AI – ve výslovné přiznání, že tři přední světové hraniční laboratoře koordinují, jak rychle se pohybují a jak jsou jejich modely kontrolovány.

Pro čtenáře, kteří sledují širší politickou přestřelku kolem zpomalení umělé inteligence, se pokrytí aktualizace umělé inteligence tento týden pohybovalo od spoluzakladatele společnosti Anthropic Jacka Clarka, který schvaloval povinné zabíjení, až po prezidenta Trumpa, který během hovoru s Jensenem Huangem z Nvidie označil obavy z bezpečnosti za podvod.

Týdny na potvrzení se připravují

Rozhovory následují po eseji zveřejněné v sobotu generálním ředitelem společnosti Anthropic Dario Amodei, který vyzývá průmysl ke spolupráci na zpomalení tempa vývoje hraniční umělé inteligence, aby se předešlo katastrofickým rizikům. Dopis získal podporu z celého odvětví, přičemž Altman, Demis Hassabis a Elon Musk z Googlu všichni podpořili výzvu k akci a Altman řekl, že OpenAI se k tomuto úsilí připojí.

The Information následně uvedly, že tyto tři společnosti pracují na vytvoření normalizačního orgánu pro průmysl AI. Hassabis má s tímto nápadem zkušenosti: v červenci vyzval Spojené státy, aby zřídily nový normalizační orgán, který by fungoval jako hlídací pes umělé inteligence, s pravomocí prověřovat nejpokročilejší modely světa a koordinovat zpomalení v celém odvětví, pokud nebezpečí pokročí.

Co přidávají Lehaneovy poznámky, je oficiální potvrzení. Až dosud mluvčí laboratoří převážně gestikulovali na neformální dialog; Vedoucí globálních záležitostí OpenAI nyní uvedl koordinaci do rekordu.

Antimonopolní stín

Jakákoli dohoda mezi přímými konkurenty o pomalém vývoji vyvolává zjevné antimonopolní otázky a laboratoře to vědí. Altman sám poznamenal, že takové rozhovory by mohly společnosti vystavit riziku porušení antimonopolního zákona, pokud by se zjistilo, že koordinace potlačuje konkurenci. Amodeiova esej navrhla úzkou vládní výjimku, která by umožnila koordinaci bezpečnosti, aniž by spouštěla ​​zákon o hospodářské soutěži – což je známkou toho, jak vážně se tento problém uvnitř společností bere.

Kritici rychle poukázali na napětí v jádru dohody: tři firmy ovládající největší podíly na trhu s hraniční umělou inteligencí se společně rozhodly, že pokrok vypadá pro skeptiky jako chování kartelu s bezpečnostním obalem. Příznivci se staví proti tomu, že katastrofické riziko je přesně ten druh problému, který konkurenti nemohou vyřešit jednostranně, protože každá laboratoř, která sama zpomalí, jednoduše postoupí hranice soupeřům.

OpenAI zahrnuje kontroly třetích stran

Nejkonkrétnější politické novinky v Lehaneových poznámkách se týkají legislativy. Řekl, že OpenAI podporuje ustanovení zákona FRONTIER Act, které by vyžadovalo, aby špičkové hraniční laboratoře umožnily „nezávislým ověřovacím organizacím“ do svých společností, aby zajistily bezpečný vývoj modelů. Politico oznámilo, že OpenAI podporuje plán obou stran postavený na hodnocení bezpečnosti třetích stran.

Před dvěma lety, kdy byly dobrovolné závazky a interní červené týmy průmyslovým standardem, by tato pozice byla v oboru nemyslitelná. Nyní uvádí OpenAI do souladu s postojem prvního auditu, který Anthropic dlouho propaguje, a vytváří vzácný bod shody mezi laboratořemi a křídlem politické debaty, která strávila rok požadující vymahatelný dohled.

To také nastavuje kolizi s Bílým domem. Prezident Trump odmítl obavy o bezpečnost jako podvod a tvrdil, že jakékoli zpomalení by Číně poskytlo výhodu v závodě AI. Jeho poradce pro umělou inteligenci David Sacks, dlouholetý investor s osobními podíly v celém odvětví, označil obavy z existenčního rizika za přehnané. Ve Spojeném království zůstávají ministři ve stejné otázce veřejně rozděleni, přičemž jedna frakce naléhá na vládu, aby dbala na varování odborníků, zatímco ministr obchodu Reynolds odmítl řeči o přepínači zabíjení pro pokročilé systémy.

Politický boj bez neutrálního základu

Nadcházející týdny prověří, zda koordinace laboratoří přežije kontakt s úřady pro hospodářskou soutěž a skeptickou administrativou. Standardizační orgán vybudovaný třemi společnostmi, které kontrolují hranice, bude čelit požadavkům na začlenění nezávislých ředitelů, zveřejnění svých kritérií a předložení vládnímu přezkumu – nebo bude propuštěn jako soukromý kartel ve veřejném oděvu.

Pokud jde o FRONTIER Act, podpora OpenAI dává sponzorům zákona titulní podporu, ale také novou linii útoku na odpůrce, kteří tvrdí, že největší laboratoře prostě regulují pole a píší pravidla, která si mohou dovolit dodržovat. Menší laboratoře a komunita otevřených vah, která na jednáních nemá místo, bedlivě sledují: jakýkoli režim ověřování bude určovat náklady na dodržování předpisů pro každého za hranicemi.

Co již není sporné, je fakt koordinace jako takový. Tři společnosti, které definují špičku AI, nyní otevřeně diskutují o tom, jak rychle běžet – a vyzývají vládu, aby pomohla posoudit.

---

Stay Ahead of AI

Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.

Přečtěte si další zprávy o AI →