OpenAI již několik týdnů úzce spolupracuje s konkurenčními společnostmi Anthropic a Google DeepMind na navržení rámce pro bezpečnost umělé inteligence, potvrdil v úterý vysoký manažer a odhalil neobvyklou míru spolupráce mezi společnostmi, které si zuřivě konkurují téměř ve všem ostatním.
Chris Lehane, globální šéf politiky OpenAI, řekl novinářům na tiskové konferenci ve Washingtonu, že tyto tři laboratoře koordinovaly bezpečnostní iniciativy. "Je lepší pokusit se spolupracovat na upřednostňování bezpečnosti," řekl Lehane podle zprávy Bloomberg o brífinku. Jeho komentáře přišly několik dní po sérii varování před vyhynutím od výzkumníků opouštějících největší laboratoře v oboru. For more context on this story, see our ongoing latest AI developments.
Co vlastně spolupráce zahrnuje
Lehane se nevyjádřil ke konkrétní povaze práce, ale zveřejnění následuje po pozoruhodném rozsahu veřejného umístění největších jmen v oboru. V sobotu výkonný ředitel Anthropic Dario Amodei publikoval esej, v níž vyzval průmysl AI ke spolupráci na zpomalení tempa vývoje hraničních modelů, aby se vyhnul tomu, co nazval „katastrofickými riziky“.
Výzva získala překvapivou podporu napříč konkurenčními propasti: Sam Altman z OpenAI, Demis Hassabis a Elon Musk všichni tento sentiment podpořili. Altman šel ještě dále a řekl, že OpenAI by byla ochotna připojit se k iniciativě Anthropic a začlenit do svých vývojových týmů hodnotitele třetích stran, aby monitorovali bezpečnost AI zevnitř. Spoluzakladatel společnosti Anthropic Jack Clark mezitím pro NPR řekl, že zpomalení umělé inteligence je v zásadě „problém kolektivní akce“, který žádná laboratoř nedokáže vyřešit sama.
Ne každý uvnitř OpenAI však považuje debatu o tempu za naléhavou. Finanční ředitelka Sarah Friar řekla CNBC, že se neobává zpomalení vývoje umělé inteligence – což je připomínka, že společnost se současně dvoří investorům v ocenění severně od bilionu dolarů.
Antimonopolní stín nad spoluprací
Jakákoli koordinace mezi dominantními laboratořemi umělé inteligence naráží na zjevný právní problém: antimonopolní zákon Spojených států. Právní experti varovali, že dohody mezi konkurenty o omezení toho, co mohou jejich produkty dělat, by mohly být vykládány jako „omezení výstupu“, což je porušení Shermanova zákona.
Tato starost se již přesunula na Capitol Hill. Senátoři Jim Banks z Indiany a Adam Schiff z Kalifornie navrhli legislativu – zákon o spolupráci na nepříznivých hrozbách a bezpečnostních rizicích –, která by laboratořím AI umožnila jednat v oblasti bezpečnosti, i když by tyto akce jinak mohly vyvolat antimonopolní problémy. Amodeiova esej tvrdila, že vláda by měla zvážit udělení výjimky společnostem za bezpečnostní spolupráci, ačkoli Lehane řekl novinářům, že si myslí, že takový krok je zbytečný.
Jensen Huang z Nvidie byl ještě tupější. V úterý na Dreamforce označil návrh Anthropic na zrušení antimonopolních pravidel podle CNBC za „zcela zbytečný“, čímž podtrhl prohlubující se rozkol mezi laboratořemi nabádajícími ke zdrženlivosti a hardwarovým gigantem nabádajícím ke zrychlení.
"Kartel pod jiným jménem"
Kritici spolupráce byli sžíraví. Generální ředitel Cohere Aidan Gomez v blogovém příspěvku v reakci na Amodeiovu esej napsal, že bezpečnostní výzvy vypadají jako snaha špičkových laboratoří umělé inteligence zamaskovat protikonkurenční schéma, které by zachovalo jejich vedoucí postavení ve vývoji hraničních modelů a umožnilo laboratořím „dominantním na trhu“ definovat pravidla pro všechny ostatní.
"Tyto oligopoly opět za použití strachu pod záminkou ochrany veřejnosti nyní požadují ohýbání pravidel hospodářské soutěže a dovolení diktovat podmínky všem ostatním," napsal Gomez a nazval toto uspořádání "vlkem v rouše beránčím, kartelem pod jiným jménem."
Prezident Donald Trump Amodeiovu výzvu ke zpomalení přímo odmítl a v příspěvku na Truth Social argumentoval, že jakékoli zpomalení by Číně umožnilo předběhnout Spojené státy v závodě AI. David Sacks, klíčový poradce Bílého domu pro AI, řekl, že obavy, že by AI mohla představovat existenční hrozbu, jsou přehnané.
Analytici CNBC poznamenali, že v debatě o bezpečnosti a regulaci umělé inteligence se nyní plně objevily dva tábory: jeden naléhá na hranici, aby zpomalil, než se něco pokazí, a druhý – zastoupený Nvidií, Bílým domem a zastánci otevřeného modelu – tvrdí, že větším nebezpečím je váhání.
Capitol Hill Push OpenAI
Lehaneovy výroky zazněly během mediálního brífinku ve Washingtonu, kde se měl setkat se zákonodárci. OpenAI podle veřejných prohlášení společnosti a zpráv agentur Reuters a Politico hází svou váhu za dva dvoustranné návrhy zákonů.
Prvním je FRONTIER Act, který požaduje federální rámec pro bezpečnost AI a vyžaduje, aby laboratoře AI předkládaly nové modely pro audity nezávislými hodnotiteli. OpenAI také podporuje opatření, které by vyžadovalo nezávislé audity modelů AI, uvedla CBS News. Druhý návrh, který je stále ve vývoji, je návrhem, který vůdce senátní většiny John Thune připravuje s republikánským senátorem Tedem Cruzem a demokratickou senátorkou Amy Klobucharovou. Podle agentury Reuters by tento návrh zákona dal ministrovi obchodu pravomoc podrobit nové modely bezpečnostním auditům před jejich vydáním. OpenAI samostatně schválila plány obou stran na řešení biohrozeb AI, uvedl Politico.
Konvergence je zarážející: tytéž společnosti, které varují před uprchlou AI, se dobrovolně hlásí k nezávislým auditům, zatímco jejich kritici varují, že větším nebezpečím může být samotná spolupráce. Jak Kongres prosazuje tuto jehlu – což umožňuje bezpečnostní spolupráci bez udělení licence kartelu – může definovat politiku AI na roky.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
