Moscone Center v San Francisku tento týden hostilo neobvyklý veřejný nesouhlas: lídři Nvidia, Anthropic a OpenAI, kteří se na konferenci Dreamforce společnosti Salesforce objevili na stejné scéně několik hodin od sebe, předložili ostře odlišné odpovědi na otázku, jak rychle by se měla umělá inteligence vyvíjet.
Generální ředitel Nvidie Jensen Huang řekl šéfovi Salesforce Marcu Benioffovi, že rámování rychlosti versus bezpečnosti je špatné. "Je to falešná volba," řekl Huang podle CNBC. "Určitě bys mohl mít obojí najednou." For more context on this story, see our ongoing breaking AI news.
Jeho pozice stála v přímém kontrastu s tím, které dříve vyjádřil generální ředitel Anthropic Dario Amodei a později generální ředitel OpenAI Sam Altman v debatě, která se během týdne přesunula z výzkumných blogů na hlavní příspěvky konferencí do Washingtonu.
Amodei's Slowdown Pitch získává hlavní platformu
Jako první se objevil Amodei, který se připojil k Benioffovi na výroční keynote Salesforce před publikem zhruba 12 000 lidí. Vystoupení následovalo po eseji, kterou Amodei zveřejnil o víkendu a vyzýval průmysl ke zpomalení tempa vývoje modelů, což je návrh, který podle něj dokáže zmírnit, jak rychle se schopnosti zlepšují, aniž by „obětoval komerční výhodu nebo vedoucí postavení Spojených států v AI“.
Podle CNBC Amodei navrhl dobrovolnou zdrženlivost jako test vedoucího postavení v tomto odvětví. "Myslím, že to je způsob, jak vést průmysl vpřed, jít příkladem, říkat, že každý může být vždy lepší," řekl Benioffovi.
Esej rychle získala veřejnou podporu od dalších vedoucích pracovníků v oboru, včetně Sama Altmana z OpenAI, CEO SpaceX Elona Muska a předsedy Google DeepMind Demise Hassabise. Přistálo několik dní poté, co průmysloví výzkumníci vyvolali poplach ohledně potenciálu umělé inteligence způsobit katastrofické škody, což dodalo argumentu zpomalení novou naléhavost.
Huang: Tržní síly, nikoli nové zákony
Huang, jehož společnost se stala nejcennější na světě prodejem hardwaru, který trénuje a provozuje hraniční modely, odmítl jak premisu kompromisu, tak myšlenku nové regulace. Již existují tržní síly, které disciplinují bezohledné chování, tvrdil, a je na modelových vývojářích, aby se ke svým produktům chovali zodpovědně.
"Utíkej, jak rychle můžeš," řekl Huang Benioffovi. "Jestliže ale máte pocit, že se v určitém okamžiku společnost vymkla kontrole nebo produkt nebude bezpečný, udělejte si pauzu a ujistěte se, že to máte správně."
Na rozdílu záleží: Huang netvrdí, že společnosti by se nikdy neměly pozastavit, pouze by rozhodnutí mělo zůstat na každé společnosti, spíše než aby bylo vynucováno prostřednictvím zákonů nebo koordinovaných dohod o tempu v celém odvětví. O den dříve, na All-In Summit v Los Angeles, přijal Huang hlasitý hovor od prezidenta Donalda Trumpa, který vyjádřil obavy z lidí, kteří se snaží bránit výstavbě datových center AI. "To nedopustíme, pane," odpověděl Huang.
Altman: Bezpečnost „neměla by mít kvalifikaci“
Altman přišel na řadu později během dne a postavil se blíže Amodeiovi než Huangovi. Během chatu u krbu s Benioffem Altman řekl, že bezpečnost a monitorování musí mít přednost před schopnostmi vzhledem k výkonu současných modelů.
Zaměřil se na společnosti, které podmiňují své bezpečnostní závazky chováním konkurence. „Máte společnosti, které říkají věci jako: ‚Budeme zodpovědní, pouze pokud jsou odpovědné jiné společnosti‘,“ řekl Altman a dodal, že když se lidé ptají, co společnost udělá, aby byla bezpečná, „bez ohledu na to, co“, odpověď by neměla ponechat žádný prostor pro podmínky. "Na to by neměl být žádný kvalifikant."
Benioff sedí uprostřed
Benioff, který je hostitelem všech tří vedoucích pracovníků, odmítl zvolit stranu ohledně tempa. "Pokud mají pocit, že by měli zpomalit, pak by měli zpomalit. Pokud mají pocit, že by měli zrychlit, měli by zrychlit," řekl novinářům a dodal, že společnosti "by měly nést odpovědnost."
Konference také ukázala, jak zamotané jsou obchodní vztahy. V úterý Salesforce a Nvidia oznámily nový model uvažování pro platformu Salesforce Agentforce postavenou na jednom z modelů Nvidia s otevřenou váhou Nemotron. Koncem srpna Salesforce a Anthropic rozšířily své strategické partnerství a představily „Claudeforce“, který umožňuje prodejcům přístup k datům Salesforce zevnitř Claude.
Proč na rozdělení záleží
Výměny Dreamforce vykrystalizovaly to, co se stalo hlavní chybovou linií v debatách o správě umělé inteligence: zda by měla být omezení koordinována a potenciálně kodifikována, nebo ponechána konkurenčnímu tlaku a individuálnímu firemnímu úsudku.
Návrh Amodei zůstává dobrovolný, ale jeho schválení generálními řediteli společností OpenAI, DeepMind a xAI je prvním případem, kdy se lídři velkých hraničních laboratoří veřejně postavili za zpomalení. Huangův protiargument, doručený od nejhodnotnější společnosti na světě, poskytuje krytí vedoucím pracovníkům a politikům, kteří tvrdí, že povinnost opatrnosti by přinesla výhodu konkurentům, zejména v Číně.
Prezident Trump se postavil proti novým pravidlům umělé inteligence, což je postoj, který podkopává vlastní požadavky odvětví na zpomalení, jak uvedla CNBC v související analýze. To ponechává jakoukoli dobrovolnou dohodu o tempu bez vynucovacího mechanismu, o kterém zastánci bezpečnosti říkají, že jej potřebuje, a prozatím pevně udržuje debatu o systémech firemní cti.
Vzhledem k tomu, že výzkumníci veřejně varují před katastrofickými riziky a lídři největších společností v oboru nyní na jevišti otevřeně nesouhlasí, otázka tempa pravděpodobně ovládne příští politický cyklus ve Washingtonu – ať už se trh mezitím rozhodne udělat cokoliv.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
