Generální ředitel společnosti Anthropic Dario Amodei odmítl myšlenku, že nakreslil příliš pesimistický obraz umělé inteligence, a v sérii příspěvků argumentoval, že rostoucí odpor veřejnosti proti této technologii je „v zásadě krizí důvěry“ v instituce – nikoli produktem varování od vedoucích pracovníků AI.

Výměna, o které v neděli informoval TechCrunch, začala, když investor Gavin Baker v podcastu All-In a na X tvrdil, že Amodeiho varování před nebezpečím umělé inteligence pomohla podnítit odpor ve Spojených státech, zejména proti datovým centrům. Baker tvrdil, že Amodei „prohrál argument“ ohledně regulace AI a vzhledem k tomu, že „se chystá být generálním ředitelem jedné z nejdůležitějších společností na světě,“ napsal: „S respektem si myslím, že by se měl snažit být pozitivnějším obhájcem svého vlastního odvětví.“ For more context on this story, see our ongoing AI industry coverage.

Odpověď Amodei, zveřejněná na X, přitáhla pozornost napříč průmyslem umělé inteligence za to, co odhaluje o tom, jak jeden z nejprominentnějších vůdců v oboru interpretuje kyselou náladu veřejnosti – a za neobvykle neomalenou sebekritiku ohledně nedodržených slibů tohoto odvětví.

'Obyčejní lidé nevěří firmám'

Amodei ve svých příspěvcích uznal, že „veřejnost má negativní pohled na AI“ a souhlasil, že „toto je velký problém“. Odmítl však názor, že negativitu „primárně způsobuje“ on „nebo jakýkoli jiný vůdce AI varující před riziky AI“.

"Myslím, že je to v podstatě krize důvěry," napsal Amodei. "Myslím, že obyčejní lidé nevěří společnostem, vládám ani technologickému průmyslu a vždy mají podezření, že připravujeme nějaký nový způsob, jak je podělat."

V Amodeiho vyprávění se jedná o krizi, která se připravuje desetiletí, s odporem AI „jenom jeho nejnovější iterací“. Komentář přistává v okamžiku viditelného napětí mezi firmami zabývajícími se umělou inteligencí a veřejností: protesty proti výstavbě datových center se rozšířily po celých Spojených státech a odpor komunity letos opakovaně oddaloval velké stavby.

Zpochybnění poplatku za „negativní zprávy“.

Na základě konkrétního obvinění, že jeho vlastní komunikace byla příliš temná, byl Amodei přímý. "Nesouhlasím s tím, že moje sdělení bylo nepřiměřeně negativní," napsal s tím, že jeho psaní bylo "asi stejně vyvážené mezi riziky a přínosy." Poznamenal, že svou esej „Machines of Loving Grace“ napsal právě proto, že „necítil, že by průmysl umělé inteligence maloval dostatečně inspirativní obrázek o tom, jak by tato technologie mohla radikálně změnit svět k lepšímu“.

Ale nejcitovanější pasáž Amodeiovy odpovědi byla zaměřena na jeho vlastní průmysl – včetně jeho vlastní společnosti. „Myslím, že zdaleka nejpřesnější kritikou společností s umělou inteligencí, včetně Anthropic, je to, že jsme ještě nesplnili naše velké sliby, abychom prospěli světu,“ napsal. "To je zcela na nás a myslím, že je to kritika, kterou byste měli dělat, místo všech těch věcí o zasílání zpráv a marketingu."

Slib, že umělá inteligence vyléčí rakovinu, dodal, je „spíš klišé než inspirující“. Co by ve skutečnosti změnilo veřejné mínění, argumentoval, je „ve skutečnosti vyléčení rakoviny“.

Boj o regulaci

Amodei také odmítl Bakerovo rámování regulace a obvinil ho z malování „falešné volby“ mezi distribucí AI široce bez pravidel nebo soustředěním technologie do rukou několika společností prostřednictvím pravidel.

"Vím, že existuje určitá zkratka ze Silicon Valley, kde regulace = regulační zachycení = koncentrace moci, ale vždy jsem zjistil, že je to příliš zjednodušený obrázek světa," napsal Amodei. "Mnoho lidí mimo tuto bublinu považuje regulaci za něco, co omezuje moc korporací a přináší prospěch obyčejným lidem."

Řekl, že Anthropic záměrně vytvořil politické návrhy, aby se vyhnul zakořenění stávajících společností. „Velmi se snažíme vytvářet návrhy, které znevýhodňují (zpomalují) společnosti s umělou inteligencí na hranicích a zároveň zvýhodňují menší konkurenty,“ napsal. Společnost Anthropic prosazovala požadavky na transparentnost u velkých společností s umělou inteligencí, včetně kalifornského zákona, který ukládá povinnost zveřejňovat informace.

Pokud jde o modely s otevřenou váhou – bod vzplanutí v současné politické debatě, kdy se Bílý dům nedávno rozhodl vyjmout modely otevřené váhy z určitých federálních revizí – Amodei nabídl odlišnou pozici. "AI je strukturálně technologie, která má tendenci koncentrovat sílu," argumentoval. Otevřené váhy „někomu s tím pomáhají, ale zdaleka nejsou dostatečným řešením, protože prostě poněkud posouvají koncentraci k těm, které mají nejvíce výpočetní a čipové“. Správná „pravidla silničního provozu“, řekl, mohou současně řešit kybernetická, bio a alignmentová rizika, omezit sílu hraničních laboratoří a ponechat prostor pro modely s otevřenou váhou.

Proč na výměně záleží

Debata se dostává do citlivého okamžiku pro Anthropic. Společnost se veze na vlně komerčního úspěchu s růstem tržeb, který z ní udělal jednu z nejostřeji sledovaných firem v oblasti technologií, a všeobecně se očekává, že bude veřejně obchodovat. Její generální ředitel zároveň zůstává jedním z nejhlasitějších zastánců braní rizik AI vážně – kombinace, která z jeho zpráv dělá hromosvod.

Bakerův argument odráží širší proud v rizikovém kapitálu a mezi posilovači umělé inteligence: že skepse veřejnosti vůči umělé inteligenci je do značné míry komunikační problém způsobený vlastní opatrností tohoto odvětví. Odpověď společnosti Amodei účinně převrací tento rámec – problém není v tom, co říkají lídři umělé inteligence, ale v tom, co průmysl nedokázal dodat a jak málo veřejnost důvěřuje institucím vytvářejícím technologii.

Pro společnost, jejíž značka je postavena na tom, že je odpovědnou laboratoří AI, je postoj konzistentní. Ale Amodeiův ústupek – že nejtvrdší a nejpřesnější kritikou je propast mezi sliby a plněním – je pozoruhodně upřímné přiznání generálního ředitele, jehož společnost učinila jedny z největších slibů ze všech.

Příspěvky také načrtávají pozici, kterou bude Anthropic pravděpodobně hájit, jak se politické boje ve Washingtonu zintenzivňují: pravidla transparentnosti pro hraniční laboratoře, ochrana zvýhodňující menší konkurenty a žádný paušální předpoklad, že otevřené váhy řeší problém koncentrace moci.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →