Král Karel III. svolá ve Skotsku vedoucí představitele nejvýznamnějších světových společností zabývajících se umělou inteligencí a zeptá se jich, jak lze tuto technologii vyvinout „pro dobro lidstva“, podle zpráv The Sunday Times, které přinesl The Independent. Setkání přivede britského panovníka tváří v tvář manažerům společností Nvidia, Anthropic, Google DeepMind a OpenAI ve chvíli, kdy vlastní lídři odvětví veřejně diskutují, zda by se měl vývoj zpomalit.
New York Times zarámoval shromáždění stejným způsobem: King svolá vedoucí představitele umělé inteligence uprostřed výzev k pomalému vývoji, čímž se tempo debaty stane zřetelně slavnostním stadiem pouhé dva dny po eseji generálního ředitele společnosti Anthropic Daria Amodeiho, který vyzývá průmysl, aby upřednostnil bezpečnost před rychlostí. For more context on this story, see our ongoing artificial intelligence updates.
Kdo se účastní
Podle zpráv The Sunday Times citovaných The Independent mezi účastníky patří generální ředitel Nvidie Jensen Huang, zakladatel Google DeepMind Sir Demis Hassabis a Niccolo de Masi, předseda a výkonný ředitel společnosti IonQ pro kvantové počítače. Očekává se, že se diskusí zúčastní také lídři z Anthropic a OpenAI.
Jeden z účastníků vyčnívá z firemního seznamu: Monsignor Paolo Benanti, františkánský teolog, který slouží jako poradce papeže pro umělou inteligenci a etiku technologií. Jeho přítomnost signalizuje, že ambice summitu přesahují produktovou politiku do otázek lidské důstojnosti – území, které si Vatikán vytvořil od doby, kdy Řím brzy prosazoval mezinárodní etický rámec AI.
„Neutrální moderátor“ se známou příručkou
Královský zdroj řekl novinám, že král má v úmyslu hrát roli, kterou vytříbil během desetiletí ekologické advokacie. "Král je tu, aby svolal, naslouchal a povzbudil tyto diskuse a položil otázku: 'Jak vyvíjíme AI pro dobro lidstva?'," uvedl zdroj, čímž vytvořil přímou paralelu s Charlesovou dlouhodobou prací na životním prostředí a nedostatku vody.
Podle zdroje King doufá, že diskuse povedou k „širšímu porozumění odpovědnosti za vývoj této technologie a také příležitostem, které zajistí, že jakýkoli technologický vývoj zůstane zaměřen na lidský prospěch pro komunity“. Plánuje také položit konkrétní otázku: zda by bylo užitečné vytvořit sdílený soubor principů pro tuto technologii. "Jeho pocit je, že to není snadná věc, ale to neznamená, že bychom to neměli zkoušet," dodal zdroj.
Na formulaci záleží. Charles nevyjednává nařízení a nemá žádnou zákonodárnou moc. To, co nabízí, je to, co The News International popsal jako postoj „neutrálního poradce“ – postavy s dostatečnou pozicí na to, aby shromáždila soupeřící vedoucí pracovníky kolem jednoho stolu, aniž by se kdokoli vzdal konkurenční výhody tím, že by se objevil.
Charta Ditchley
Na akci bude dohlížet Ditchley Foundation, anglo-americká organizace, která již dlouhou dobu pořádá off-the-record ústupky pro lídry v politice, obchodu a vědě. Podle The Sunday Times nadace vypracovala návrh charty pro vůdce AI.
Charta je chápána tak, že zahrnuje „sdílený soubor principů“, které by „pomohly řídit budoucí aplikaci AI nejen jako hnací sílu schopností a účinnosti, ale jako nástroj, který podporuje lidskou důstojnost a přispívá k rozkvětu lidí i planety“.
Tento jazyk je záměrně vzdálený slovníku EU AI Act zaměřenému na dodržování předpisů nebo rámcům dobrovolného testování, které kolují ve Washingtonu. Zda jde o víc než jen rétoriku, bude záležet na tom, co se manažeři dohodnou na podpoře – a zda něco z toho přežije kontakt s komerční realitou.
Perfektní načasování, nehodou nebo designem
Summit přistane uprostřed nejzávažnějšího týdne, který průmysl AI letos zažil. Amodeiova esej, zveřejněná v sobotu, varovala, že umělá inteligence se od léta „rozvíjela drasticky rychleji“ a tvrdila, že během šesti až dvanácti měsíců by rojové roje agentů mohly představovat rizika v měřítku internetu. Jeho výzva získala podporu z nečekaných stran – Elon Musk napsal, že „Dario má pravdu“ a Sam Altman z OpenAI podpořil nezávislé testování – zatímco prezident Trump rámcově zpomalení přímo odmítl a poukázal na konkurenci s Čínou.
V tomto kontextu se palácové naléhání, že vrchol není o zpomalení čehokoli, čte jako pečlivé umístění. Králova otázka – jak vyvinout umělou inteligenci pro dobro lidstva – zcela vybočuje z rychlého boje a zároveň implicitně podporuje jeho premisu: že trajektorie technologie je věcí kolektivní lidské volby, nikoli nevyhnutelnosti.
Británie tu už byla. Summit o umělé inteligenci v Bletchley Park v roce 2023, který svolala vláda Spojeného království, přinesl první nadnárodní deklaraci o riziku hraniční umělé inteligence a nastavil vzorec shromažďování konkurenčních laboratoří pro kolektivní ždímání rukou. To, co odlišuje skotské shromáždění, je jeho svolavatel: hlava státu bez regulačního orgánu, bez volebního cyklu a v zásadě bez podílu na vítězství společnosti.
Co může a nemůže summit udělat
Žádné komuniké z královského ústupu neomezí to, co Nvidia, Anthropic, DeepMind nebo OpenAI v tomto čtvrtletí dodají. Pokud shromáždění vytvoří schválenou chartu principů, jeho vynucovacím mechanismem bude reputace – která v odvětví, které se v současné době snaží prokázat bezpečnostní vážnost po týdnu novinových titulků o soudném dni, může mít větší hodnotu než obvykle.
The New York Times poznamenal, že setkání přichází uprostřed širší debaty o superinteligenčním scénáři soudného dne, který spotřeboval pozornost průmyslu. Pro Charlese, který strávil pět desetiletí používáním své platformy ke svolávání nepravděpodobných spojenců na dlouhodobá rizika, je umělá inteligence prostě nejnovější – a možná nejdůležitější – kapitola. Zda může morální přesvědčování panovníka pohnout společnostmi, jejichž hodnota se pohybuje v bilionech, je otevřenou otázkou. To, že společnosti souhlasily s tím, že vůbec přijdou, vypovídá něco o tom, jak moc si průmysl nyní přeje být viděn a ptá se na stejnou otázku.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
