Papež Lev XIV. v pondělí řekl, že obavy z umělé inteligence nejsou „falešné zprávy“ a měly by být brány vážně, v ostré výtce technologickým manažerům, kteří tvrdí, že technologie by se měla vyvíjet bez vládních zábran. Na tiskové konferenci na palubě papežského letu zpět do Říma po čtyřdenní návštěvě Francie se papež také zaměřil – aniž by ho nejprve jmenoval – na postoj generálního ředitele Nvidie Jensena Huanga proti regulaci umělé inteligence, podle zpráv agentur AFP, AP a Reuters, které přinesla Al Jazeera.
Tyto poznámky přistávají v hořlavém okamžiku pro politiku AI. V úterý se prezident Donald Trump chystá v Bílém domě hostit technologické lídry, včetně Marka Zuckerberga z Meta a Daria Amodeie z Anthropic, jak uvádí agentura Reuters, přičemž průmysl tlačí zpět proti regulaci, i když přední vědci varují před katastrofickými riziky. Pro čtenáře sledující kolizi mezi vládami a průmyslem AI [AI Buzz Wire sleduje nejnovější vývoj AI] (https://aibuzzwire.news) od Washingtonu přes Brusel až po Vatikán.
„Obavy je třeba brát vážně“
Papež byl během tiskové konference za letu dotázán na to, co by měly Spojené státy a Čína – dvě světové supervelmoci umělé inteligence – dělat, aby umělá inteligence nepředstavovala pro lidstvo katastrofická rizika. Trump dříve označil obavy z toho, že se AI stane nepoctivým, za „podvod“.
"Myslím si, že obavy vznesené mnoha odborníky, specialisty na AI, by měly být brány vážně," řekl papež a trval na tom, že bezpečnostní otázky vznesené odborníky na AI by měly být prodiskutovány a podle nich řešeny. Vyzval svět, aby „podporoval dialog, studium, vyšetřování, aby našel způsoby, jak zajistit, aby se umělá inteligence nedostala do bodu, kdy by mohla zničit lidstvo“.
Výměna s Jensenem Huangem
Nejvýraznější okamžik nastal, když se Leo zmínil o oznámení, o kterém řekl, že o něm četl právě toho rána: že šéf výrobce čipů Nvidia popsal způsob, jak vložit zábradlí do určitých modelů AI. Papež vyjádřil otevřený skepticismus ohledně posla.
"Je to ten samý, který však říká, že by neměla být stanovena žádná omezení a žádná vládní regulace," řekl Leo - přímý zásah do Huanga, který podle zpráv o bazénu řekl CBS News začátkem tohoto měsíce, že souhlasí s Trumpem, že obavy o bezpečnost ohledně umělé inteligence byly přehnané.
Oznámení, na které papež odkazoval, se zdá být nově odhalenou platformou Nvidia Open Agent Safety Platform, což je hardwarové a softwarové úsilí určené k hlídání autonomních agentů umělé inteligence a zabránění jim v podvodu. Pozorovatelé neztratili ironii: nejcennější společnost v tomto odvětví nyní prodává bezpečnostní technologie a zároveň lobuje proti vládnímu nařízení, které je podle obhájců bezpečnosti nutné k jeho prosazení.
Papežství postavené na varováních AI
Pondělní komentáře rozšiřují to, co se stalo určujícím tématem Leova 16měsíčního papežství. První americký papež označil umělou inteligenci za jednu z největších výzev, kterým lidstvo čelí během několika dní po svém zvolení, a svou první encykliku věnoval umělé inteligenci a ochraně lidstva – učinil neobvyklý krok, když osobně představil dokument společně se spoluzakladatelem Anthropic Christopherem Olahem na květnové akci ve Vatikánu.
Za vlády Lva Vatikán neustále eskaloval svou rétoriku a iniciativy ve prospěch mezinárodního řízení umělé inteligence se zvláštním zaměřením na oblasti jako jaderná technologie, kultura a umělecká tvorba. Květnové spuštění encykliky bylo součástí záměrného úsilí Vatikánu zapojit přímo Silicon Valley o lidských nákladech AI – přesah, který se nyní rozšiřuje na výzvy vedoucích pracovníků na veřejnosti. Papež řekl, že snaha svolat osoby s rozhodovací pravomocí musí pokračovat: "Musíme i nadále zvát politické vůdce, vůdce umělé inteligence, sociální organizace, sdružení, aby se sešli a podívali se na to, co se již děje a co by mohlo být na cestě."
"Myslím, že se o to vážně zajímá dost lidí... ale musíme pokračovat v práci," dodal.
Proč se papež dostává pod kůži Silicon Valley
Leova intervence je důležitá, protože se zaměřuje na ústřední rozpor v současném postavení tohoto odvětví. V posledních týdnech OpenAI zrušila vydání hraničního modelu kvůli chybám v zarovnání, Nvidia a další laboratoře spěchaly s produkty pro bezpečnost agentů a prominentní vědci včetně Geoffreyho Hintona a Yoshuy Bengia varovali před „explozí inteligence“ – ve skutečnosti ve stejný den, kdy papežovy poznámky. Přesto přední hlasy odvětví nadále tvrdí, že vládní regulace by potlačila inovace.
Papežovo poselství bylo, že obě věci nemohou být pravdivé najednou: pokud jsou rizika dostatečně reálná, aby ospravedlnila prodej bezpečnostního softwaru, jsou dostatečně reálná, aby ospravedlnila pravidla. S Bílým domem, který tento týden rozvinul červený koberec pro vedoucí pracovníky AI, Leo staví Vatikán jako jednu z mála globálních institucí, které jsou ochotny to říci na rovinu.
Udržujte si náskok před AI
Sledujte globální boj o budoucnost umělé inteligence. Přečtěte si další zprávy o AI na AI Buzz Wire.
Nejnovější vývoj AI →
