Papa Leon spune că îngrijorările despre AI Doom nu sunt „știri false” – și îl cheamă pe Jensen Huang de la Nvidia

Papa Leon al XIV-lea a spus luni că îngrijorările legate de faptul că inteligența artificială devine necinstită nu sunt „știri false” și ar trebui luate în serios, într-o mustrare ascuțită a directorilor de tehnologie care susțin că tehnologia ar trebui să se dezvolte fără balustrade guvernamentale. Vorbind la o conferință de presă la bordul zborului papal de întoarcere la Roma, după o vizită de patru zile în Franța, papa a urmărit, fără să-l numească mai întâi, poziția CEO-ului Nvidia, Jensen Huang, împotriva reglementării AI, potrivit rapoartelor AFP, AP și Reuters transmise de Al Jazeera.

Comentariile ajung într-un moment inflamabil pentru politica AI. Marți, președintele Donald Trump urmează să-i găzduiască pe lideri tehnologici, inclusiv pe Mark Zuckerberg de la Meta și pe Dario Amodei de la Anthropic, la Casa Albă, după cum raportează Reuters, industria respingând reglementările, chiar dacă oamenii de știință de frunte avertizează asupra riscurilor catastrofale. Pentru cititorii care urmăresc coliziunea dintre guverne și industria AI, AI Buzz Wire urmărește cele mai recente evoluții AI de la Washington la Bruxelles la Vatican.

„Preocupările ar trebui luate în serios”

Papa a fost întrebat în timpul conferinței de presă în timpul zborului despre ce ar trebui să facă Statele Unite și China – cele două superputeri ale inteligenței artificiale ale lumii – pentru a împiedica AI să prezinte riscuri catastrofale pentru umanitate. Anterior, Trump a numit îngrijorările legate de faptul că AI devine necinstită o „înșelătorie”.

„Cred că preocupările ridicate de mulți dintre experții, specialiști în IA, ar trebui luate în serios”, a spus pontiful, insistând că problemele de siguranță ridicate de experții AI ar trebui să fie atât discutate, cât și luate în considerare. El a îndemnat lumea „să promoveze dialogul, studiul, investigația, să găsească modalități de a se asigura că AI nu ajunge într-un punct în care ar putea distruge umanitatea”.

Schimbul cu Jensen Huang

Cel mai punctual moment a venit când Leo a făcut referire la un anunț despre care a spus că a citit tocmai în acea dimineață: că șeful producătorului de cipuri Nvidia a descris o modalitate de a introduce balustrade în anumite modele AI. Papa și-a exprimat scepticismul deschis față de mesager.

„Totuși, el este același, care spune că nu ar trebui să fie impuse limite și nicio reglementare guvernamentală”, a spus Leo – o lovitură directă asupra lui Huang, care, conform rapoartelor din grup, a declarat pentru CBS News la începutul acestei luni că a fost de acord cu Trump că preocupările legate de securitatea AI sunt exagerate.

Anunțul la care face referire Papa pare să fie noua platformă de siguranță deschisă a agentului deschis de la Nvidia, un efort hardware și software conceput pentru a supraveghea agenții AI autonomi și a-i împiedica să devină necinstiți. Ironia nu a fost pierdută de observatori: cea mai valoroasă companie din industrie vinde acum tehnologie de siguranță, în timp ce face lobby împotriva reglementărilor guvernamentale despre care susținătorii siguranței spun că este necesară pentru a o pune în aplicare.

O papație construită pe avertismente AI

Comentariile de luni extind ceea ce a devenit tema definitorie a papalității de 16 luni a lui Leu. Primul papă american a identificat inteligența artificială drept una dintre cele mai mari provocări cu care se confruntă omenirea în câteva zile de la alegerea sa și și-a dedicat prima sa enciclică inteligenței artificiale și protecției umanității – făcând pasul neobișnuit de a lansa personal documentul alături de cofondatorul Anthropic, Christopher Olah, la un eveniment din Vatican, în mai.

Sub Leu, Vaticanul și-a escaladat constant retorica și inițiativele în favoarea guvernării internaționale a inteligenței artificiale, cu un accent deosebit pe domenii precum tehnologia nucleară, cultura și creația artistică. Lansarea enciclicei din mai a făcut parte dintr-un efort deliberat al Vaticanului de a implica în mod direct Silicon Valley în ceea ce privește costurile umane ale inteligenței artificiale – o activitate care se extinde acum la directorii provocatori în public. Papa a spus că efortul de a convoca factorii de decizie trebuie să continue: „Trebuie să continuăm să invităm lideri politici, lideri ai IA, organizații sociale, asociații să se reunească și să analizeze ce se întâmplă deja și ce ar putea fi în viitor”.

„Cred că sunt destui oameni serios interesați de asta… dar trebuie să continuăm să lucrăm”, a adăugat el.

De ce intră un Papă sub pielea Silicon Valley

Intervenția lui Leu contează pentru că vizează contradicția centrală din postura actuală a industriei. În ultimele săptămâni, OpenAI a abandonat o lansare de model de frontieră din cauza eșecurilor de aliniere, Nvidia și alte laboratoare s-au grăbit să scoată produse de siguranță a agenților, iar oameni de știință proeminenți, inclusiv Geoffrey Hinton și Yoshua Bengio, au avertizat despre o „explozie de informații” fugitivă – în aceeași zi cu observațiile papei, de fapt. Cu toate acestea, vocile principale ale industriei continuă să susțină că reglementările guvernamentale ar înăbuși inovația.

Mesajul papei a fost că ambele lucruri nu pot fi adevărate deodată: dacă riscurile sunt suficient de reale pentru a justifica vânzarea de software de siguranță, ele sunt suficient de reale pentru a justifica regulile. În timp ce Casa Albă a deschis covorul roșu pentru directorii AI în această săptămână, Leo poziționează Vaticanul drept una dintre puținele instituții globale dispuse să spună atât de clar.

Rămâi înaintea AI

Urmăriți lupta globală pentru viitorul AI. Citiți mai multe știri AI pe AI Buzz Wire.

Ultimele evoluții AI →