Regele Carol al III-lea a emis joi un avertisment dur cu privire la „pericolele existențiale” ale inteligenței artificiale, adresându-se directorilor de la Nvidia, Google DeepMind și OpenAI reuniți la proprietatea sa Dumfries House din Scoția pentru un summit la nivel înalt despre viitorul tehnologiei.

Monarhul le-a spus liderilor din industrie reuniți că este urgent să se confrunte cu riscurile prezentate de sistemele AI din ce în ce mai puternice, mai ales dacă tehnologia ajunge controlată de actori rău intenționați. For more context on this story, see our ongoing artificial intelligence updates.

„Se pare că este urgent să se ia în considerare în mod adecvat pericolele existențiale ale unor astfel de tehnologii care să cadă în mâini greșite și să fie utilizate în moduri potențial catastrofale”, le-a spus Regele liderilor adunați la proprietatea Ayrshire, potrivit rapoartelor ABC News și a mai multor alte canale.

Un mesaj dublu: promisiune și pericol

Adresa regelui nu a fost o respingere generală a tehnologiei. El a recunoscut că inteligența artificială are un potențial enorm spre bine, indicând în special științele vieții și medicină, unde instrumentele AI sunt din ce în ce mai folosite pentru a accelera cercetarea și a îmbunătăți rezultatele pacienților.

Dar el a combinat acest optimism cu o atenție că creatorii tehnologiei înșiși au avertizat din ce în ce mai mult că sistemele avansate ar putea dezvolta capacități mai întunecate, „poate chiar pentru a lua viață”, a spus el, conform relatării postului despre observațiile sale.

Regele a cerut, de asemenea, să fie puse în aplicare măsuri de protecție înainte de a deveni prea târziu pentru a controla traiectoria tehnologiei și a ridicat impactul asupra mediului al dezvoltării AI, un subiect care a atras o atenție din ce în ce mai mare pe măsură ce construirea centrelor de date tensionează rețelele de energie în mai multe țări.

Cine a participat la summitul scoțian

Lista de invitați este o secțiune transversală a celor mai puternice cifre din industria AI. Printre participanți s-au numărat fondatorul și directorul executiv al Nvidia, Jensen Huang, fondatorul Google DeepMind, Demis Hassabis, și directorul financiar al OpenAI, Sarah Friar, potrivit ABC News. Ministrul britanic pentru inteligența artificială, Kanishka Narayan, a fost și el prezent.

Huang a fost invitat să se întâlnească cu Regele pentru a discuta despre mecanismele de siguranță din industrie, potrivit imaginilor și legendelor distribuite de Reuters. La discuții era de așteptat să participe și părintele Paolo Benanti, un consilier papal care a cerut guvernelor să încetinească dezvoltarea IA.

Alegerea locului și a convocatorului contează. Monarhia britanică nu deține putere de reglementare, dar Regele are o lungă istorie de implicare publică cu privire la riscurile tehnologice emergente, iar summitul le-a oferit celor mai înalte personalități din industrie o masă comună într-un moment în care solicitările de supraveghere se intensifică de ambele maluri ale Atlanticului.

O dezbatere revigorată

Adunarea are loc pe fondul unei dezbateri publice reînnoite asupra riscului AI. Discuția a fost readusă în centrul atenției după ce doi cercetători Anthropic au avertizat că tehnologia care progresează rapid ar putea duce la dispariția umană într-un viitor nu prea îndepărtat, comentarii care au atras o acoperire extinsă și critici în egală măsură.

Directorul executiv antropic, Dario Amodei, a cerut separat companiilor să încetinească ritmul dezvoltării AI. Papa Leon al XIV-lea a îndemnat guvernele din întreaga lume să încetinească dezvoltarea sistemelor AI și să le atenueze efectele perturbatoare, în timp ce președintele american Donald Trump a intervenit și el în dezbatere, făcând ca problema guvernării AI să fie o problemă politică cu adevărat globală, mai degrabă decât una pur tehnică.

În acest context, crește îngrijorarea că eforturile de siguranță AI sunt în urmă în urma dezvoltării unor sisteme din ce în ce mai capabile. În ultimele săptămâni, dezbaterea s-a concentrat asupra faptului dacă industria poate și ar trebui să se reglementeze singură, scepticii punând la îndoială dacă directorii care cer prudență ar putea avea motive ascunse, cum ar fi stabilirea unor reguli care să păstreze conducerea competitivă a anumitor companii.

Nu sunt așteptate reguli obligatorii

Organizatorii nu au încadrat niciodată întâlnirea scoțiană ca pe o negociere. Potrivit ABC News, întâlnirea nu este de așteptat să producă niciun acord obligatoriu. Scopul său, cel puțin nominal, este exploratoriu: dacă un set comun de principii poate ghida modul în care AI este aplicată peste granițe și industrii.

Palatul Buckingham a spus că discuțiile vor lua în considerare dacă IA ar putea fi ghidată „nu doar ca un motor al capacității și eficienței, ci ca un instrument care susține demnitatea umană și contribuie la înflorirea atât a oamenilor, cât și a planetei”.

Această încadrare reflectă o temă la care Regele a revenit în mod repetat: că întrebarea nu este doar dacă AI poate fi sigură, ci pentru ce ar trebui să fie. Remarcile de joi au transformat acest punct într-un avertisment cu privire la proprietate și control, un accent deosebit de diferit față de temerile centrate pe capabilități care domină majoritatea discuțiilor despre riscul AI.

Ce se întâmplă în continuare

Este puțin probabil ca summitul să producă o politică de la sine, dar adaugă impuls unei serii de eforturi oficiale deja în desfășurare. Regatul Unit s-a poziționat ca un convocator pentru siguranța AI încă de la summiturile sale anterioare AI, iar prezența unui ministru dedicat pentru inteligența artificială semnalează că guvernul intenționează să rămână implicat atât cu dezvoltatorii AI din SUA, cât și cu cei chinezi.

Pentru firmele din sală, calculul este delicat. Nvidia, DeepMind și OpenAI se confruntă cu presiuni comerciale pentru a livra sisteme din ce în ce mai capabile, chiar dacă proprii lor cercetători publică avertismente despre ceea ce ar putea face acele sisteme în cele din urmă. O convocare regală nu rezolvă această tensiune, dar asigură că tensiunea rămâne vizibilă.

Mesajul de bază al Regelui, că garanțiile trebuie să sosească înainte ca tehnologia să scape de capacitatea oricui de a o guverna, ajunge într-o săptămână în care discursul industriei privind siguranța a fost neobișnuit de zgomotos, de la dezvăluirea de către OpenAI a multiplelor incidente de siguranță care implică propriile modele până la o dispută publică crescândă între conducerea AI a Microsoft și Anthropic cu privire la modul în care ar trebui concepute sistemele AI.

Rămâne de văzut dacă adunarea de joi se traduce în ceva mai concret. Dar, cu liderii celui mai valoros producător de cipuri din lume și ale celor mai proeminente laboratoare de inteligență artificială așezați într-o casă de țară scoțiană, fiind de acord cel puțin că miza este existențială, conversația despre cine controlează AI și în beneficiul cui s-a mutat decisiv în fața locului.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →