Startup-ul chinezesc DeepSeek se va număra printre companiile care vor informa Consiliul de Securitate al Națiunilor Unite săptămâna aceasta cu privire la riscurile prezentate de inteligența artificială, au declarat pentru Reuters două surse familiare cu problema, în timp ce liderii mondiali se reunesc la New York pentru Adunarea Generală anuală a ONU.
Consiliul de Securitate alcătuit din 15 membri urmează să se întrunească pe 23 septembrie pentru a discuta despre inteligența artificială și securitatea internațională – la câteva săptămâni după ce mai mulți lideri din industria inteligenței artificiale au cerut o încetinire coordonată a dezvoltării sistemelor de inteligență artificială din ce în ce mai puternice, avertizând că acestea s-ar putea îmbunătăți în curând de la sine și s-ar putea scăpa de controlul uman. Pentru mai mult context asupra acestei povești, consultați [acoperirea industriei AI] (https://aibuzzwire.news).
Cine va fi în cameră
Directorul executiv al OpenAI, Sam Altman, plănuiește să informeze întâlnirea, la care diplomații așteaptă participarea și din partea unor înalți reprezentanți ai Anthropic, a informat Reuters săptămâna trecută.
Pe partea chineză, DeepSeek și alte firme chineze de inteligență artificială, inclusiv Moonshot, au fost invitate să facă declarații, a spus una dintre surse. Fondatorul DeepSeek, Liang Wenfeng, nu intenționează să participe, a avertizat sursa, menționând că planurile rămân fluide și s-ar putea schimba în ultimul moment. DeepSeek și Moonshot nu au răspuns imediat solicitărilor de comentarii.
Sesiunea aterizează într-o săptămână în care New York-ul este deja plin de diplomație AI, în timp ce liderii mondiali se adună pentru Adunarea Generală anuală a ONU și reuniunile secundare se înmulțesc în jurul acesteia. Acest timp reduce ambele sensuri pentru DeepSeek: imprimaturul consiliului semnalează că laboratoarele de top ale Chinei sunt acum tratate ca voci indispensabile cu privire la riscul AI de frontieră, chiar dacă poziția oficială a Beijingului continuă să respingă retorica de încetinire apărută din Silicon Valley.
Gama neobișnuită – cel mai proeminent executiv al AI al Americii împărtășește agenda Consiliului de Securitate cu cel mai cunoscut laborator deschis din China – face din sesiunea de miercuri cea mai importantă întâlnire de AI pe care a avut-o consiliul de când a abordat subiectul pentru prima dată.
De la „Runaway Horse” la Rogue AI
Consiliul de Securitate al ONU, care este însărcinat cu menținerea păcii și securității internaționale, s-a reunit pentru prima dată cu privire la riscurile AI în 2023. Chiar și atunci, liniile de falie erau vizibile: China a avertizat că tehnologia nu ar trebui să devină un „cal fugit”, în timp ce Statele Unite au avertizat împotriva folosirii acesteia pentru a cenzura sau reprima oamenii.
Trei ani mai târziu, dezbaterea a trecut de la ipotetice la rapoarte de incidente. Secretarul general al ONU Antonio Guterres i-a avertizat pe liderii mondiali săptămâna trecută că avansarea rapidă a IA prezintă riscuri care nu pot fi ignorate, punându-l în contradicție cu președintele american Donald Trump, care a susținut că garanțiile existente sunt suficiente și că China ar beneficia de îndoiala asupra dezvoltării AI.
Tăcerea publică de la Beijing cu privire la riscul catastrofal
Una dintre cele mai atente observații din raportarea Reuters se referă la ceea ce liderii laboratoarelor chineze nu au spus. Spre deosebire de șefii laboratoarelor de frontieră din SUA, cum ar fi OpenAI și Anthropic, liderii dezvoltatorilor de modele de top din China rareori au articulat public posibilitatea ca sistemele AI din ce în ce mai capabile să înșele oamenii, să evite controlul sau să provoace daune catastrofale - și au rămas în mare tăcere cu privire la aceste riscuri de când dezbaterea s-a intensificat în Statele Unite în septembrie.
Mass-media de stat chineză, la rândul lor, a respins apelurile pentru o încetinire a dezvoltării AI, ca decurgând dintr-un „manual de joc al Războiului Rece” – un efort, potrivit Beijingului, care vizează păstrarea dominației Washingtonului în tehnologia de ultimă oră și excluderea completă a Beijingului din sistemul global de guvernare a AI.
Apariția lui DeepSeek la consiliu are, prin urmare, o dublă semnificație: este, în același timp, cea mai vizibilă implicare a Beijingului de până acum cu conversația globală despre riscul inteligenței artificiale și un test pentru a stabili dacă laboratoarele chineze se vor implica deloc în încadrarea riscului catastrofal.
Discuții înaintea lui Trump-Xi
Sesiunea Consiliului de Securitate nu este singură. Înalți oficiali americani și chinezi au convenit să poarte discuții suplimentare despre siguranța IA, a declarat secretarul american al Trezoreriei, Scott Bessent, pe 21 septembrie, după ce s-au întâlnit înaintea discuțiilor programate ale lui Trump cu președintele chinez Xi Jinping, la sfârșitul acestei săptămâni, la Washington.
Acea succesiune – un summit cu mize mari de la Washington care se desfășoară în paralel cu o dezbatere a Consiliului de Securitate la New York – subliniază cât de bine a trecut AI de la un dosar de politică tehnică la centrul relației bilaterale.
Ce să urmărești
Trei întrebări planează asupra întâlnirii de miercuri. Dacă Liang Wenfeng se răzgândește și participă. Indiferent dacă declarația lui DeepSeek implică riscurile pachetului de cărți - înșelăciune, pierderea controlului - pe care omologii săi americani le subliniază sau rămâne pe un teren mai sigur de acces echitabil și drepturi de dezvoltare. Și dacă consiliul poate produce ceva dincolo de pozițiile familiare.
Bilanțul consiliului cu privire la IA este subțire: o primă ședință în 2023, un avertisment al secretarului general în această lună și niciun cadru obligatoriu. Dar, ca o etapă pentru noua discuție SUA-China cu privire la cine stabilește regulile pentru IA de frontieră – și ale căror temeri sunt luate în serios – are puțini rivali.
---
Rămâneți înaintea AIObțineți cele mai recente știri, analize și descoperiri despre AI - toate într-un singur loc.
Citiți mai multe știri AI →
