Directorul executiv al OpenAI, Sam Altman, va informa în persoană Consiliul de Securitate al Națiunilor Unite săptămâna viitoare, în timpul reuniunii anuale a liderilor mondiali de la New York pentru Adunarea Generală a ONU, a informat vineri Reuters, citând un purtător de cuvânt al OpenAI.
Briefing-ul va avea loc la o reuniune deschisă a Consiliului de Securitate privind inteligența artificială și securitatea internațională programată miercuri, când organismul format din 15 membri se va reuni în săptămâna la nivel înalt a Adunării Generale. Sesiunea a fost convocată de Franța, care deține președinția consiliului pentru septembrie, și va fi prezidată de ministrul francez pentru Europa și Afaceri Externe, Jean-Noël Barrot. For more context on this story, see our ongoing more AI stories.
„Sam Altman va prezenta o reuniune deschisă a Consiliului de Securitate al ONU în persoană săptămâna viitoare”, a declarat un purtător de cuvânt al OpenAI pentru Reuters.
Ce se așteaptă să spună Altman
Potrivit Reuters, se așteaptă ca remarcile lui Altman să se concentreze pe necesitatea coordonării internaționale și a standardelor de siguranță comune, precum și pe pașii pe care OpenAI îi ia pentru a se asigura că oamenii din întreaga lume beneficiază de AI.
Apariția îl plasează pe cel mai proeminent executiv AI din lume în fața organismului însărcinat cu menținerea păcii și securității internaționale, într-un moment în care guvernele încadrează din ce în ce mai mult IA avansată nu doar ca o oportunitate economică, ci ca o tehnologie cu implicații directe pentru securitatea națională și internațională.
Antropicul poate fi, de asemenea, în cameră
Diplomații au declarat pentru Reuters că se așteaptă și la o prezență la nivel înalt din partea Anthropic, deși participarea nu a fost confirmată. Anthropic nu a răspuns imediat unei solicitări de comentarii.
Orice apariție a lui Anthropic ar avea o rezonanță deosebită, având în vedere postura de profil înalt a companiei cu privire la riscul AI de frontieră din ultimele luni, inclusiv apelurile sale pentru o încetinire coordonată a dezvoltării unor sisteme din ce în ce mai capabile. Reuniunea Consiliului de Securitate are loc la doar câteva săptămâni după ce câțiva lideri din industria AI au cerut o încetinire coordonată, avertizând că AI s-ar putea îmbunătăți în curând de la sine și s-ar putea scăpa de controlul uman.
Cazul de urgență al Franței
Într-o notă conceptuală distribuită membrilor consiliului și văzută de Reuters, Franța a subliniat „urgența unei acțiuni pentru a promova dezvoltarea sigură și responsabilă a inteligenței artificiale în beneficiul comunității internaționale în ansamblu”.
Nota a menționat riscul utilizării abuzive a IA în scopuri rău intenționate și a spus că întâlnirea își propune să permită participanților să își prezinte analiza riscurilor legate de pierderea controlului sau de utilizarea celor mai recente modele de IA pentru a dezvolta, facilita și desfășura acțiuni cu impact asupra păcii și securității internaționale.
Un Consiliu care se întoarce la o temă familiară
Consiliul de Securitate s-a mai adresat AI înainte. S-a întâlnit pentru prima dată cu privire la riscurile inteligenței artificiale în 2023, când China a avertizat că tehnologia nu ar trebui să devină un „cal fugit”, iar Statele Unite au avertizat împotriva folosirii acesteia pentru a cenzura sau reprima oamenii. Sesiunea de miercuri reprezintă o escaladare semnificativă a acelui angajament: în cazul în care întâlnirile anterioare au auzit avertismente generale, săptămâna viitoare va include un briefing live din partea CEO-ului companiei ale cărei produse se află în centrul boom-ului AI.
Altman, la rândul său, a avertizat cu privire la riscurile avansate ale inteligenței artificiale cu mult înainte de valul actual de succes comercial. Într-un eseu din 2015, intitulat „Machine Intelligence, part 1”, el a scris că „dezvoltarea inteligenței supraumane a mașinilor este probabil cea mai mare amenințare pentru existența continuă a umanității” – o linie care precede ascensiunea OpenAI și care va fi inevitabil reapărută pe măsură ce se va adresa consiliului.
De ce contează
Simbolismul briefing-ului este greu de supraestimat. Un director al unei companii de tehnologie care se adresează Consiliului de Securitate semnalează cât de mult AI a urcat pe agenda securității internaționale, alături de proliferarea nucleară și războiul cibernetic. De asemenea, reflectă o schimbare în dezbaterea în sine: după doi ani dominați de argumente despre drepturi de autor, locuri de muncă și dezinformare, puterea de convocare a ONU este îndreptată direct către riscul de frontieră - pierderea controlului, utilizarea rău intenționată și absența standardelor internaționale comune.
Ce rezultă din asta este o altă întrebare. Consiliul de Securitate nu are nicio autoritate de reglementare cu privire la dezvoltarea AI, iar rezoluțiile sale privind tehnologia emergentă au fost din istorie fără caracter obligatoriu. Dar întâlnirea oferă guvernelor o etapă pentru a-și stabili pozițiile – și oferă companiilor AI o audiență de miniștri de externe și șefi de stat pe care nicio lansare de produs nu ar putea egala. În condițiile în care Franța face presiuni pentru urgență și se așteaptă ca ambele laboratoare de inteligență artificială din SUA să fie reprezentate, sesiunea de miercuri ar putea marca momentul în care guvernarea inteligenței artificiale a devenit un punct fix pe agenda diplomatiei globale de securitate.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
