OpenAI-topman Sam Altman zal volgende week de Veiligheidsraad van de Verenigde Naties persoonlijk briefen tijdens de jaarlijkse bijeenkomst van wereldleiders in New York voor de Algemene Vergadering van de VN, meldde Reuters vrijdag, onder verwijzing naar een OpenAI-woordvoerder.

De briefing zal plaatsvinden tijdens een open bijeenkomst van de Veiligheidsraad over kunstmatige intelligentie en internationale veiligheid, gepland voor woensdag, wanneer het 15 leden tellende orgaan bijeenkomt tijdens de week op hoog niveau van de Algemene Vergadering. De zitting is bijeengeroepen door Frankrijk, dat in september het voorzitterschap van de raad bekleedt, en zal worden voorgezeten door de Franse minister van Europa en Buitenlandse Zaken, Jean-Noël Barrot. Voor meer context over dit verhaal, zie ons AI-nieuws.

"Sam Altman zal volgende week persoonlijk een open vergadering van de VN-Veiligheidsraad toelichten", vertelde een woordvoerder van OpenAI aan Reuters.

Wat Altman naar verwachting zal zeggen

Volgens Reuters zullen de opmerkingen van Altman zich naar verwachting richten op de behoefte aan internationale coördinatie en gedeelde veiligheidsnormen, evenals op de stappen die OpenAI neemt om ervoor te zorgen dat mensen over de hele wereld kunnen profiteren van AI.

De verschijning plaatst 's werelds meest prominente AI-bestuurder voor het orgaan dat belast is met het handhaven van de internationale vrede en veiligheid, op een moment waarop regeringen geavanceerde AI steeds meer beschouwen als een economische kans, maar als een technologie met directe implicaties voor de nationale en internationale veiligheid.

Antropisch mag ook in de kamer zijn

Diplomaten vertelden Reuters dat ze ook een aanwezigheid op hoog niveau van Anthropic op de bijeenkomst verwachtten, hoewel die deelname niet was bevestigd. Anthropic reageerde niet onmiddellijk op een verzoek om commentaar.

Elke verschijning van Anthropic zou bijzondere weerklank vinden, gezien de opvallende houding van het bedrijf op het gebied van grensoverschrijdende AI-risico's de afgelopen maanden, inclusief de roep om een ​​gecoördineerde vertraging in de ontwikkeling van steeds capabeler wordende systemen. De bijeenkomst van de Veiligheidsraad komt slechts enkele weken nadat verschillende leiders uit de AI-industrie hadden aangedrongen op een gecoördineerde vertraging, waarbij ze waarschuwden dat AI snel zelfstandig zou kunnen verbeteren en buiten de menselijke controle zou kunnen vallen.

Frankrijk pleit voor urgentie

In een conceptnota die onder de raadsleden werd verspreid en die door Reuters werd ingezien, onderstreepte Frankrijk “de urgentie van actie om de veilige en verantwoorde ontwikkeling van kunstmatige intelligentie te bevorderen ten behoeve van de internationale gemeenschap als geheel.”

In de nota werd het risico van misbruik van AI voor kwaadwillige doeleinden aangehaald en werd gezegd dat de bijeenkomst tot doel heeft deelnemers hun analyse te laten presenteren van de risico’s die verband houden met het verlies van controle, of met het gebruik van de nieuwste AI-modellen om acties te ontwikkelen, te faciliteren en uit te voeren met een impact op de internationale vrede en veiligheid.

Een raad die terugkeert naar een bekend thema

De Veiligheidsraad heeft AI al eerder besproken. Het kwam voor het eerst bijeen over de risico's van kunstmatige intelligentie in 2023, toen China waarschuwde dat de technologie geen ‘op hol geslagen paard’ mocht worden en de Verenigde Staten waarschuwden tegen het gebruik ervan om mensen te censureren of te onderdrukken. De sessie van woensdag vertegenwoordigt een aanzienlijke escalatie in die betrokkenheid: waar eerdere bijeenkomsten algemene waarschuwingen hoorden, zal de sessie van volgende week een live briefing bevatten van de CEO van het bedrijf wiens producten centraal staan ​​in de AI-boom.

Altman van zijn kant waarschuwt al lang vóór de huidige golf van commercieel succes voor geavanceerde AI-risico's. In een essay uit 2015 met de titel ‘Machine Intelligence, deel 1’ schreef hij dat ‘de ontwikkeling van bovenmenselijke machine-intelligentie waarschijnlijk de grootste bedreiging is voor het voortbestaan ​​van de mensheid’ – een lijn die dateert van vóór de opkomst van OpenAI en die onvermijdelijk weer naar boven zal komen als hij de raad toespreekt.

Waarom het ertoe doet

De symboliek van de briefing kan moeilijk worden overschat. Een directeur van een technologiebedrijf die de Veiligheidsraad toespreekt, geeft aan hoe ver AI is gestegen op de internationale veiligheidsagenda, naast nucleaire proliferatie en cyberoorlogvoering. Het weerspiegelt ook een verschuiving in het debat zelf: na twee jaar gedomineerd te zijn door argumenten over auteursrecht, banen en desinformatie, wordt de bijeenbrengende macht van de VN regelrecht gericht op grensrisico’s – verlies van controle, kwaadwillig gebruik en de afwezigheid van gedeelde internationale normen.

Wat er van komt is een andere vraag. De Veiligheidsraad heeft geen regelgevende autoriteit over de ontwikkeling van AI, en zijn resoluties over opkomende technologie zijn historisch gezien niet-bindend geweest. Maar de bijeenkomst geeft regeringen een podium om standpunten in te nemen – en geeft AI-bedrijven een publiek van ministers van Buitenlandse Zaken en staatshoofden dat geen enkele productlancering kan evenaren. Nu Frankrijk aandringt op urgentie en beide toonaangevende Amerikaanse AI-laboratoria naar verwachting vertegenwoordigd zullen zijn, zou de sessie van woensdag wel eens het moment kunnen markeren waarop AI-governance een vast item op de agenda van de mondiale veiligheidsdiplomatie werd.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →