De Chinese AI-startup DeepSeek zal een van de bedrijven zijn die deze week de Veiligheidsraad van de Verenigde Naties brieft over de risico's van kunstmatige intelligentie, vertelden twee bronnen die bekend zijn met de zaak aan Reuters, terwijl wereldleiders in New York bijeenkomen voor de jaarlijkse Algemene Vergadering van de VN.
De uit 15 leden bestaande Veiligheidsraad zal op 23 september bijeenkomen om AI en de internationale veiligheid te bespreken – weken nadat verschillende leiders uit de AI-industrie hadden opgeroepen tot een gecoördineerde vertraging van de ontwikkeling van steeds krachtigere AI-systemen, waarbij ze waarschuwden dat ze snel zelfstandig zouden kunnen verbeteren en aan de menselijke controle zouden kunnen ontsnappen. Voor meer context over dit verhaal, zie onze voortdurende AI-industrieverslaggeving.
Wie zal er in de kamer zijn
OpenAI-topman Sam Altman is van plan de bijeenkomst te briefen, waar diplomaten ook deelname verwachten van hoge vertegenwoordigers van Anthropic, meldde Reuters vorige week.
Aan Chinese zijde zijn DeepSeek en andere Chinese AI-bedrijven, waaronder Moonshot, uitgenodigd om verklaringen af te leggen, aldus een van de bronnen. DeepSeek-oprichter Liang Wenfeng is niet van plan aanwezig te zijn, waarschuwde de bron, waarbij hij opmerkte dat plannen vloeibaar blijven en op het laatste moment kunnen veranderen. DeepSeek en Moonshot reageerden niet onmiddellijk op verzoeken om commentaar.
De sessie vindt plaats in een week waarin New York al vol is van AI-diplomatie, terwijl wereldleiders samenkomen voor de jaarlijkse Algemene Vergadering van de VN en er daaromheen steeds meer nevenbijeenkomsten plaatsvinden. Die timing werkt voor DeepSeek in beide richtingen: de imprimatur van de raad geeft aan dat China's leidende laboratoria nu worden behandeld als onmisbare stemmen op het gebied van grens-AI-risico, zelfs nu het officiële standpunt van Peking de vertragingsretoriek uit Silicon Valley blijft verwerpen.
De ongebruikelijke opstelling – Amerika's meest prominente AI-bestuurder die een agenda van de Veiligheidsraad deelt met China's bekendste open-gewichtslaboratorium – maakt de sessie van woensdag tot de meest consequente AI-bijeenkomst die de raad heeft gehouden sinds hij het onderwerp voor het eerst ter sprake bracht.
Van 'Runaway Horse' tot Rogue AI
De VN-Veiligheidsraad, die belast is met het handhaven van de internationale vrede en veiligheid, kwam in 2023 voor het eerst bijeen over de risico’s van AI. Zelfs toen waren de breuklijnen zichtbaar: China waarschuwde dat de technologie geen ‘op hol geslagen paard’ mocht worden, terwijl de Verenigde Staten waarschuwden voor het gebruik ervan om mensen te censureren of te onderdrukken.
Drie jaar later is het debat verschoven van hypothesen naar incidentrapporten. VN-secretaris-generaal Antonio Guterres waarschuwde de wereldleiders vorige week dat de snel oprukkende AI risico’s met zich meebrengt die niet kunnen worden genegeerd, waardoor hij op gespannen voet komt te staan met de Amerikaanse president Donald Trump, die heeft betoogd dat de bestaande waarborgen voldoende zijn en dat China er baat bij zou hebben als er twijfel wordt geuit over de ontwikkeling van AI.
Het publieke stilzwijgen in Peking over catastrofale risico's
Een van de scherpere observaties in de berichtgeving van Reuters betreft wat Chinese laboratoriumleiders niet hebben gezegd. In tegenstelling tot de hoofden van Amerikaanse grenslaboratoria zoals OpenAI en Anthropic, hebben de leiders van China's topmodelontwikkelaars zelden publiekelijk de mogelijkheid uitgesproken dat steeds capabeler wordende AI-systemen mensen kunnen misleiden, controle kunnen ontwijken of catastrofale schade kunnen aanrichten – en zij zijn grotendeels stil gebleven over deze risico's sinds het debat in de Verenigde Staten in september heviger werd.
De Chinese staatsmedia hebben op hun beurt de oproepen tot een vertraging van de AI-ontwikkeling afgewezen als voortkomend uit een ‘Koude Oorlog-playbook’ – een poging, volgens Beijing, gericht op het behouden van de dominantie van Washington op het gebied van de allernieuwste technologie en het volledig uitsluiten van Peking van het mondiale AI-governancesysteem.
De verschijning van DeepSeek in de raad heeft daarom een dubbele betekenis: het is tegelijkertijd Peking's meest zichtbare betrokkenheid tot nu toe bij het mondiale AI-risicogesprek en een test of Chinese laboratoria zich überhaupt zullen bezighouden met het in kaart brengen van catastrofale risico's.
Gesprekken vooruit op Trump-Xi
De zitting van de Veiligheidsraad staat niet op zichzelf. Hoge Amerikaanse en Chinese functionarissen kwamen overeen om verdere gesprekken te voeren over AI-veiligheid, zei de Amerikaanse minister van Financiën, Scott Bessent, op 21 september, na een ontmoeting voorafgaand aan de geplande gesprekken van Trump met de Chinese president Xi Jinping later deze week in Washington.
Deze volgorde – een topconferentie met hoge inzet in Washington die parallel loopt aan een debat in de Veiligheidsraad in New York – onderstreept hoe grondig AI zich heeft ontwikkeld van een technisch beleidsdossier naar het middelpunt van de bilaterale relatie.
Wat te bekijken
Er hangen drie vragen tijdens de bijeenkomst van woensdag. Of Liang Wenfeng van gedachten verandert en aanwezig is. Of de verklaring van DeepSeek nu ingaat op de risico's – bedrog, verlies van controle – die de Amerikaanse tegenhangers benadrukken, of blijft op een veiliger grond van gelijke toegang en ontwikkelingsrechten. En of de raad iets kan voortbrengen dat verder gaat dan bekende standpunten.
De staat van dienst van de raad op het gebied van AI is mager: een eerste bijeenkomst in 2023, een waarschuwing van de secretaris-generaal deze maand en geen bindend kader. Maar als podium voor de opkomende discussie tussen de VS en China over wie de regels bepaalt voor grensoverschrijdende AI – en wiens angsten serieus worden genomen – heeft het weinig rivalen.
---
Blijf AI een stap voorOntvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.
Lees meer AI-nieuws →
