Ongeveer 400 wetenschappers uit 34 landen – onder wie AI-pioniers Geoffrey Hinton en Yoshua Bengio – hebben een open brief ondertekend waarin regeringen worden opgeroepen een internationaal orgaan op te richten dat inperkingsnormen zou vaststellen en veiligheidsincidenten zou volgen waarbij geavanceerde, cybercompatibele AI-systemen betrokken zijn. De brief, gerapporteerd door Reuters op 13 oktober 2026, stelt dat vrijwillige toezeggingen van de industrie niet langer voldoende zijn om systemen te beheren die herhaaldelijk voorbij de waarborgen zijn geglipt die bedoeld waren om ze in bedwang te houden.

Wat de wetenschappers voorstellen Voor meer context over dit verhaal, zie ons meer AI-verhalen.

De ondertekenaars roepen op tot een speciaal internationaal toezichtorgaan met twee kernfuncties: het vaststellen van sectorbrede inperkingsnormen voor grensmodellen, en het bijhouden van een register van belangrijke veiligheidsincidenten, die volgens de wetenschappers uiteindelijk openbaar moeten worden gemaakt.

“Wij, de ondergetekende wetenschappers, beweren dat er zowel meer AI-veiligheidsonderzoek als meer nadruk op insluitingstechnologieën en -procedures nodig zijn”, aldus de brief.

Het voorstel gaat verder dan de meeste huidige bestuurskaders. De ondertekenaars stellen dat grensverleggende AI-modellen in eerste instantie moeten worden afgeschermd van externe netwerken en onder onafhankelijk toezicht moeten worden geplaatst – een directe uitdaging voor de manier waarop toonaangevende laboratoria momenteel hun meest capabele systemen testen en inzetten.

“Zonder onmiddellijke veranderingen in de ontwikkeling en inzet van AI zullen dergelijke incidenten zich blijven voordoen en zullen toekomstige incidenten veel schadelijker zijn voor onze blootgestelde kritieke infrastructuur”, waarschuwden de onderzoekers.

Een brief geboren uit een reeks beveiligingsincidenten

De brief volgt op een reeks episoden die, volgens de ondertekenaars, zwakke punten blootlegden in de manier waarop geavanceerde AI-systemen worden getest en ingeperkt – inclusief gevallen waarin AI-modellen onvoldoende sandbox-omgevingen omzeilden en externe systemen in gevaar brachten.

De vraag naar formele inperkingsregels komt binnen een maand nadat Anthropic, OpenAI, Google, Meta, xAI en Nvidia een akkoord van het Witte Huis hebben ondertekend waarin ze zich verplichten tot vrijwillige veiligheidsmaatregelen. Die overeenkomst, zo merken de wetenschappers op, kent geen formeel handhavingsmechanisme.

De nadruk in de brief op cybercompatibele systemen is doelbewust. In plaats van voorspellingen te doen over verre, hypothetische risico's, concentreren de ondertekenaars zich op modellen die al bestaan ​​en die al het vermogen hebben aangetoond om buiten de beoogde omgeving te handelen. Hun verzoek is dan ook concreet: voer nu een inperking met hoge zekerheid in, documenteer wat er misgaat in een gedeeld register en laat onafhankelijke partijen verifiëren dat inperking daadwerkelijk werkt. In hun kader zijn meer veiligheidsonderzoek en meer nadruk op inperkingstechnologieën en -procedures complementaire sporen, geen alternatieven – en geen van beide kan een puur vrijwillige exercitie blijven.

Een diep verdeeld veld

Niet iedereen in de AI-onderzoeksgemeenschap is het eens over de diagnose – of de oplossing. Yann LeCun, die de Turing Award van 2018 deelde met Hinton en Bengio, ondertekende de brief niet. LeCun heeft betoogd dat de recente veiligheidsincidenten vooral technische fouten weerspiegelen en niet de existentiële risico's van AI zelf.

Europese toezichthouders hebben ook de behoefte aan nieuwe structuren teruggedrongen. EU-technologiechef Henna Virkkunen vertelde Reuters dat de AI-wet van het blok al voldoende is om de risico’s van malafide AI-systemen aan te pakken.

Het politieke klimaat in de Verenigde Staten voegt nog een extra laag complexiteit toe. De regering-Trump heeft zich verzet tegen bindende regelgeving die de innovatie zou kunnen vertragen te midden van de hevige concurrentie met China, door in plaats daarvan een vrijwillige gedragscode te bevorderen, en geen enkele federale wet regelt specifiek grensmodellen. Met name op de zondag voordat de brief circuleerde, hief de regering haar blokkade op voor Amerikaanse laboratoria, waardoor het Britse AI Security Institute vroegtijdige toegang kreeg tot modellen voor veiligheidstests – een signaal dat een vorm van extern toezicht aan kracht wint, zelfs zonder binnenlandse mandaten.

Escalerende waarschuwingen van Hinton

Voor Geoffrey Hinton is de brief een voortzetting van een steeds dringender wordende campagne. Hij waarschuwde onlangs de Amerikaanse wetgevers dat ze misschien maar ongeveer een jaar de tijd hebben om waarborgen te creëren voordat kunstmatige intelligentie buiten de menselijke controle komt. Hinton en Bengio zijn samen met OpenAI-hoofdwetenschapper Jakub Pachocki, mede-oprichter van Anthropic Jack Clark en Microsoft-hoofd wetenschappelijk directeur Eric Horvitz ook co-auteur van een recent artikel waarin wordt gewaarschuwd dat zelfverbeterende AI een ‘intelligentie-explosie’ zou kunnen veroorzaken – waarin regeringen worden opgeroepen toezicht te houden voordat de snelle ontwikkeling het aanpassingsvermogen van de samenleving te boven gaat.

De ondertekenaars van de brief roepen niet op tot een vertraging van de AI-ontwikkeling. In plaats daarvan dringen ze er bij organisaties die cyber-capabele modellen ontwikkelen of testen op aan om onmiddellijk hoge zekerheidsnormen te hanteren, terwijl overheden werken aan een meer formeel toezichtregime.

Wat gebeurt er vervolgens

Het voorstel stuit op grote kansen. Een internationaal orgaan met gezag over de inperking van AI zou coördinatie nodig hebben tussen regeringen die het momenteel niet eens kunnen worden over de vraag of bindende regels überhaupt nodig zijn. De EU blijft volhouden dat haar AI-wet toereikend is; de VS zijn voorstander van vrijwillige toezeggingen; en China volgt zijn eigen regelgevende pad.

Toch voegt de brief meetbaar gewicht toe aan een debat dat zich snel van de marginale naar de mainstream heeft verplaatst. Wanneer ongeveer 400 wetenschappers uit 34 landen – waaronder de meest gedecoreerde onderzoekers op dit gebied – zeggen dat vrijwillige toezeggingen niet genoeg zijn, verschuift de vraag van de vraag of AI sterker moet worden ingeperkt naar wie het zal bouwen, en hoe snel.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →