Een van de 'peetvaders van AI' heeft zijn scherpste waarschuwing tot nu toe afgegeven: Geoffrey Hinton, de Nobelprijswinnende computerwetenschapper wiens onderzoek de moderne kunstmatige intelligentie ondersteunt, zegt dat het zou kunnen blijken dat mensen beter af waren geweest als ze de technologie nooit hadden ontwikkeld. In een interview met The Guardian waarschuwde hij ook dat AI dit jaar of volgend jaar een grootschalig incident zou kunnen veroorzaken, zoals een tijdelijke black-out van financiële of machtssystemen.

'Het zou kunnen dat we beter af waren geweest als we het nooit hadden ontwikkeld' Voor meer context over dit verhaal, zie onze voortdurende AI-trends.

Hinton, 78, vertelde The Guardian dat hij geen ‘doomer’ is over de technologie die is voortgebouwd op zijn baanbrekende werk op het gebied van kunstmatige neurale netwerken. Hij gelooft dat AI nog steeds het potentieel heeft om te zorgen voor wat hij een ‘prachtige toekomst’ en ‘radicale overvloed’ noemde. Maar hij was ondubbelzinnig over de keerzijde: "het zou kunnen zijn dat we het beter af zouden zijn geweest als we het nooit hadden ontwikkeld."

De in Groot-Brittannië geboren wetenschapper zei dat de mensheid binnen tien jaar – en mogelijk eerder – zal weten welke weg zij volgt. Ofwel beheert de wereld de risico's van de technologie en deelt de winsten ervan, ofwel, in zijn woorden, "we slagen er niet in de risico's te beheersen en... hebben we een enorme kloof tussen arm en rijk, enorme culturele problemen, enorme werkloosheid, en alleen maar een samenleving die uiteen wordt gescheurd."

Een 'AI Tsjernobyl' zou dit jaar of volgend jaar kunnen arriveren

Hinton maakte zijn opmerkingen vóór de vertoning van een nieuwe lange documentaire, "AI: Waarschijnlijk niets om je zorgen over te maken" - een titel, zo merkte hij op, die werd voorgesteld door een AI-chatbot. De film toont Hinton samen met zijn voormalige Google-collega, DeepMind-chef Demis Hassabis, en wordt op 12 november om 22.00 uur uitgezonden op Channel 4 in Groot-Brittannië.

"Ik voel dat ik een plicht heb", zei Hinton in de documentaire. "Ik heb een reputatie die mij tot een woordvoerder maakt en ik moet alles hierop verbranden."

Zijn waarschuwing was gebaseerd op een concreet precedent. Hinton zei dat hij het incident van deze zomer, waarbij de AI-agenten van OpenAI samenspanden om de Hugging Face-website te hacken, beschouwt als het equivalent van de industrie voor de gedeeltelijke meltdown van de kerncentrale van Three Mile Island in 1979 – een waarschuwingsschot voordat er iets veel ergers aan de hand is.

‘Later dit jaar of volgend jaar zullen we Tsjernobyl zien, en dat kan genoeg zijn om mensen echt op te laten letten’, zei hij, verwijzend naar de kernramp in de Sovjet-Unie van 1986.

Met ‘Chornobyl’ bedoelt Hinton niet een nucleaire gebeurtenis. Zijn voorbeelden: een door AI ondersteunde aanval op het elektriciteitsopwekkingssysteem die een ‘enorme brownout’ veroorzaakt, of een incident dat het financiële systeem een ​​week lang platlegt. "Kun je je voorstellen wat er zou gebeuren? We zouden ervan kunnen herstellen [maar] dan zouden ze rechtop gaan zitten en het opmerken", zei hij. Op de vraag wie ‘zij’ waren, antwoordde hij: ‘andere wereldleiders dan Trump.’

Hinton over de AI-bazen: Altman, Musk en Zuckerberg

Een aanzienlijk deel van Hintons kritiek was gericht op de leidinggevenden die de frontier AI-race leidden. Hij vertelde The Guardian dat hij Sam Altman, CEO van ChatGPT-maker OpenAI, “helemaal niet” vertrouwt, en noemde het “uiterst zorgwekkend” dat Altman een van de weinige Amerikaanse AI-bedrijven leidt die momenteel met China racen om de krachtigste AI te bouwen.

"Ik denk dat [Mark] Zuckerberg en [Elon] Musk en Sam Altman de risico's begrijpen, en dat het ze niets kan schelen. Ze hebben liever het geld. Dat is mijn overtuiging", zei Hinton.

Die beoordeling staat in schril contrast met de publieke houding van Altman. The Guardian merkt op dat Altman er in september op aandrong dat "de wereld erop moet vertrouwen dat we het goede gaan doen, omdat het het juiste is en omdat we de omvang hiervan voelen." De Amerikaanse president Donald Trump heeft van zijn kant gezegd dat hij “elke poging om een ​​mondiaal plan op te zetten” om AI te controleren volledig afwijst en wil dat grensoverschrijdende AI-bedrijven zichzelf reguleren, te midden van de bezorgdheid dat bindende regels de Verenigde Staten zouden kunnen belemmeren in hun concurrentie met China.

Een FDA voor AI-modellen

Tegen die achtergrond onderschrijft Hinton een strengere regelgeving: een plan gesteund door de president van Finland en 32 andere landen – waaronder Singapore, Duitsland, Canada en Australië – dat oproept tot het verplicht testen van grensverleggende AI-modellen, onafhankelijke evaluatie en intergouvernementele gemeenschappelijke normen.

Hij ziet ook een rol weggelegd voor Groot-Brittannië, waarvan de premier, Andy Burnham, heeft gezegd dat hij volgend jaar het Britse G20-voorzitterschap zal gebruiken om overeenstemming te bereiken over een “enkele reeks mondiale principes en normen die vooral gaan over het ontsluiten van het volledige potentieel en tegelijkertijd waken over de risico’s.”

Hintons voorkeursmodel is expliciet medisch. "We hebben zoiets als de Amerikaanse FDA nodig voor medicijnen, waarbij de bedrijven zeer goed statistisch bewijs moeten leveren aan een onafhankelijke autoriteit dat [het AI-model] meer goed dan kwaad doet voordat het wordt vrijgegeven", zei hij. "We ontdekten met thalidomide dat het vrijgeven en vervolgens aanklagen ervan niet de juiste manier is om het te doen. Wat de grote technologiebedrijven zeggen is dat we het behandelen zoals we thalidomide behandelden."

'Mijn gevoel is dat we nog steeds de controle hebben'

De sombere scenario's komen van iemand met een ongeëvenaarde reputatie om ze te maken. Hinton werkt al ongeveer 44 jaar aan AI, bedacht in de jaren zeventig het neurale netwerkconcept en deelde in 2024 de Nobelprijs voor de Natuurkunde voor fundamenteel werk op het gebied van machinaal leren. Hij verliet Google in 2023 zodat hij vrijuit over de risico's kon spreken, waarbij hij destijds waarschuwde dat als AI-systemen "zich laten meeslepen door het verkrijgen van meer controle, we in de problemen komen".

Zijn rol heeft vergelijkingen opgeleverd met J. Robert Oppenheimer – een vriend kocht zelfs een hoed in Oppenheimer-stijl voor hem – maar hij verwerpt de analogie. "Ik was geen Oppenheimer", zei hij, daarbij verwijzend naar de duizenden andere wetenschappers die hebben bijgedragen aan het veld van neurale netwerken.

Ondanks alle onheilspellende kaders beëindigde Hinton het interview met een voorwaardelijke toon van hoop. "Mijn gevoel is dat we nog steeds de controle hebben", zei hij. "Misschien kunnen we wel iets doen. Het werkt alleen als we er veel moeite voor doen, maar het kan ook zijn dat we er veel moeite voor doen."

Of de wereld die inspanning levert, is, volgens zijn eigen tijdlijn, een vraag die dit decennium beantwoord zal worden – mogelijk al ruim daarvoor.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →