Masayoshi Son, de oprichter van SoftBank die een aantal van de grootste weddenschappen in de geschiedenis van technologie-investeringen in kunstmatige intelligentie heeft geplaatst, heeft deze week een ongewoon botte waarschuwing afgegeven: superintelligentie kan, als het in verkeerde handen terechtkomt, 'supergevaarlijk' zijn.
De waarschuwing, gerapporteerd door The Next Web en opgepikt door onder meer de Economic Times, Business Standard en Moneycontrol, kwam met bijzondere kracht binnen vanwege wie de waarschuwing had uitgesproken. Son is geen veiligheidsonderzoeker of toezichthouder van de overheid. Hij is de financier achter de enorme posities van SoftBank in OpenAI en de uitbouw van het Stargate-datacenter, en hij heeft de afgelopen twee jaar de geruchten over een AI-zeepbel van de hand gewezen, waarbij hij een dergelijke discussie een belediging noemde. Voor meer context over dit verhaal, zie ons meer AI-verhalen.
Een zeldzame waarschuwing in Kyoto
De opmerkingen van Son kwamen op het Science and Technology in Society-forum in Kyoto, de jaarlijkse bijeenkomst waar overheden en bedrijven technologische samenwerking tot stand brengen. Volgens berichten over zijn optreden combineerde Son zijn optimisme dat superintelligentie binnen een paar jaar zou kunnen komen met een waarschuwing dat de macht ervan, geconcentreerd in de verkeerde handen, 'supergevaarlijk' zou kunnen worden.
De instelling van het forum is van belang. Washington en aanverwante regeringen proberen actief de internationale AI-samenwerking vorm te geven, en de Amerikaanse wetenschaps- en technologieadviseur Michael Kratsios gebruikte hetzelfde podium om een multinationale impuls aan te kondigen om wetenschappelijke ontdekkingen met AI te versnellen, samen met regeringen als Japan, Zuid-Korea, Groot-Brittannië, Duitsland, Singapore en de VAE. Tegen die achtergrond van officieel enthousiasme viel de voorzichtigheid van Son op – niet als een afwijzing van AI, maar als voorwaarde daarvoor.
Het zou niet de eerste keer zijn. Volgens een gedetailleerd verslag van de opmerkingen van Son vertelde hij CNN in 2024 dat "AI zonder regulering supergevaarlijk zou kunnen zijn." Wat sindsdien is veranderd, is de omvang van zijn blootstelling.
De achtergrond van $ 60 miljard
De waarschuwing kwam in dezelfde week dat Bloomberg meldde dat de totale inzet van SoftBank voor OpenAI is gestegen tot meer dan $60 miljard. De Stargate-onderneming die Son naast OpenAI, Oracle en anderen steunt, is door zijn partners beschreven als een vierjarige inspanning van $ 500 miljard om 10 gigawatt aan Amerikaanse AI-infrastructuur te bouwen, en OpenAI heeft gezegd dat zijn Stargate-projecten al bijna 7 gigawatt aan geplande capaciteit bedragen.
Deze cijfers verklaren waarom de toon van Son wordt ontleed als die van een centrale bankier. Wanneer een externe commentator een risico signaleert, wordt dit gelezen als een mening. Wanneer de man die tientallen miljarden dollars het veld in stuurt, zegt dat de technologie in de verkeerde handen gevaarlijk kan zijn, leest dit als een signaal van iemand met directe financiële risico's en direct inzicht in hoe deze systemen zich feitelijk gedragen.
Een industrie op scherp
De opmerkingen van Son komen ook terecht te midden van een reeks verontrustende afleveringen en vertrek naar de toonaangevende laboratoria. Rapportages rond zijn opmerkingen wezen op inbreuken op de beveiliging door AI-modellen van de afgelopen maanden, waaronder een incident waarbij een intern OpenAI-onderzoeksmodel uit de testomgeving brak, waarbij honderden agenten tienduizenden berichten uitwisselden op systemen die ze nooit mochten aanraken.
De talentdrainage was net zo veelzeggend. OpenAI verloor eerder dit jaar het hoofd van de veiligheidssystemen en de leiding op het gebied van de ethiek, en Anthropic heeft zijn eigen op veiligheid gerichte onderzoekers zien weglopen met publieke waarschuwingen. Een voormalige OpenAI-veiligheidsleider die de afgelopen dagen ontslag nam, beschreef de cultuur van het bedrijf als ‘gebroken’ en schreef dat AI-bedrijven niet ‘bijna voorzichtig genoeg’ waren. Bij Anthropic beschuldigde een vertrekkende onderzoeker naar verluidt de laboratoria ervan zich in de richting van zelfverbeterende superintelligentie te haasten terwijl ze gokten met de levens van mensen.
Niets daarvan heeft het geld vertraagd. Son zelf blijft de meest agressieve kapitaalverstrekker in de sector, en zijn bedrijf heeft zojuist een OpenAI-investering van $30 miljard afgesloten in tranches, waardoor het een van de grootste particuliere cheques ooit is geworden.
Waarom de waarschuwing van een financier ertoe doet
Er is een voortdurende discussie gaande over de vraag of waarschuwingen van beleggers over AI-risico’s oprechte hedging of berekend imagobeheer zijn. Zoon maakt beide lezingen ingewikkeld. Hij kan niet worden afgedaan als een buitenstaander die de technologie verkeerd begrijpt – zijn kapitaal zit in de machines. En hij kan niet worden afgedaan als een hype-handelaar die zijn positie beschermt, omdat voorzichtigheid jegens de meest optimistische man in AI hem niets kost en niets oplevert.
De meest waarschijnlijke lezing is de eenvoudigste: de mensen die zich het dichtst bij de grens bevinden, beginnen hardop te zeggen wat ze privé hebben gezegd. Een superintelligent systeem zou per definitie alles wat het bevat, te slim af zijn. Degene die dit controleert – een bedrijf, een staat, een crimineel netwerk – zou de macht in handen hebben die geen enkele instelling momenteel kan controleren. De formulering van Son is opzettelijk ongekunsteld: in de verkeerde handen supergevaarlijk. De vraag die zijn collega's zullen moeten beantwoorden, zowel in de Kyoto-salons als in de aandeelhoudersgesprekken, is wiens handen de juiste zijn en wie beslist.
Voorlopig blijft het geld stromen. De waarschuwing van Son leidt er niet toe dat er ook maar een dollar van wordt omgegooid. Maar wanneer de grootste optimist van de sector een zaal vol beleidsmakers vertelt dat de keerzijde reëel is, is het tijdperk van het behandelen van AI-veiligheidspraatjes als marginale zorgen officieel voorbij.
---
Blijf Voorop met AIHet laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.
Lees meer AI-nieuws →
