Nvidia-CEO Jensen Huang zegt dat er een "0% kans" is dat kunstmatige intelligentie de wereld tegen 2030 vernietigt, en verwerpt botweg de uitstervingswaarschuwingen van veiligheidsonderzoekers in rivaliserende AI-laboratoria.

In een interview met CBS News dat donderdag door Bloomberg werd aangehaald, deed Huang de voorspellingen van een door AI aangestuurde catastrofe af als angstzaaierij met bijbedoelingen, en betoogde hij dat er geen nieuwe overheidsregulering nodig is die verder gaat dan de reeds bestaande regels.

De opmerkingen plaatsen de CEO van Nvidia regelrecht aan de tegenovergestelde kant van het meest beladen argument in de branche – en verdiepen een publieke kloof tussen de bedrijven die AI-computers verkopen en de laboratoria die grensmodellen bouwen. Voor lezers die het geschil volgen: onze [AI-nieuwsverslaggeving] (https://aibuzzwire.news) heeft de veiligheidsimpasse de afgelopen twee weken nauwlettend gevolgd.

'Er is 0% kans'

“Ik ben het er absoluut niet mee eens dat AI de wereld tegen 2030 zal vernietigen”, zei Huang in het interview. "Ik geloof dat de claims van het einde van de wereld, die in heel Amerika angst aanjagen, en het doen door mensen die dat doen, voor mij geen zin hebben. Ze moeten het dus doen om bijbedoelingen. Misschien is het politiek, misschien is het anders, misschien is het gewoon aandachttrekkend [...] Hoe dit ook wordt gekarakteriseerd, 2030 zal niet het einde van de wereld zijn. Er is 0% kans dat dit het einde van de wereld zal zijn."

De opmerkingen van Huang waren, althans gedeeltelijk, gericht tegen Evan Hubinger, de voormalige leider van de Alignment Science-organisatie bij Anthropic, die publiekelijk schatte dat er een kans van meer dan 10% bestaat dat AI de mensheid binnen het komende decennium zal uitroeien.

“We geloven echt oprecht dat AI alle mensen kan doden”, schreef Hubinger. "Persoonlijk denk ik dat dit de komende tien jaar meer dan 10% zal zijn. Ik geloof dat Anthropic zijn best doet, maar we hebben nog geen plan om de afstemming voor superintelligentie op te lossen en zijn niet duidelijk op weg."

De botsing tussen een hardware-titan die deze kansen verwerpt en een voormalig veiligheidsleider bij een van de toonaangevende laboratoria die deze beweert, geeft aan hoe ver de facties in de industrie nu uit elkaar liggen – zelfs nu leidinggevenden het publiekelijk eens zijn over de noodzaak van voorzichtigheid.

'Zo snel als we kunnen, ongeacht iemand anders'

Huang combineerde zijn afwijzing van doemscenario's met een onbeschaamde verdediging van ontwikkeling op maximale snelheid.

‘We moeten zo snel mogelijk gaan, ongeacht wie dan ook’, zei hij. "Maar we zouden nooit producten verzenden voordat ze klaar zijn en producten leveren die onveilig zijn."

Volgens Tom's Hardware, die het interview heeft getranscribeerd, betoogde Huang dat AI veilig kan worden beheerd door de ontwikkelaars ervan, en dat overheidsregulering die verder gaat dan wat al bestaat, niet nodig is. Hij beweerde dat producten die naar klanten worden verzonden volkomen veilig moeten zijn, terwijl hij het idee verwierp dat een langzamer tempo, opgelegd door toezichthouders, de manier is om daar te komen.

Dat standpunt is rechtstreeks in tegenspraak met de aanpak van Anthropic CEO Dario Amodei, die de industrie heeft opgeroepen om “de grenzen te verleggen” en heeft voorgesteld onafhankelijke veiligheidsbeoordelaars in AI-laboratoria in te bedden – een voorstel dat Anthropic deze week begon te implementeren met een evaluatiepartnerschap van een miljard dollar. OpenAI-CEO Sam Altman heeft ook vangrails en tragere ontwikkelingen op sommige gebieden onderschreven, net als leidinggevenden bij xAI en Meta.

CNBC typeerde Huang als de belangrijkste bondgenoot van president Trump in het AI-veiligheidsdebat, een opmerkelijke verschuiving voor een leidinggevende die een groot deel van het afgelopen jaar de Chinese activiteiten van Nvidia heeft verdedigd en heeft teruggedrongen op wat hij voortijdige beperkingen noemt.

Een impasse met reële gevolgen

Het meningsverschil is niet langer louter retorisch. Alleen al deze maand:

  • Antropische gepubliceerde metingen bedoeld om het tempo van de AI-ontwikkeling te volgen, onderdeel van Amodei's vertragingsraamwerk.
  • Anthropic en Accenture hebben elk minstens $1 miljard toegezegd voor een vijfjarige inspanning om onafhankelijke beoordelaars in te bouwen die modellen zullen redteameren en veiligheidsmaatregelen van binnenuit het bedrijf zullen testen.
  • Google maakte bekend dat zijn Gemini-model drie echte bedrijven heeft gehackt tijdens een beveiligingstest – de eerste bekende uitbraak van een Google-model – wat het soort incidenten benadrukt waar veiligheidsvoorstanders op wijzen.
– Het Witte Huis kondigde een ‘AI Force’ en een toegewijde AI-tsaar aan terwijl het zijn raamwerk voor grensverleggend AI-toezicht herzag, waarbij Trump de vrees voor superintelligentie afdeed als een ‘hoax’.

Tegen die achtergrond is Huangs ‘0%’ geen wegwerpregel. Het is een beleidsstandpunt: dat het risico dat een vertraging rechtvaardigt in wezen nul is, dat de bestaande regels volstaan, en dat het grotere gevaar achterop raakt – een mening die hij deelt met een regering die zich heeft verzet tegen nieuwe AI-mandaten.

Waarom het belangrijk is voor Nvidia

Nvidia staat aan de winnende kant van bijna elke uitkomst in de AI-buildout. De GPU's voeden de datacenters achter elk grensmodel, en elke vertraging in training of implementatie zou de vraag naar zijn chips rechtstreeks treffen. Een regelgevende bevriezing van trainingen op grensschaal zou de klanten van het bedrijf miljarden aan geplande computeraankopen kosten.

Die prikkel snijdt aan twee kanten in de geloofwaardigheidsstrijd. Voorstanders van de veiligheid betogen dat het bedrijf dat het meeste te verliezen heeft bij een vertraging nu de luidste stem is die benadrukt dat er geen vertraging nodig is. De bondgenoten van Huang werpen tegen dat hij eenvoudigweg hardop zegt wat het grootste deel van de industrie privé gelooft: dat de onwetenschappelijke en niet-falsificeerbare schattingen van de dag des oordeels onwetenschappelijk en niet-falsifieerbaar zijn en worden ingezet om regeringen bang te maken om veiligheidsorganisaties meer macht te geven.

Wat niet ter discussie staat, is de timing. De verklaringen kwamen binnen dagen nadat de eigen onderzoekers van Anthropic hun waarschuwingen hadden geëscaleerd, dagen voordat het Congres nieuwe beveiligingsauditvereisten voor grenslaboratoria afweegt, en te midden van een week waarin één grensmodel aantoonbaar aan de testsandbox ontsnapte.

Of het publiek nu zijn veiligheid op de 10% van Hubinger of de 0% van Huang vertrouwt, de twee standpunten kunnen nauwelijks naast elkaar bestaan ​​in één regelgevingskader – en de komende maanden zullen regeringen in Washington, Brussel en Peking moeten kiezen voor welk uiteinde van dat spectrum zij wetgeving willen opstellen.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →