Het Moscone Center in San Francisco was deze week gastheer van een ongewoon publiek meningsverschil: de leiders van Nvidia, Anthropic en OpenAI, die binnen enkele uren na elkaar op hetzelfde podium verschenen op de Dreamforce-conferentie van Salesforce, presenteerden scherp verschillende antwoorden op de vraag hoe snel AI zich zou moeten kunnen ontwikkelen.

Nvidia-CEO Jensen Huang vertelde Salesforce-chef Marc Benioff dat het kader van snelheid versus veiligheid verkeerd is. “Het is een valse keuze”, zei Huang volgens CNBC. "Je zou zeker beide tegelijk kunnen hebben." Voor meer context over dit verhaal, zie ons laatste AI-ontwikkelingen.

Zijn standpunt stond in schril contrast met het standpunt dat eerder op de dag werd verwoord door Dario Amodei, CEO van Anthropic, en later door Sam Altman, CEO van OpenAI, in een debat dat in een week tijd is verschoven van onderzoeksblogs naar keynotes op conferenties in Washington.

Amodei's Slowdown Pitch krijgt een Keynote-platform

Amodei verscheen als eerste en vergezelde Benioff tijdens de jaarlijkse keynote van Salesforce voor een publiek van ongeveer 12.000 mensen. De verschijning volgde op een essay dat Amodei afgelopen weekend publiceerde, waarin hij er bij de industrie op aandrong het tempo van de modelontwikkeling te vertragen, een voorstel dat volgens hem kan temperen hoe snel de capaciteiten verbeteren zonder 'commercieel voordeel of de voorsprong van de Verenigde Staten op het gebied van AI op te offeren'.

Volgens CNBC heeft Amodei vrijwillige terughoudendheid opgevat als een leiderschapstest voor de industrie. "Ik denk dat dit de manier is om de industrie vooruit te helpen, om een ​​voorbeeld te stellen, om te zeggen dat iedereen altijd beter kan zijn", zei hij tegen Benioff.

Het essay kreeg al snel publieke steun van andere leidinggevenden uit de sector, waaronder Sam Altman van OpenAI, SpaceX-CEO Elon Musk en Google DeepMind-voorzitter Demis Hassabis. Het kwam binnen enkele dagen nadat onderzoekers uit de industrie alarm hadden geslagen over het potentieel van AI om catastrofale schade te veroorzaken, waardoor het argument van de vertraging nieuwe urgentie kreeg.

Huang: marktkrachten, geen nieuwe wetten

Huang, wiens bedrijf het meest waardevolle ter wereld werd door de verkoop van de hardware waarmee grensverleggende modellen kunnen worden getraind en bestuurd, verwierp zowel het uitgangspunt van een afweging als het idee van nieuwe regelgeving. Er bestaan ​​al marktkrachten die roekeloos gedrag disciplineren, betoogde hij, en het is aan modelontwikkelaars om verantwoordelijk met hun producten om te gaan.

'Ren zo snel als je kunt', zei Huang tegen Benioff. "Maar als je op een bepaald moment het gevoel hebt dat het bedrijf uit de hand loopt of dat het product niet veilig zal zijn, neem dan even een pauze en zorg ervoor dat je het goed doet."

Het onderscheid is van belang: Huang beweert niet dat bedrijven nooit moeten pauzeren, maar alleen dat de beslissing bij elk bedrijf moet blijven liggen en niet moet worden afgedwongen door middel van wetten of gecoördineerde industriebrede tempoovereenkomsten. Een dag eerder, op de All-In Summit in Los Angeles, nam Huang een telefoontje aan van president Donald Trump, die zijn bezorgdheid uitte over mensen die de bouw van AI-datacenters proberen te belemmeren. 'Dat laten we niet gebeuren, meneer,' antwoordde Huang.

Altman: Veiligheid 'mag geen kwalificatie hebben'

Altman's beurt op het Dreamforce-podium kwam later op de dag en hij positioneerde zichzelf dichter bij Amodei dan bij Huang. Tijdens een gesprek bij het haardvuur met Benioff zei Altman dat veiligheid en monitoring boven mogelijkheden moeten gaan, gezien de kracht van de huidige modellen.

Hij richtte zich op bedrijven die hun veiligheidsverplichtingen afhankelijk maken van het gedrag van concurrenten. "Je hebt bedrijven die dingen zeggen als: 'Wij zijn alleen verantwoordelijk als andere bedrijven verantwoordelijk zijn'", zei Altman, eraan toevoegend dat wanneer mensen vragen wat een bedrijf zal doen om veilig te zijn "wat er ook gebeurt", het antwoord geen ruimte mag laten voor voorwaarden. "Daar mag geen kwalificatie aan verbonden zijn."

Benioff zit in het midden

Benioff, gastheer van alle drie de leidinggevenden, weigerde een kant te kiezen wat betreft tempo. "Als ze het gevoel hebben dat ze moeten vertragen, dan moeten ze vertragen. Als ze vinden dat ze moeten versnellen, moeten ze versnellen", zei hij tegen verslaggevers, voordat hij eraan toevoegde dat bedrijven "verantwoordelijk moeten worden gehouden."

De conferentie liet ook zien hoe verstrengeld de zakelijke relaties zijn geworden. Dinsdag kondigden Salesforce en Nvidia een nieuw redeneermodel aan voor het Agentforce-platform van Salesforce, gebouwd op een van Nvidia's open-weight Nemotron-modellen. Eind augustus breidden Salesforce en Anthropic hun strategische samenwerking uit en onthulden 'Claudeforce', waarmee verkopers vanuit Claude toegang krijgen tot Salesforce-gegevens.

Waarom de splitsing ertoe doet

De Dreamforce-uitwisselingen hebben uitgekristalliseerd wat de centrale breuklijn is geworden in de debatten over AI-governance: of terughoudendheid moet worden gecoördineerd en mogelijk gecodificeerd, of moet worden overgelaten aan concurrentiedruk en individueel bedrijfsoordeel.

Het voorstel van Amodei blijft vrijwillig, maar de goedkeuring ervan door de CEO's van OpenAI, DeepMind en xAI markeert de eerste keer dat leiders van de grote grenslaboratoria zich publiekelijk achter de vertraging scharen. Het tegenargument van Huang, afkomstig van 's werelds meest waardevolle bedrijf, geeft dekking aan leidinggevenden en beleidsmakers die beweren dat het opleggen van voorzichtigheid een voordeel zou opleveren voor concurrenten, vooral in China.

President Trump heeft zich verzet tegen nieuwe AI-regels, een standpunt dat de eigen roep van de industrie om een ​​vertraging te ondermijnen, zoals CNBC opmerkte in een gerelateerde analyse. Dat laat elke vrijwillige pacing-overeenkomst achter zonder het handhavingsmechanisme dat veiligheidsvoorstanders zeggen nodig te hebben, en houdt het debat voorlopig stevig over de eersystemen van bedrijven.

Nu onderzoekers publiekelijk waarschuwen voor catastrofale risico's en de leiders van de grootste bedrijven op dit gebied het nu openlijk oneens zijn op het podium, zal de kwestie van het tempo waarschijnlijk de volgende beleidscyclus in Washington domineren – wat de markt in de tussentijd ook besluit te doen.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →