San Franciscos Moscone Center var värd för en ovanlig offentlig oenighet denna vecka: ledarna för Nvidia, Anthropic och OpenAI, som dök upp på samma scen inom några timmar efter varandra på Salesforces Dreamforce-konferens, lade fram skarpt olika svar på frågan om hur snabbt AI ska tillåtas avancera.
Nvidias vd Jensen Huang sa till Salesforce-chefen Marc Benioff att inramningen av hastighet kontra säkerhet är fel. "Det är ett falskt val", sa Huang enligt CNBC. "Du kan definitivt ha båda samtidigt." For more context on this story, see our ongoing AI industry coverage.
Hans ståndpunkt stod i direkt kontrast till den som tidigare under dagen formulerades av Anthropics vd Dario Amodei, och senare av OpenAI:s vd Sam Altman, i en debatt som har flyttats från forskningsbloggar till konferensens keynotes till Washington under loppet av en vecka.
Amodeis Slowdown Pitch får en Keynote-plattform
Amodei dök upp först och gick med Benioff för Salesforces årliga keynote inför en publik på ungefär 12 000 personer. Framträdandet följde på en essä Amodei som publicerades under helgen och uppmanade industrin att sakta ner takten i modellutvecklingen, ett förslag som han säger kan dämpa hur snabbt kapaciteten förbättras utan att "offra kommersiella fördelar eller USA:s ledning inom AI."
Enligt CNBC inramade Amodei frivillig återhållsamhet som ett ledarskapstest för branschen. "Jag tror att det är sättet att leda branschen framåt, att vara ett exempel, att säga att alla alltid kan bli bättre", sa han till Benioff.
Uppsatsen fick snabbt offentligt stöd från andra branschledare, inklusive OpenAI:s Sam Altman, SpaceX VD Elon Musk och Google DeepMind ordförande Demis Hassabis. Det landade dagar efter att industriforskare larmade om AI:s potential att orsaka katastrofala skador, vilket gav argumentet om avmattning ny brådska.
Huang: Marknadskrafter, inte nya lagar
Huang, vars företag blev världens mest värdefulla genom att sälja hårdvaran som tränar och kör frontiermodeller, avvisade både premissen om en avvägning och idén om ny reglering. Marknadskrafter finns redan som disciplinerar hänsynslöst beteende, hävdade han, och det är upp till modellutvecklare att agera ansvarsfullt med sina produkter.
"Spring så fort du kan," sa Huang till Benioff. "Men om du vid någon given tidpunkt känner att företaget är utom kontroll eller om produkten inte kommer att vara säker, ta en paus och se till att du gör rätt."
Distinktionen spelar roll: Huang hävdar inte att företag aldrig ska pausa, bara att beslutet ska ligga kvar hos varje företag snarare än att genomdrivas genom lagar eller samordnade branschövergripande tempoavtal. En dag tidigare, vid All-In Summit i Los Angeles, tog Huang ett högtalarsamtal från president Donald Trump, som uttryckte oro över människor som försöker hindra konstruktionen av AI-datacenter. "Vi kommer inte att låta det hända, sir," svarade Huang.
Altman: Säkerhet "Should Have No Qualifier"
Altmans tur på Dreamforce-scenen kom senare på dagen, och han placerade sig närmare Amodi än Huang. Under en brandchat med Benioff sa Altman att säkerhet och övervakning måste komma före kapaciteten med tanke på kraften hos nuvarande modeller.
Han tog sikte på företag som villkorar sina säkerhetsåtaganden på konkurrenters beteende. "Du har företag som säger saker som "Vi kommer bara att vara ansvariga om andra företag är ansvariga", sa Altman och tillade att när folk frågar vad ett företag kommer att göra för att vara säkert "oavsett vad", borde svaret inte lämna något utrymme för villkor. "Det borde inte finnas något kval på det."
Benioff sitter i mitten
Benioff, som var värd för alla tre cheferna, avböjde att välja sida när det gäller pacing. "Om de känner att de borde sakta ner, då borde de sakta ner. Om de känner att de borde skynda på, borde de skynda på", sa han till reportrar innan han tillade att företag "bör hållas ansvariga."
Konferensen visade också hur invecklade affärsrelationerna har blivit. På tisdagen tillkännagav Salesforce och Nvidia en ny resonemangsmodell för Salesforces Agentforce-plattform byggd på en av Nvidias öppna Nemotron-modeller. I slutet av augusti utökade Salesforce och Anthropic sitt strategiska partnerskap och presenterade "Claudeforce", som låter säljare komma åt Salesforce-data inifrån Claude.
Varför splittringen spelar roll
Dreamforce-utbytena utkristalliserade det som har blivit den centrala fellinjen i AI-styrningsdebatter: om återhållsamhet ska samordnas och potentiellt kodifieras, eller överlåtas till konkurrenstryck och individuella företagsbedömningar.
Amodeis förslag är fortfarande frivilligt, men dess godkännande av VD:arna för OpenAI, DeepMind och xAI markerar första gången som ledare för de stora gränslabben offentligt har ställt sig bakom att sakta ner. Huangs motargument, från världens mest värdefulla företag, ger skydd åt chefer och beslutsfattare som hävdar att tvingande försiktighet skulle ge konkurrenterna en fördel, särskilt i Kina.
President Trump har motsatt sig nya AI-regler, en hållning som undergräver branschens egna krav på en avmattning, som CNBC noterade i en relaterad analys. Det lämnar alla frivilliga pacingavtal utan den verkställighetsmekanism som säkerhetsförespråkare säger att de behöver, och håller debatten fast om företagens hederssystem för tillfället.
Med forskare som offentligt varnar för katastrofala risker och ledarna för fältets största företag som nu öppet är oense på scenen, kommer taktfrågan sannolikt att dominera nästa policycykel i Washington - vad marknaden än bestämmer sig för att göra under tiden.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
