Antropisk vd Dario Amodei säger att AI-backlash är "i grunden en förtroendekris"

Antropisk VD Dario Amodei har stött tillbaka tanken på att han har målat upp en alltför pessimistisk bild av artificiell intelligens, och hävdar i en serie inlägg att den växande offentliga reaktionen mot tekniken är "i grunden en förtroendekris" i institutioner - inte produkten av varningar från AI-chefer.

Utbytet, som rapporterades av TechCrunch på söndagen, började när investeraren Gavin Baker argumenterade i All-In-podden och på X att Amodeis varningar om farorna med AI har hjälpt till att underblåsa en motreaktion i USA, särskilt mot datacenter. Baker hävdade att Amodei har "tappat argumentet" om AI-reglering och, med tanke på att "han är på väg att bli VD för ett av de viktigaste företagen i världen," skrev: "Jag tycker respektfullt att han borde anstränga sig för att vara en mer positiv förespråkare för sin egen industri." For more context on this story, see our ongoing AI news.

Amodeis svar, publicerat på X, har uppmärksammat AI-branschen för vad det avslöjar om hur en av fältets mest framstående ledare tolkar allmänhetens sura humör - och för en ovanligt trubbig självkritik om branschens ohållna löften.

'Vanliga människor litar inte på företag'

Amodei erkände i sina inlägg att "allmänheten har en negativ syn på AI" och höll med om att "det här är ett stort problem." Men han avvisade uppfattningen att negativiteten "främst orsakas" av honom "eller någon annan AI-ledare som varnar för AI:s risker."

"Jag tror att det i grunden är en förtroendekris", skrev Amodei. "Jag tror att vanliga människor inte litar på företag, regeringar eller teknikindustrin och misstänker alltid att vi håller på att koka ihop något nytt sätt att skruva över dem."

I Amodeis berättande är detta en kris på decennier, med AI-reaktionen "bara den senaste upprepningen av det." Kommentaren landar i ett ögonblick av synlig spänning mellan AI-företag och allmänheten: protester mot datacenterbyggen har spridit sig över hela USA, och samhällsopposition har upprepade gånger försenat stora utbyggnader i år.

Bestrider avgiften för "negativa meddelanden".

På den specifika anklagelsen att hans egen kommunikation har varit för mörk, var Amodei direkt. "Jag håller inte med om att mina meddelanden har varit oproportionerligt negativa", skrev han och sa att hans skrivande har varit "ungefär lika balanserat mellan risker och fördelar." Han noterade att han skrev sin uppsats "Machines of Loving Grace" just för att han "inte kände att AI-industrin målade upp en tillräckligt inspirerande bild av hur tekniken radikalt kunde förändra världen till det bättre."

Men det mest citerade avsnittet i Amodeis svar var riktat mot hans egen industri - inklusive hans eget företag. "Jag tror att den överlägset mest korrekta kritiken mot AI-företag inklusive Anthropic är att vi ännu inte har levererat våra stora löften om att gynna världen", skrev han. "Det är helt och hållet på oss, och jag tror att det är kritiken du borde framföra, istället för allt det här om meddelanden och marknadsföring."

Att lova att AI kommer att bota cancer, tillade han, är "mer en kliché än det är inspirerande." Det som faktiskt skulle förändra den allmänna opinionen, hävdade han, är att "faktiskt bota cancer."

Förordningskampen

Amodei avvisade också Bakers inramning om reglering och anklagade honom för att måla upp "ett falskt val" mellan att distribuera AI brett utan regler eller att koncentrera tekniken i händerna på ett fåtal företag genom regler.

"Jag vet att det finns en sorts Silicon Valley-stenografi där reglering = regulatoriskt fångst = maktkoncentration, men jag har alltid tyckt att detta är en alltför förenklad bild av världen", skrev Amodi. "Många människor utanför denna bubbla tänker på reglering som något som begränsar företagens makt och gynnar vanliga människor."

Han sa att Anthropic medvetet har utarbetat politiska förslag för att undvika att förankra sittande makthavare. "Vi försöker mycket hårt att lägga fram förslag som missgynnar (bromsar ner) gränsöverskridande AI-företag samtidigt som vi gynnar mindre konkurrenter", skrev han. Anthropic har förespråkat transparenskrav på stora AI-företag, inklusive ett lagförslag från Kalifornien som inför avslöjandeskyldigheter.

På modeller med öppen vikt - en flampunkt i den nuvarande politiska debatten, där Vita huset nyligen flyttade för att undanta modeller med öppen vikt från viss federal granskning - erbjöd Amodei en nyanserad ståndpunkt. "AI är strukturellt en teknik som tenderar att koncentrera kraften", hävdade han. Öppna vikter "hjälper vissa med detta men är inte i närheten av en tillräcklig lösning eftersom de helt enkelt flyttar koncentrationen något till de som har mest beräkning och chip." Rätt "vägregler", sa han, kan samtidigt ta itu med cyber-, bio- och anpassningsrisker, begränsa kraften hos gränslaboratorier och lämna utrymme för modeller med öppen vikt.

Varför utbytet är viktigt

Debatten landar i ett känsligt ögonblick för Anthropic. Företaget rider på en våg av kommersiell framgång, med intäktstillväxt som har gjort det till ett av de mest bevakade företagen inom teknik, och det förväntas allmänt att genomföra en offentlig notering. Dess VD förblir samtidigt en av de mest högljudda förespråkarna inom branschen för att ta AI-risker på allvar – en kombination som gör hans meddelanden till en blixtstång.

Bakers argument speglar en bredare strömning inom riskkapital och bland AI-boosters: att allmänhetens skepsis mot AI till stor del är ett kommunikationsproblem skapat av branschens egen försiktighet. Amodeis svar inverterar effektivt den inramningen - problemet är inte vad AI-ledare säger, utan vad industrin har misslyckats med att leverera och hur lite allmänheten litar på de institutioner som bygger tekniken.

För ett företag vars varumärke bygger på att vara det ansvariga AI-labbet är inställningen konsekvent. Men Amodeis medgivande - att den hårdaste och mest korrekta kritiken är branschens gap mellan löften och leverans - är ett särskilt uppriktigt erkännande från en VD vars företag har gett några av de största löftena av alla.

Inläggen skissar också på den ståndpunkt som Anthropic sannolikt kommer att försvara när politiska strider intensifieras i Washington: insynsregler för gränslaboratorier, skydd som gynnar mindre konkurrenter och inga generella antaganden om att öppna vikter löser maktkoncentrationsproblemet.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →