Mjölk och tvättmaskiner är för närvarande mer reglerade än artificiell intelligens, enligt Microsofts president - och det, menar Brad Smith, är precis bakvänt.
Smith talade till BBC:s Big Boss Interview i kommentarer som publicerades i söndags och efterlyste globala säkerhetsregler för AI, inklusive en juridisk skyldighet att berätta för ett "offer" när deras system har brutits av en oseriös AI-agent, och ett ramverk för att bestämma när oberoende utvärderare ska skriva av sig på en AI-produkt innan den skickas. Hans kommentarer ställer honom offentligt i strid med USA:s president Donald Trump, som har hävdat att sektorn borde reglera sig själv så att amerikanska företag inte tappar mark till kinesiska rivaler. For more context on this story, see our ongoing AI industry coverage.
"Just nu är din tvättmaskin föremål för fler säkerhetsregler än AI," sa Smith. "Varje kartong mjölk som du ser i mataffären är föremål för säkerhetsregler och inspektion."
Ett verktyg och ett vapen
Smith beskrev AI som både ett "verktyg och ett vapen" som brådskande behöver regleras och tillade: "Låt oss komma igång idag."
Hans förslag var mer konkreta än det vanliga regelverket. Företag bör bygga "nödbromsar" - vad branschen ofta kallar kill switchar - som kan pausa eller bromsa ett AI-system om det blir utom kontroll. Företag bör vara juridiskt skyldiga att skriva incidentrapporter och meddela offren när AI blir oseriöst. Och oberoende statliga utvärderare bör granska ny AI-teknik innan den släpps.
"Vi vet hur man gör detta för andra produkter," sa Smith. "Vi bör bygga vidare på den kunskapen och fundera på hur vi ska tillämpa den på AI."
Interventionen landar i en febril vecka för AI-tillsyn. Dagar tidigare krävde Microsofts egen VD, Satya Nadella, en nödbroms som skulle låta människor stänga av AI-system mitt i arbetet – en slående position för chefen för en av världens största AI-leverantörer, och en som nu verkar vara företagets doktrin snarare än en chefs funderingar.
Bryter med Vita huset
Smiths åsikter skiljer sig kraftigt från hans presidents. Trump har upprepade gånger sagt att "den som vinner AI, vinner" - och har drivit emot samtal från cheferna för Anthropic, OpenAI och Google DeepMind, som alla har stött idén om en nedgång i AI-utvecklingen.
Ändå föreslog Smith också att friktionen är mindre än den ser ut. I slutet av förra månaden var Trump värd för ledarna för OpenAI, Anthropic, Nvidia, SpaceX, Meta och Google i Vita huset, där cheferna undertecknade vad som beskrevs som ett "moraliskt bindande" dokument som förpliktade dem att arbeta med oberoende revisorer för att bedöma om deras AI-system fungerar som avsett - och inte att "hacka eller komma åt tekniska system på oavsiktliga sätt."
Smith applåderade uttalandet och sa att Microsoft är "glada över att kunna underteckna det." Men, tillade han: "Det är ett bra steg, det är ett nödvändigt steg... Men jag tror inte att det är tillräckligt längre."
Hans resonemang skär ner på kärnproblemet med frivilliga regimer: "De bra företagen kommer att göra vad du vill", sa han. "Det är företagen som inte är lika ansvariga som du behöver oroa dig för."
Varför han tycker att Storbritannien borde skriva reglerna
Den mest geopolitiskt laddade delen av intervjun var Smiths godkännande av Storbritannien som den naturliga författaren till globala AI-regler, och pekade på det brittiska AI Security Institute – som lanserades under tidigare premiärminister Rishi Sunaks regering som AI Safety Institute – som testar världens mest kraftfulla modeller innan de släpps.
"Inom teknikvärlden, inom tekniksektorn, skulle de flesta som jag känner säga, om du frågar dem, namnge det land som är ledande när det gäller att ha denna tekniska förmåga, de skulle säga, det är väldigt enkelt. Det är Storbritannien. De är bäst", sa Smith.
Han hävdade också att den amerikanska regeringen skulle acceptera brittiska standarder lättare än regleringar i Brysselstil: "I Washington DC ser folk inte på Storbritannien och de ser inte på London som de ser på Bryssel - det är en styrka."
Hans argument för brådska var rakt på sak. "När du tittar på AI-agenter som har undkommit mänsklig kontroll, när du tittar på modeller som är så kraftfulla att de utsätter världens cybersäkerhet på spel, skulle jag säga: Ögonblicket har kommit", sa Smith. "Låt oss tala lugnt, kanske till och med mjukt, men bestämt, och börja föra människor samman. Jag hoppas att det är den roll vi kan spela som företag. Jag hoppas att det är den roll Storbritannien kan spela som ett land."
En sällsynt delad skärm i teknisk policy
Det är ovanligt att en sittande bolagschef lobbar för hårdare regler för sin egen bransch medan hans vd för samma sak från ett annat stadium. De duellerande Microsoft-interventionerna – Nadellas nödbroms och Smiths krav på obligatorisk incidentrapportering, offermeddelande och oberoende utvärdering – signalerar att åtminstone en stor leverantör har kommit fram till att förtroende, inte förmåga, håller på att bli den bindande begränsningen för AI-adoption.
De ger också den brittiska regeringen ett argument i rätt tid. Whitehall har ägnat den senaste veckan åt att absorbera varningar från sina egna underrättelsechefer, medan ministrar överväger om de ska gå med i en internationell uppmaning om samordnade säkerhetsstandarder för AI som Washington hittills har vägrat att skriva under. När Microsofts president säger att Storbritannien är "bäst" positionerat för att skriva regelboken, får Downing Street både validering och en inbjudan som det kommer att vara svårt att ignorera.
Huruvida Smiths inramning av mjölkkartong ändrar några röster i Washington är en annan sak. Men som ett uttalande om vart en av AI:s största byggare vill att regeldebatten ska gå – obligatoriska bromsar, obligatorisk rapportering, oberoende sign-off – kan intervjun komma ihåg som en markör i övergången från frivilliga löften till verkställbara regler.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
