Bill Gates har uppmanat USA:s federala lagstiftare och lagstiftare att reglera utvecklingen av artificiell intelligens, och sa i en tv-intervju som sändes i söndags att tekniken som lämnas okontrollerad kan orsaka "en miljard dödsfall" - och insisterar på att "ingen tycker att självreglering är tillräckligt."
Microsofts grundare gjorde det i en intervju med Kristen Welker, värd för NBC:s Meet the Press. "Du behöver brottsbekämpande myndigheter och politikerna för att komma in i diskussionen om hur skyddsåtgärder och övervakning ser ut", sa Gates, enligt The Guardian. "Och det måste vara en nödvändig sak." For more context on this story, see our ongoing AI industry coverage.
En varning om beväpnad AI
Miljardärfilantropens skarpaste språk kom när han beskrev vad som kan hända om avancerade AI-verktyg hamnar i fel händer. AI som utövas på ett skadligt sätt, sa han, skulle vara "säkert kraftfull nog att driva händelser som, du vet, orsakar en miljard dödsfall."
"Det har aldrig funnits ett så kraftfullt vapen som kombinationen av människor med dåliga avsikter som använder de senaste AI-verktygen," tillade Gates. Hans kommentarer återspeglar varningar från en bredare krets av tekniker och politiska personer som fruktar att avancerade system kan påskynda katastrofala utfall, inklusive genom biovapen och kärnvapenkonflikter.
Gates inramade reglering som en hanterbar kostnad snarare än en broms på framsteg. "Det kommer att vara lite omkostnader för branschen - men inte en dramatisk avmattning av vad de gör," sa han.
Del av en hållbar kampanj
Intervjun är inte en isolerad varning. Den följer en uppsats på ungefär 6 000 ord som Gates publicerade i slutet av augusti som beskrev hans oro för AI och de potentiellt dödliga risker som han tror att det utgör för mänskligheten i stor skala. Många observatörer noterade att Meet the Press-konversationen representerar en fortsättning på det argumentet, som denna gång levererades till en vanlig söndagsmorgonpublik.
Gates är inte ensam bland teknikledare som kräver en avmattning av AI-utvecklingen. Sam Altman från OpenAI och Elon Musk har tillsammans med honom uppmanat branschen att gå mer försiktigt fram, även när deras företag tävlar om att leverera mer kapabla modeller.
Press på Microsoft inifrån
Gates ingripande kommer när hans tidigare företag står inför sina egna AI-kontroverser. Microsoft-anställda och aktivister har organiserat en kampanj som syftar till att få företaget att bryta banden med den israeliska militären, som enligt uppgift har använt AI-verktyg i konflikten i Gaza, enligt en Guardian-uppsats publicerad på fredagen av Mohamed Hussein och Granate Kim från gruppen No Azure for Apartheid.
Uppsatsens författare varnade också för att AI-stödda system distribueras i själva USA, och pekar på Department of Homeland Securitys användning av Microsofts Azure-moln för att stödja övervakning, arresteringar och massdeportationer av invandrare.
Regleringsklyftan
Gates samtal hamnar i ett politiskt vakuum. USA har fortfarande inget heltäckande federalt ramverk som styr utvecklingen eller driftsättningen av avancerade AI-system, även när frontier labs skickar alltmer autonoma agenter och regeringar runt om i världen försöker hänga med. I kongressen har konkurrerande förslag avstannat i frågor om innovation, ansvar och efterlevnad, vilket lämnar byråer att tillämpa patchwork-myndigheter på en teknik som utvecklas snabbare än regelgivningsprocessen.
Det som utmärker Gates argument är hans insisterande på att tillsynen är obligatorisk snarare än frivillig. Genom att argumentera att "självreglering inte räcker" utmanar han direkt den rådande ställningen hos själva labben, av vilka de flesta har gynnat interna säkerhetsåtaganden, frivilliga utvärderingar och branschorgan framför bindande lagstiftning.
Hans inramning - att efterlevnad skulle uppgå till "lite overhead" - är också anmärkningsvärt från någon vars förmögenhet byggdes i mjukvaruindustrin. Det undergräver det vanliga branschens påstående att meningsfull reglering nödvändigtvis skulle frysa den typ av snabba framsteg som har definierat de senaste fyra åren av AI-utveckling.
En lättare anmärkning om personlig AI-användning
Intervjun var inte jämnt dyster. När Welker frågade om Gates undviker AI i sitt eget liv, svarade han med ett skratt: "Ja, jag använder det inte för mina personliga relationer. Jag är inte som: "Hej, gillar du mig? Hej, är jag en trevlig kille?"
"Så jag gick aldrig in på den vägen, för jag har tur när det gäller min familj, mina vänner och allt", sa han. "Jag umgås inte med AI. Den vet att jag är en mycket seriös person."
Vad händer härnäst
Huruvida Gates varning flyttar lagstiftningen är en öppen fråga. Men det faktum att en av världens mest framstående teknologer offentligt kräver att politiker och brottsbekämpande myndigheter ska ta en formell roll i AI-tillsynen ger tyngd åt en debatt som alltmer utspelar sig i valkampanjer, rättssalar och internationella förhandlingar.
Med undersökningar som visar allmänhetens oro för att AI ökar och incidenter som involverar autonoma agenter drar rubriker, ökar pressen på lagstiftare att omvandla bred oro till verkställbara regler. Gates budskap till dem var enkelt: branschen kommer inte att polisa sig själv, och kostnaden för att agera är mycket lägre än risken att misslyckas.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
