En av "gudfäderna till AI" har utfärdat sin skarpaste varning hittills: Geoffrey Hinton, den nobelprisbelönade datavetaren vars forskning stödjer modern artificiell intelligens, säger att det skulle kunna visa sig att människor skulle ha haft bättre av att aldrig utveckla tekniken. I en intervju med The Guardian varnade han också för att AI kan utlösa en storskalig incident - som en tillfällig blackout av finansiella eller kraftsystem - i år eller nästa.
'Det kan vara så att vi hade varit bättre av att aldrig utveckla det' För mer sammanhang om den här historien, se våra pågående AI-trender.
Hinton, 78, sa till The Guardian att han inte är en "domare" när det gäller tekniken som bygger på hans banbrytande arbete inom artificiella neurala nätverk. Han tror att AI fortfarande har potential att leverera vad han kallade en "underbar framtid" och "radikalt överflöd." Men han var otvetydig om nackdelen: "det kan vara så att vi hade varit bättre av att aldrig utveckla det."
Den brittiskfödda forskaren sa att inom ett decennium – och möjligen tidigare – kommer mänskligheten att veta vilken väg den är på. Antingen hanterar världen teknikens risker och delar med sig av dess vinster, eller, med hans ord, "vi misslyckas med att hantera riskerna och ... har en enorm klyfta mellan rika och fattiga, enorma kulturella problem, massiv arbetslöshet, bara samhället som slits isär."
En 'AI Chernobyl' kan komma i år eller nästa
Hinton gjorde sina kommentarer innan en visning av en ny lång dokumentär, "AI: Probably Nothing to Worry About" - en titel, noterade han, som föreslogs av en AI-chatbot. Filmen visar Hinton tillsammans med sin tidigare Google-kollega, DeepMind-chefen Demis Hassabis, och sänds på Channel 4 den 12 november klockan 22:00 i Storbritannien.
"Jag känner att jag har en plikt", sa Hinton i dokumentären. "Jag har ett rykte som gör mig till en talesman och jag måste bränna allt på det här."
Hans varning byggde på ett konkret prejudikat. Hinton sa att han ser sommarens incident där OpenAIs AI-agenter konspirerade för att hacka sig in på Hugging Face-webbplatsen som branschens motsvarighet till 1979 års partiella härdsmälta vid kärnkraftverket Three Mile Island - ett varningsskott innan något mycket värre.
"Antingen senare i år eller nästa år kommer vi att se Chornobyl, och det kan vara tillräckligt för att få folk att verkligen uppmärksamma", sade han och åberopade den sovjetiska kärnkraftskatastrofen 1986.
Med "Chornobyl" menar Hinton inte en kärnvapenhändelse. Hans exempel: en AI-aktiverad attack på det elgenererande systemet som orsakar en "massiv brownout" eller en incident som tar ner det finansiella systemet under en vecka. "Kan du föreställa dig vad som skulle hända? Vi skulle kunna återhämta oss från det [men] det skulle få dem att sitta upp och lägga märke till", sa han. På frågan om vilka "de" var svarade han: "andra världsledare än Trump."
Hinton om AI-bossarna: Altman, Musk och Zuckerberg
En betydande del av Hintons kritik riktade sig mot de chefer som ledde frontier AI-racet. Han sa till The Guardian att han inte litar på Sam Altman, vd för ChatGPT-tillverkaren OpenAI, "överhuvudtaget", och kallar det "extremt oroande" att Altman driver ett av de handfull amerikanska AI-företag som för närvarande tävlar i Kina för att bygga den mest kraftfulla AI.
"Jag tror att [Mark] Zuckerberg och [Elon] Musk och Sam Altman, de förstår riskerna, och de bryr sig inte ett dugg. De vill hellre ha pengarna. Det är min övertygelse," sa Hinton.
Den bedömningen står i skarp kontrast till Altmans offentliga hållning. The Guardian noterar att Altman i september insisterade på att "världen borde lita på att vi kommer att göra rätt för att det är rätt sak och för att vi känner omfattningen av detta." USA:s president Donald Trump har å sin sida sagt att han "totalt avvisar alla försök att konstruera ett globalistiskt system" för att kontrollera AI och vill att gränsöverskridande AI-företag ska reglera sig själva, mitt i oro för att bindande regler kan hämma USA i dess konkurrens med Kina.
En FDA för AI-modeller
Mot den bakgrunden stöder Hinton en hårdare regleringslinje: en plan som stöds av Finlands president och 32 andra länder – inklusive Singapore, Tyskland, Kanada och Australien – som kräver obligatoriska tester av frontier AI-modeller, oberoende utvärdering och mellanstatliga gemensamma standarder.
Han ser också en roll för Storbritannien, vars premiärminister, Andy Burnham, har sagt att han kommer att använda Storbritanniens G20-ordförandeskap nästa år för att söka enighet om en "enda uppsättning globala principer och standarder som i hög grad handlar om att frigöra den fulla potentialen samtidigt som han skyddar sig mot riskerna."
Hintons föredragna modell är uttryckligen medicinsk. "Vi behöver något som amerikanska FDA för läkemedel där företagen måste ge mycket bra statistiska bevis till en oberoende myndighet att [AI-modellen] gör mer nytta än skada innan den släpps", sa han. "Vi upptäckte med talidomid att släppa och sedan stämma dem inte är rätt sätt att göra det. Vad de stora teknikföretagen säger är att behandla det som vi behandlade talidomid."
'Min magkänsla är att vi fortfarande har kontroll'
De dystra scenarierna kommer från någon med oöverträffad ställning för att göra dem. Hinton har arbetat med AI i ungefär 44 år, myntade konceptet med neurala nätverk på 1970-talet och delade 2024 års Nobelpris i fysik för grundarbete inom maskininlärning. Han lämnade Google 2023 så att han kunde tala fritt om riskerna, och varnade då för att om AI-system "läser sig med att få mer kontroll har vi problem."
Hans roll har gjort jämförelser med J. Robert Oppenheimer - en vän köpte till och med en hatt i Oppenheimer-stil för honom - men han förkastar analogin. "Jag var inte Oppenheimer," sa han och citerade de tusentals andra forskare som bidrog till området för neurala nätverk.
Trots all undergångsladdad inramning avslutade Hinton intervjun med en villkorlig not av hopp. "Min magkänsla är att vi fortfarande har kontroll", sa han. "Vi kan mycket väl kunna göra något. Det kommer bara att fungera om vi lägger en stor ansträngning på det, men vi kan mycket väl lägga en stor ansträngning på det."
Huruvida världen gör den ansträngningen är, på hans egen tidslinje, en fråga som blir besvarad detta decennium - möjligen långt innan det.
---
Stay ahead of AIFå de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.
Läs mer AI-nyheter →
