Geoffrey Hinton, nobelpristagaren allmänt känd som "Gudfadern för AI", levererade en av sina skarpaste varningar hittills till amerikanska lagstiftare denna vecka: Kongressen har ungefär ett år på sig att sätta meningsfulla garantier för artificiell intelligens innan tekniken går bortom mänsklig kontroll. Den brittisk-kanadensiske datavetaren gjorde kommentarerna den 16 september vid en stängd senatens briefing på Capitol Hill, enligt NBC News.
"Kanske ett år, men inte mycket mer än ett år", sa Hinton till lagstiftarnas rum, enligt NBC:s redogörelse för mötet. Genomgången sammankallades av senator Bernie Sanders och innehöll även MIT-fysikern Max Tegmark, medgrundare av Future of Life Institute, och AI-säkerhetsforskaren Ajeya Cotra, enligt flera rapporter från sessionen.
Kärnan i varningen: AI Building AI
Hintons argument centrerades på en specifik teknisk milstolpe snarare än en avlägsen hypotetisk. "AI har nu nått den punkt där AI designar bättre AI", sa han, enligt rapporter från briefingen. "Det kallas rekursiv självförbättring... det kommer att gå utom kontroll om vi inte gör något."
Han berättade också för lagstiftare att experttidslinjer för superintelligens har kollapsat under det senaste decenniet. "Om du tittar på förutsägelser för när vi kommer att få superintelligens, brukade det vara kanske 30 år, kanske 50 år," sa Hinton till NBC News. "Då kom det ner till kanske 10 år, kanske 20 år. Nu säger folk, många av forskarna säger bara några år."
Hinton, en professor emeritus vid University of Toronto som delade 2024 års Nobelpris i fysik för grundläggande arbete med neurala nätverk, lämnade Google 2023 och har sedan dess blivit fältets mest framstående interna kritiker – och varnar för att systemen han hjälpte till att skapa kan sluta tänka ut och förskjuta deras skapare.
Skepsis mot en "Kill Switch"
Även när han uppmanade till snabb reglering uttryckte Hinton tvivel om ett av de mest diskuterade förslagen: ett federalt mandat som skulle låta regeringen stänga av farliga AI-system. Han sa till lagstiftarna att en sådan "kill switch" inte skulle hålla i längden, enligt CNN.
Hans skepsis landade samma vecka som senator Rand Paul blockerade en republikansk-ledd AI kill switch räkning från att bli snabbspårad i senaten - ett avsnitt som illustrerar hur långt till och med minimal skyddsräckslagstiftning återstår från passage. Senator John Kennedy från Louisiana, som deltog i en del av briefingen, sa till The Washington Sun att han njöt av diskussionen men såg inga tecken på att senaten skulle agera, och tillade att han förväntar sig att nästa drag kommer från Vita huset, och pekar på att rapportera att finansminister Scott Bessent driver på för en säkerhetsram.
Utsikten över gången var inte mycket soligare. Senator Rick Scott från Florida sa i en NewsNation-intervju att företag måste reglera sig själva: "Vi kommer inte att bli tillräckligt smarta för att reglera dem. Vi kommer inte att få något gjort här uppe", sa han, som rapporterats av The Washington Sun.
Vissa demokrater drev åt andra hållet. Representanten Yassamin Ansari från Arizona, som deltog i briefingen, skrev på X att AI "kan och kommer att fortsätta att gå bortom mänsklig kontroll" och att "vårt fönster för att reglera det försvinner snabbt. Vi måste pausa NU."
En vecka med AI Safety Whiplash
Genomgången avslutade en tumultartad sträcka för AI-styrningsdebatten. Dagar tidigare publicerade Anthropics vd Dario Amodei en uppsats som uppmanade gränslaboratorier att påskynda utvecklingen, varnade för risker från förlust av kontroll till bioterrorism - en position som offentligt stöds av andra labbledare, enligt omfattande rapporter. Samma dag som Hinton talade till senatorer, avfärdade framstående AI-forskare inklusive Andrew Ng offentligt utrotningsproblem som överdrivna, och underströk ett område som diskuterar med sig själv offentligt.
På Capitol Hill har aktiviteten varit bullrigare än resultatet. Senator Cory Booker har uppmanat president Trump att sammankalla en särskild session av kongressen om artificiell intelligens, medan en tvåpartisk problemlösare-kaucus tillkännagav en ny arbetsgrupp om AI och framväxande teknologier denna vecka. Inget av det har ännu producerat bindande federal lag.
Varför ettårig inramning är viktig
Deadline-drivna varningar från AI-pionjärer har blivit rutin, men det specifika med Hintons tidslinje – levererad direkt till personer med behörighet att lagstifta, i ett rum som är uteslutet för industrichefer – markerar en förändring i tonen. Tidigare varningar från forskare har vanligtvis projicerat risk på decenniers horisont; ett fönster på ett år innebär politiska svar utformade för den nuvarande kongressen, inte framtida.
Det skärper också det politiska problemet. Som Hintons egen kill-switch-skepsis och senator Pauls procedurblockering visar, finns det ingen konsensus ens bland säkerhetsinriktade personer om vilka interventioner som skulle fungera. Hinton har hävdat att den internationella situationen – särskilt konkurrensen med Kina – gör ensidiga nedgångar politiskt bräckliga, en spänning som har hindrat de mest seriösa förslagen hittills.
Vad som händer sedan är, enligt Hintons egen klocka, en fråga om månader. Huruvida genomgången ändrar den kalkylen beror på en senat som, enligt sina egna medlemmars konton, för närvarande inte rör sig alls.
Ligg före AI
AI-policyn rör sig snabbt – och så är allt annat på området. För fler senaste AI-nyheter, regeluppdateringar och analyser, läs mer AI-nyheter →.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
