Den brittiska regeringen kommer denna vecka att berätta för fackföreningsmedlemmar att den lyssnar på AI-industrins egna säkerhetsvarningar – även när en av dess mest seniora ministrar öppet avvisar ett av de mest framträdande förslagen för att hålla tekniken i schack.
Förste utrikesminister Louise Haigh kommer att ta upp den växande oron över AI-säkerhet i ett tal till TUC-kongressen på tisdagen, där hon förväntas säga att regeringen måste "akta på varningarna" från "de som ligger i framkant" för att utveckla artificiell intelligens, enligt BBC. Hon förväntas också säga att Storbritannien är "redo att arbeta med internationella partners" för att prioritera allmän säkerhet och nationell säkerhet. För läsare som följer globala AI-nyheter, placerar talet Storbritannien mellan ett Vita huset som avfärdar säkerhetsrädslor som en bluff och ett EU som fortfarande formar sin upprätthållande av AI-lagen.
"AI har en enorm potential att omvandla våra offentliga tjänster, göra våra företag starkare och leverera nya vetenskapliga genombrott," kommer Haigh att berätta för delegaterna, enligt förberedda kommentarer som rapporterats av BBC - en balansgång mellan att erkänna riskerna och försvara den ekonomiska uppsidan.
Downing Street välkomnar debatten, men avvisar plugget
Haighs tal följer på en markant sympatisk signal från premiärminister Andy Burnham, vars talesperson sa i måndags: "Det är bra att företagen som utvecklar de mest avancerade AI-systemen nu pratar öppet om riskerna såväl som möjligheterna."
Men regeringen drog en hård linje på en idé i synnerhet. På frågan om Anthropics medgrundare Jack Clarks förslag att en obligatorisk, tredjepartsverifierad "kill switch" för farliga AI-system kan behöva lagstiftas, sa affärssekreterare Jonathan Reynolds till BBC Radio 4s Today-program: "Jag tror inte att det är ett särskilt användbart sätt att tänka på hur vi hanterar riskerna - jag är inte riktigt säker på vad det skulle innebära i praktiken."
Reynolds varnade för att överreglering kan riskera att Storbritannien förlorar tillgången till modeller som utvecklats utomlands, vilket han menade skulle göra landet "mindre säkert". Och kabinettskontoret gick längre och berättade för parlamentet att Storbritannien "inte bara kan stänga av AI" och att blockering av åtkomst till modeller inte skulle förhindra att de utvecklas eller missbrukas någon annanstans.
Parlamentet trycker tillbaka
Ministrarnas försiktighet sätter dem i strid med ett växande block i parlamentet. Lagstiftare söker ny AI-lagstiftning efter att en kommittérapport fann att tekniken var ansvarig för många kränkningar av mänskliga rättigheter.
"Ingenstans i världen, inklusive Storbritannien, har ett aktuellt lagstiftande och reglerande tillvägagångssätt för AI som är lämpligt för ändamålet," sa Labour-parlamentarikern Alex Sobel, kommitténs ordförande, till BBC. I ett separat ingripande mellan partier, krävde parlamentsledamöter och Lords en ny lag för att ta itu med hotet AI utgör mot mänskliga rättigheter och varnade för att befintlig lagstiftning inte är utrustad för att hantera riskerna. Ett förslag om att skapa en rättslig mekanism som gör det möjligt för Storbritannien att stänga av en AI-modell i en nödsituation har lagts fram till parlamentet av Lords och parlamentsledamöter - själva mekanismen som regeringskansliet nu avfärdar som ogenomförbar.
Den parlamentariska revolten speglar känslor bortom Westminster. På lördagen samlades omkring 250 personer för en protest på Millennium Square mot ett större föreslaget datakomplex i Leeds, rapporterade BBC - ett tecken på att den infrastrukturboom som ligger till grund för frontier AI genererar exakt den typ av lokal opposition som presidenten bredvid avfärdar som en bluff.
Varför Storbritannien tittar så noga på Amerikas säkerhetsinbördeskrig
Intensiteten i den brittiska debatten speglar den eskalerande konfrontationen i USA, där Anthropics vd Dario Amodei har krävt att gränsutvecklingen ska sakta ner, forskare som lämnat Anthropic har varnat offentligt för risken för utrotning, och president Trump har stämplat hela säkerhetsdiskursen som en "bluff".
Jacob Coxon, den före detta antropiska forskaren vars avgångspost gick viralt förra veckan, sa till BBC: "Om vi inte saktar ner med nuvarande framsteg, finns det en stor chans att vi alla kan dö inom en omedelbar framtid." Den antropiska forskaren Evan Hubinger sa att han trodde att det fanns en större än 10 % chans att AI skulle kunna orsaka mänsklig utrotning inom det kommande decenniet - en siffra som "Gudfadern till AI" Geoffrey Hinton kallade "inte orimlig" i sin egen BBC-intervju på fredagen.
Reynolds, å sin sida, uppmanade till åtgärder från alla håll. Människor ska "aldrig vara självbelåtna" om AI:s inverkan, sa han, men "vi måste vara försiktiga så att vi inte blir hyperboliska om detta heller." Naturligtvis finns det risker, tillade han, men "det finns några enorma fördelar, oavsett om det är offentliga tjänster, sjukvård, bidraget till ekonomin."
Den ambivalensen är nu Storbritanniens de facto AI-policy: välkomna varningarna, uppvakta investeringen och motstå allt som ser ut som en avstängningsknapp. Huruvida Haighs TUC-tal tillför något fastare - eller bara papper över skåpets splittring - kommer att bli klart när hon intar scenen på tisdag.
---
Stay ahead of AIFå de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.
Läs mer AI-nyheter →
