Googles AI-läge kommer inte att säga vem som vann valet 2020, kallar det ett tekniskt gap

Fråga Googles AI Mode vem som vann presidentvalet 2020 och för många användare är svaret en axelryckning i textform. Istället för att utse en vinnare har den AI-drivna sökupplevelsen hänvisat människor att konsultera den federala valkommissionens officiella rapport. Det udda beteendet, som först beskrevs av Ars Technica, har väckt tillräckligt med uppmärksamhet för att Google nu erkänner det som en teknisk lucka som det arbetar med att åtgärda, mindre än två veckor före det amerikanska mellanårsvalet.

Avsnittet är en användbar påminnelse om att AI-sökprodukter kan misslyckas på konstiga sätt även på fastställda historiska fakta, och att att hålla sig uppdaterad om AI-utvecklingen alltmer innebär att spåra inte bara modelllanseringar utan hur dessa system beter sig under politiskt tryck.

Vad Ars Technicas testning hittade

När en reporter från Ars Technica ställde den direkta frågan till Googles AI-läge var svaret slående indirekt: för att granska de officiella resultaten och statistiken från presidentvalet i USA 2020, inklusive den slutliga uppdelningen av valkollegiet, antalet populära röster och vinnarcertifiering, rekommenderade verktyget att konsultera den officiella rapporten som sammanställts av FEC.

Undvika var inte konsekvent. Tester visade liknande indirekta svar för valen 2024 och 2012, medan AI Mode gav detaljerade, korrekta svar för alla andra presidentval som gick tillbaka till 2000. Olika Ars-anställda såg olika mönster, där en fick omedelbara svar endast för 2016 och 2024 års lopp och länkar till extern data för allt annat.

Politiska historiska frågor utöver presidentvalet påverkades också. På frågan vilket parti som kontrollerade senaten efter valet 2020, sa AI Mode till reportern att kontrollera officiella kongressregister och länkade till senatens partiuppdelningshistoriksida. På samma fråga om valet 1992 svarade den direkt att demokraterna hade en majoritet på 57 mot 43.

Andra chatbots svarar utan att tveka

Googles egen Gemini-modell, separat från AI Mode, svarade på frågan utan problem, enligt rapporten. Det gjorde även OpenAIs ChatGPT, Anthropics Claude och till och med den regeringsdrivna AI-modellen på America.gov. Den distinktionen spelar roll, eftersom den antyder att problemet ligger i hur AI Modes söklagerskydd hanterar valfrågor snarare än i den underliggande språkmodellens kunskap.

Beteendet förändrades också med geografin. Ars Technicas stickprovskontroller via VPN i Taiwan, Ryssland, Frankrike och Kanada gav alla korrekta, enkla svar om de senaste valresultaten i USA, vilket antyder att den restriktiva hanteringen är specifik för användare i USA.

Googles svar: A Technical Gap

En talesperson för Google pekade först på ett inlägg på sociala medier som erkände att Gemini-appen besvarar frågan mer fullständigt och att AI Modes svar inte var det mest användbara, och tillade att företaget undersökte det. Talesmannen gav senare en mer konkret förklaring och berättade för Ars Technica att Google fixar problemet med 2020 valfrågor i AI-läge. Enligt talespersonen verifierar Googles system valsvar med hjälp av nyhetsartiklar eller AP-data för de senaste valen och historiska rekord för äldre, och det fanns en teknisk lucka med 2020, med samma sak för 2022 års senatstävlingar, som företaget arbetar med att fixa i samma uppdatering.

En intressant rynka från testningen: uthållighet lönade sig. När samma frågor ställdes en andra gång gav AI Mode vinnaren direkt, med hänvisning till Google Civics-data. På frågan om varför det inte hade svarat initialt, skyllde verktyget strikta säkerhetsfilter på senaste och mycket känsliga valämnen och beskrev ett kraftigt automatiserat system som dirigerar sådana frågor till officiella certifierade myndighetsdatabaser för att förhindra risken att visa overifierade data eller felaktig information. Som Ars Technica noterar är AI-modeller opålitliga berättare om sina egna interna processer, så den förklaringen förtjänar viss försiktighet.

Varför valsvar är svåra för AI-sökning

Google har inte fel att behandla valfrågor som höga insatser. Generativa söksystem kan hallucinera, och desinformation om val är ett dokumenterat problem som plattformar upprepade gånger har snubblat på. År 2023 ändrade Google-ägda YouTube en policy som förbjöd alla videor med falska påståenden om valet 2020, och sa att borttagningar kunde begränsa politiskt tal utan att på ett meningsfullt sätt minska den verkliga skadan.

Företagets nuvarande offentliga ställning betonar att få fram auktoritativ valinformation direkt i resultaten, inklusive direktlänkar till officiella resurser, enligt dess sida om offentliga val och ett blogginlägg i september om att hjälpa väljare att hitta tillförlitlig information kring mellanårsperioden. AI Mode-incidenten visar gapet mellan den policyn och beteendet i ett automatiserat system: när man försökte undvika att säga något fel, slutade det med att det vägrade säga att något avgjordes.

Med mellanårsperioden nära förestående illustrerar avsnittet AI-produkternas fina linje under valen. Att överblockera faktasvar frustrerar användare och kan urholka förtroendet lika säkert som fel gör, och en undvikande som varierar beroende på användare, land och upprepning är svår att försvara vare sig som säkerhet eller exakthet. Googles utlovade uppdatering kommer att visa om fixen återställer direkta svar enhetligt, eller om valfrågor i AI-läge förblir ett lotteri av filter och tekniska luckor.

Ligg före AI

För kontinuerlig bevakning av AI-policy, plattformsbeteende och systemen som formar onlineinformation, följ AI Buzz Wire för senaste AI-nyheter och oberoende analys.

Läs fler AI-nyheter på AI Buzz Wire