De AI-modus van Google kan niet zeggen wie de verkiezingen van 2020 heeft gewonnen, maar noemt het een technische kloof

Vraag de AI-modus van Google wie de presidentsverkiezingen van 2020 heeft gewonnen en voor veel gebruikers is het antwoord schouderophalen in tekstvorm. In plaats van een winnaar aan te wijzen, heeft de door AI aangedreven zoekervaring mensen ertoe aangezet het officiële rapport van de Federal Election Commission te raadplegen. Het vreemde gedrag, voor het eerst beschreven door Ars Technica, heeft genoeg aandacht getrokken dat Google het nu erkent als een technische leemte die het probeert op te lossen, minder dan twee weken voor de tussentijdse verkiezingen in de VS.

De aflevering is een nuttige herinnering dat AI-zoekproducten op vreemde manieren kunnen falen, zelfs op basis van vaste historische feiten, en dat [op de hoogte blijven van AI-ontwikkelingen] (https://aibuzzwire.news/en) in toenemende mate betekent dat niet alleen modellanceringen moeten worden gevolgd, maar ook hoe deze systemen zich onder politieke druk gedragen.

Wat de tests van Ars Technica hebben opgeleverd

Toen een verslaggever van Ars Technica de directe vraag stelde aan de AI-modus van Google, was het antwoord opvallend indirect: om de officiële resultaten en statistieken van de Amerikaanse presidentsverkiezingen van 2020 te bekijken, inclusief de definitieve uitsplitsing van het kiescollege, het aantal stemmen en de certificering van de winnaars, adviseerde de tool het officiële rapport te raadplegen dat door de FEC was opgesteld.

De ontwijking was niet consistent. Testen lieten vergelijkbare indirecte antwoorden zien voor de verkiezingen van 2024 en 2012, terwijl de AI-modus gedetailleerde, correcte antwoorden gaf voor elke andere presidentsverkiezing die teruggaat tot 2000. Verschillende Ars-stafmedewerkers zagen verschillende patronen, waarbij één alleen onmiddellijke antwoorden kreeg voor de races van 2016 en 2024 en links naar externe gegevens voor al het andere.

Vragen over de politieke geschiedenis die verder gingen dan de presidentiële rassen werden ook beïnvloed. Op de vraag welke partij de Senaat controleerde na de verkiezingen van 2020, zei AI Mode tegen de verslaggever dat hij de officiële congresgegevens moest controleren en linkte naar de geschiedenispagina van de partijafdeling van de Senaat. Toen dezelfde vraag werd gesteld over de verkiezingen van 1992, antwoordde het rechtstreeks dat de Democraten een meerderheid van 57 tegen 43 hadden.

Andere chatbots antwoorden zonder aarzeling

Googles eigen Gemini-model, los van de AI-modus, beantwoordde de vraag zonder problemen, aldus het rapport. Dat geldt ook voor ChatGPT van OpenAI, Claude van Anthropic en zelfs het door de overheid beheerde AI-model op America.gov. Dat onderscheid is van belang, omdat het suggereert dat het probleem ligt in de manier waarop de beveiligingen van de zoeklaag van AI Mode omgaan met verkiezingsvragen, en niet zozeer in de kennis van het onderliggende taalmodel.

Het gedrag veranderde ook met de geografie. De steekproeven van Ars Technica via VPN's in Taiwan, Rusland, Frankrijk en Canada leverden allemaal nauwkeurige, duidelijke antwoorden op over recente Amerikaanse verkiezingsresultaten, wat impliceert dat de restrictieve behandeling specifiek is voor gebruikers in de Verenigde Staten.

Reactie van Google: een technische kloof

Een woordvoerder van Google wees eerst op een bericht op sociale media waarin hij erkende dat de Gemini-app de vraag vollediger beantwoordt en dat het antwoord van AI Mode niet het meest nuttig was, en voegde eraan toe dat het bedrijf ernaar onderzoekt. De woordvoerder gaf later een meer concrete uitleg en vertelde Ars Technica dat Google het probleem met verkiezingsvragen voor 2020 in de AI-modus oplost. Volgens de woordvoerder verifiëren de systemen van Google verkiezingsreacties met behulp van nieuwsartikelen of AP-gegevens voor recente verkiezingen en historische gegevens voor oudere verkiezingen, en was er een technisch gat met 2020, hetzelfde geldt voor de Senaatsraces in 2022, die het bedrijf in dezelfde update probeert op te lossen.

Een interessante rimpel uit het testen: volharding heeft zijn vruchten afgeworpen. Toen dezelfde vragen een tweede keer werden gesteld, leverde AI Mode rechtstreeks de winnaar op, onder verwijzing naar gegevens van Google Civics. Op de vraag waarom het in eerste instantie niet had geantwoord, gaf de tool de schuld aan strikte veiligheidsfilters voor recente en zeer gevoelige verkiezingsonderwerpen en beschreef het een zwaar geautomatiseerd systeem dat dergelijke vragen doorstuurt naar officieel gecertificeerde overheidsdatabases om elk risico op het weergeven van niet-geverifieerde gegevens of verkeerde informatie te voorkomen. Zoals Ars Technica opmerkt, zijn AI-modellen onbetrouwbare vertellers van hun eigen interne processen, dus die uitleg verdient enige voorzichtigheid.

Waarom verkiezingsantwoorden moeilijk zijn voor AI-zoekopdrachten

Het is niet verkeerd dat Google verkiezingsvragen als een hoge inzet beschouwt. Generatieve zoeksystemen kunnen hallucineren, en verkeerde verkiezingsinformatie is een gedocumenteerd probleem waar platforms herhaaldelijk op zijn gestuit. In 2023 heeft YouTube, eigendom van Google, een beleid teruggedraaid dat alle video's verbood die valse beweringen deden over de verkiezingen van 2020, waarbij werd gezegd dat verwijderingen politieke toespraken zouden kunnen inperken zonder de echte schade op betekenisvolle wijze te verminderen.

De huidige publieke houding van het bedrijf legt de nadruk op het rechtstreeks naar boven halen van gezaghebbende verkiezingsinformatie in de resultaten, inclusief directe links naar officiële bronnen, volgens de Election Public Policy-pagina en een blogpost uit september over het helpen van kiezers bij het vinden van betrouwbare informatie rond de tussentijdse verkiezingen. Het AI Mode-incident laat de kloof zien tussen dat beleid en het gedrag van een geautomatiseerd systeem in de praktijk: in een poging iets verkeerds te zeggen, weigerde het uiteindelijk iets vast te stellen.

Nu de tussentijdse verkiezingen in aantocht zijn, illustreert de aflevering de fijne lijn die AI-producten tijdens verkiezingen bewandelen. Het teveel blokkeren van feitelijke antwoorden frustreert gebruikers en kan het vertrouwen net zo ondermijnen als fouten dat doen, en een ontwijking die verschilt per gebruiker, land en herhaling is moeilijk te verdedigen als veiligheid of nauwkeurigheid. De beloofde update van Google zal laten zien of de oplossing de directe antwoorden op uniforme wijze herstelt, of dat verkiezingsvragen in de AI-modus een loterij van filters en technische hiaten blijven.

Blijf AI een stap voor

Voor voortdurende berichtgeving over AI-beleid, platformgedrag en de systemen die online informatie vormgeven, volgt u AI Buzz Wire voor het laatste AI-nieuws en onafhankelijke analyse.

Lees meer AI-nieuws op AI Buzz Wire