Întrebați modul AI de la Google care a câștigat alegerile prezidențiale din 2020 și, pentru mulți utilizatori, răspunsul este o ridicare din umeri sub formă de text. În loc să desemneze un câștigător, experiența de căutare bazată pe inteligență artificială a îndrumat oamenii să consulte raportul oficial al Comisiei Electorale Federale. Comportamentul ciudat, detaliat inițial de Ars Technica, a atras suficient de mult atenția încât Google recunoaște acum că este o lacună tehnică pe care se străduiește să o remedieze, cu mai puțin de două săptămâni înainte de alegerile intermediare din SUA.

Episodul este o reamintire utilă că produsele de căutare AI pot eșua în moduri ciudate chiar și pe baza unor fapte istorice stabilite și că a rămâne la curent cu evoluțiile AI înseamnă din ce în ce mai mult să urmăriți nu doar lansările de modele, ci și modul în care aceste sisteme se comportă sub presiunea politică.

Ce au găsit testele Ars Technica

Când un reporter Ars Technica a pus întrebarea directă modului AI al Google, răspunsul a fost izbitor de indirect: pentru a revizui rezultatele și statisticile oficiale ale alegerilor prezidențiale din Statele Unite ale Americii din 2020, inclusiv defalcarea finală a colegiului electoral, numărarea voturilor populare și certificarea câștigătorilor, instrumentul a recomandat consultarea raportului oficial întocmit de FEC.

Eschivarea nu a fost consecventă. Testele au arătat răspunsuri indirecte similare pentru alegerile din 2024 și 2012, în timp ce AI Mode a oferit răspunsuri detaliate și corecte pentru toate celelalte alegeri prezidențiale începând cu 2000. Diferiți angajați ai Ars au văzut modele diferite, unul primind răspunsuri imediate doar pentru cursele din 2016 și 2024 și legături către orice altceva.

Întrebările de istorie politică dincolo de cursele prezidențiale au fost și ele afectate. Întrebat ce partid controlează Senatul după alegerile din 2020, AI Mode i-a spus reporterului să verifice înregistrările oficiale ale Congresului și să facă legătura la pagina cu istoricul diviziei de partid a Senatului. Adresat aceeași întrebare despre alegerile din 1992, acesta a răspuns direct că democrații dețin o majoritate de 57 la 43.

Alți chatbot-uri răspund fără ezitare

Modelul Gemini al Google, separat de modul AI, a răspuns fără probleme la întrebare, potrivit raportului. La fel au făcut și ChatGPT de la OpenAI, Claude de la Anthropic și chiar modelul AI administrat de guvern de pe America.gov. Această distincție contează, deoarece sugerează că problema constă în modul în care sistemele de siguranță ale stratului de căutare ale modului AI gestionează interogările electorale, mai degrabă decât în ​​cunoștințele modelului lingvistic de bază.

Comportamentul s-a schimbat și odată cu geografia. Verificările la fața locului Ars Technica prin VPN-uri din Taiwan, Rusia, Franța și Canada au dat toate răspunsuri precise și directe cu privire la rezultatele recente ale alegerilor din SUA, ceea ce sugerează că gestionarea restrictivă este specifică utilizatorilor din Statele Unite.

Răspunsul Google: O lacună tehnică

Un purtător de cuvânt al Google a arătat mai întâi o postare pe rețelele sociale în care recunoaște că aplicația Gemini răspunde la întrebare mai pe deplin și că răspunsul modului AI nu a fost cel mai util, adăugând că compania se uită la asta. Purtătorul de cuvânt a dat ulterior o explicație mai concretă, spunând lui Ars Technica că Google rezolvă problema cu interogările privind alegerile din 2020 în modul AI. Potrivit purtătorului de cuvânt, sistemele Google verifică răspunsurile la alegeri folosind articole de știri sau date AP pentru alegerile recente și înregistrările istorice pentru cele mai vechi și a existat un decalaj tehnic cu 2020, același lucru fiind valabil și pentru cursele pentru Senat din 2022, pe care compania lucrează la remedierea în aceeași actualizare.

Un rid interesant de la testare: persistența a dat roade. Când aceleași întrebări au fost puse a doua oară, modul AI a oferit câștigătorul direct, citând datele Google Civics. Întrebat de ce nu a răspuns inițial, instrumentul a dat vina pe filtre de siguranță stricte pentru subiectele electorale recente și extrem de sensibile și a descris un sistem puternic automatizat care direcționează astfel de interogări către bazele de date oficiale certificate ale guvernului pentru a preveni orice risc de afișare a datelor neverificate sau a informațiilor greșite. După cum notează Ars Technica, modelele AI sunt naratori nesiguri ai propriilor procese interne, astfel încât această explicație merită puțină atenție.

De ce răspunsurile electorale sunt dificile pentru căutarea AI

Google nu greșește când tratează interogările electorale ca fiind cu mize mari. Sistemele de căutare generative pot halucina, iar dezinformarea electorală este o problemă documentată pe care platformele s-au împiedicat în mod repetat. În 2023, YouTube, deținut de Google, a anulat o politică care interzicea toate videoclipurile care făceau afirmații false despre alegerile din 2020, spunând că eliminările ar putea reduce discursul politic fără a reduce semnificativ daunele din lumea reală.

Poziția publică actuală a companiei pune accentul pe evidențierea informațiilor electorale autorizate direct în rezultate, inclusiv legături directe către resurse oficiale, conform paginii sale privind Politica publică electorală și a unei postări pe blog din septembrie despre a ajuta alegătorii să găsească informații de încredere în timpul mandatului mediu. Incidentul în modul AI arată decalajul dintre acea politică și comportamentul pe teren al unui sistem automatizat: încercând să evite să spună ceva greșit, a sfârșit prin a refuza să spună ceva stabilit.

Având în vedere iminentul mandatului de mijloc, episodul ilustrează linia fină a produselor AI în timpul alegerilor. Suprablocarea răspunsurilor factice frustrează utilizatorii și poate eroda încrederea la fel de sigur ca și erorile, iar o eschivă care variază în funcție de utilizator, țară și repetiție este greu de apărat ca siguranță sau precizie. Actualizarea promisă de Google va arăta dacă remedierea restabilește răspunsurile directe în mod uniform sau dacă interogările electorale în modul AI rămân o loterie de filtre și lacune tehnice.

Rămâi înaintea AI

Pentru o acoperire continuă a politicii AI, a comportamentului platformei și a sistemelor care modelează informațiile online, urmați AI Buzz Wire pentru știri de ultimă oră și analize independente.

Citiți mai multe știri despre AI la AI Buzz Wire