Zapytaj tryb AI Google, kto wygrał wybory prezydenckie w 2020 r., a dla wielu użytkowników odpowiedzią jest wzruszenie ramionami w formie tekstowej. Zamiast wskazywać zwycięzcę, wyszukiwarka oparta na sztucznej inteligencji kieruje ludzi do oficjalnego raportu Federalnej Komisji Wyborczej. Dziwne zachowanie, opisane po raz pierwszy przez Ars Technica, przykuło na tyle uwagę, że Google uznaje je teraz za lukę techniczną, którą pracuje nad naprawieniem na niecałe dwa tygodnie przed wyborami śródokresowymi w USA.

Ten odcinek stanowi przydatne przypomnienie, że produkty wyszukiwania oparte na sztucznej inteligencji mogą w dziwny sposób zawieść nawet w przypadku ustalonych faktów historycznych oraz że bycie na bieżąco z rozwojem sztucznej inteligencji w coraz większym stopniu oznacza śledzenie nie tylko premier modeli, ale także zachowania tych systemów pod presją polityczną.

Co wykazały testy Ars Technica

Kiedy reporter Ars Technica zadał bezpośrednie pytanie trybowi AI Google, odpowiedź była uderzająco pośrednia: w celu przeglądu oficjalnych wyników i statystyk wyborów prezydenckich w Stanach Zjednoczonych w 2020 r., w tym ostatecznego podziału kolegiów elektorów, liczby głosów powszechnych i certyfikacji zwycięzców, narzędzie zalecało zapoznanie się z oficjalnym raportem opracowanym przez FEC.

Unik nie był spójny. Testy wykazały podobne pośrednie odpowiedzi w przypadku wyborów w latach 2024 i 2012, podczas gdy tryb AI zapewniał szczegółowe, prawidłowe odpowiedzi w przypadku wszystkich pozostałych wyborów prezydenckich począwszy od 2000 r. Różni pracownicy Ars zauważyli różne wzorce, przy czym jeden otrzymywał natychmiastowe odpowiedzi tylko w odniesieniu do wyścigów w latach 2016 i 2024 oraz linki do danych zewnętrznych w pozostałych przypadkach.

Dotyczyło to również kwestii historii politycznej wykraczających poza wyścigi prezydenckie. Zapytany, która partia kontrolowała Senat po wyborach w 2020 r., AI Mode powiedział reporterowi, aby sprawdził oficjalne dane Kongresu i podał link do strony historii podziałów partyjnych Senatu. Zadając to samo pytanie w odniesieniu do wyborów w 1992 r., odpowiedział bezpośrednio, że Demokraci posiadali większość 57 do 43.

Inne chatboty odpowiadają bez wahania

Z raportu wynika, że własny model Gemini firmy Google, niezależny od trybu AI, odpowiedział na to pytanie bez problemu. Podobnie było z ChatGPT firmy OpenAI, Claude firmy Anthropic, a nawet rządowym modelem sztucznej inteligencji na America.gov. To rozróżnienie ma znaczenie, ponieważ sugeruje, że problem leży w tym, jak zabezpieczenia warstwy wyszukiwania trybu AI radzą sobie z zapytaniami wyborczymi, a nie w znajomości podstawowego modelu językowego.

Zachowanie zmieniło się również wraz z położeniem geograficznym. Wyrywkowe kontrole Ars Technica za pośrednictwem sieci VPN na Tajwanie, w Rosji, Francji i Kanadzie dały dokładne, proste odpowiedzi na temat wyników ostatnich wyborów w USA, co sugeruje, że restrykcyjne zasady dotyczą wyłącznie użytkowników w Stanach Zjednoczonych.

Odpowiedź Google: luka techniczna

Rzecznik Google najpierw odniósł się do postu w mediach społecznościowych, w którym potwierdził, że aplikacja Gemini odpowiada na pytanie pełniej i że odpowiedź trybu AI nie była najbardziej pomocna, i dodał, że firma się nad tym zastanawiała. Rzecznik podał później bardziej konkretne wyjaśnienia, mówiąc Ars Technica, że ​​Google rozwiązuje problem z zapytaniami dotyczącymi wyborów w 2020 r. w trybie AI. Według rzecznika systemy Google weryfikują odpowiedzi na wybory, korzystając z artykułów prasowych lub danych AP dotyczących ostatnich wyborów i danych historycznych dotyczących starszych wyborów. Wystąpiła luka techniczna w porównaniu z rokiem 2020, to samo dotyczy wyścigów do Senatu w 2022 r., nad którymi firma pracuje nad naprawieniem tej samej aktualizacji.

Ciekawa wada z testów: wytrwałość się opłaciła. Gdy te same pytania zadano po raz drugi, tryb AI bezpośrednio wskazał zwycięzcę, powołując się na dane Google Civics. Na pytanie, dlaczego początkowo nie odpowiedziało, narzędzie obwiniło rygorystyczne filtry bezpieczeństwa za niedawne i bardzo wrażliwe tematy wyborcze i opisało w dużym stopniu zautomatyzowany system, który kieruje takie zapytania do oficjalnych certyfikowanych rządowych baz danych, aby zapobiec ryzyku wyświetlania niezweryfikowanych danych lub dezinformacji. Jak zauważa Ars Technica, modele AI są nierzetelnymi narratorami własnych, wewnętrznych procesów, dlatego przy wyjaśnianiu należy zachować ostrożność.

Dlaczego odpowiedzi na wybory są trudne dla wyszukiwania AI

Google nie ma racji, traktując zapytania związane z wyborami jako kwestię o wysoką stawkę. Systemy wyszukiwania generatywnego mogą powodować halucynacje, a dezinformacja wyborcza to udokumentowany problem, na który platformy wielokrotnie się napotykały. W 2023 r. YouTube będący własnością Google zmienił zasady, które zabraniały wszystkich filmów zawierających fałszywe twierdzenia na temat wyborów w 2020 r., twierdząc, że usunięcie może ograniczyć wypowiedzi polityczne bez znaczącego ograniczenia szkód w świecie rzeczywistym.

Obecna postawa publiczna firmy kładzie nacisk na ujawnianie wiarygodnych informacji o wyborach bezpośrednio w wynikach, w tym bezpośrednich linków do oficjalnych zasobów, jak wynika ze strony poświęconej polityce publicznej wyborów i wpisu na blogu z września na temat pomagania wyborcom w znalezieniu wiarygodnych informacji w połowie kadencji. Incydent w trybie AI pokazuje rozbieżność między tą polityką a rzeczywistym zachowaniem zautomatyzowanego systemu: próbując uniknąć powiedzenia czegoś niewłaściwego, ostatecznie odmówił powiedzenia czegoś ustalonego.

W obliczu zbliżających się wyborów parlamentarnych odcinek ten ilustruje cienką linię, jaką produkty AI poruszają się podczas wyborów. Nadmierne blokowanie odpowiedzi opartych na faktach frustruje użytkowników i może podważyć zaufanie tak samo jak błędy, a uniki, które różnią się w zależności od użytkownika, kraju i liczby powtórzeń, trudno obronić jako bezpieczeństwo lub dokładność. Obiecana aktualizacja Google pokaże, czy poprawka równomiernie przywróci odpowiedzi bezpośrednie, czy też zapytania wyborcze w trybie AI pozostają loterią filtrów i luk technicznych.

Wyprzedź sztuczną inteligencję

Aby na bieżąco omawiać politykę dotyczącą sztucznej inteligencji, zachowanie platform i systemy kształtujące informacje online, śledź AI Buzz Wire, gdzie znajdziesz najświeższe wiadomości dotyczące sztucznej inteligencji i niezależne analizy.

Przeczytaj więcej aktualności na temat sztucznej inteligencji w AI Buzz Wire