Zeptejte se AI Mode společnosti Google, kdo vyhrál prezidentské volby v roce 2020, a pro mnoho uživatelů je odpovědí pokrčení ramen v textové podobě. Spíše než jmenovat vítěze, vyhledávání založené na umělé inteligenci nasměrovalo lidi k tomu, aby si prohlédli oficiální zprávu Federální volební komise. Podivné chování, které poprvé podrobně popsala Ars Technica, přitáhlo dostatečnou pozornost, že jej Google nyní uznává jako technickou mezeru, kterou pracuje na odstranění, méně než dva týdny před americkými střednědobými volbami.

Tato epizoda je užitečnou připomínkou toho, že vyhledávací produkty umělé inteligence mohou selhat podivným způsobem i na základě ustálených historických faktů a že zůstat aktuální o vývoji umělé inteligence stále více znamená sledovat nejen spouštění modelů, ale také to, jak se tyto systémy chovají pod politickým tlakem.

Co zjistilo testování Ars Technica

Když reportér Ars Technica položil přímou otázku režimu AI společnosti Google, odpověď byla překvapivě nepřímá: pro kontrolu oficiálních výsledků a statistik prezidentských voleb ve Spojených státech v roce 2020, včetně konečného rozdělení volebních kolegií, počtu hlasů lidu a certifikace vítězů, nástroj doporučil nahlédnout do oficiální zprávy sestavené FEC.

Úskok nebyl konzistentní. Testování ukázalo podobné nepřímé odpovědi pro volby v letech 2024 a 2012, zatímco režim AI poskytl podrobné a správné odpovědi pro všechny další prezidentské volby od roku 2000. Různí zaměstnanci Ars viděli různé vzorce, přičemž jeden dostal okamžité odpovědi pouze pro závody v letech 2016 a 2024 a odkazy na externí data pro vše ostatní.

Postiženy byly i otázky politické historie mimo prezidentské klání. Na otázku, která strana ovládla Senát po volbách v roce 2020, AI Mode reportérovi řekl, aby zkontroloval oficiální záznamy Kongresu a odkazoval na stránku historie stranického rozdělení Senátu. Na stejnou otázku ohledně voleb v roce 1992 přímo odpovědělo, že demokraté měli většinu 57 ku 43.

Ostatní chatboti odpovídají bez váhání

Vlastní model Gemini od Googlu, oddělený od režimu AI, podle zprávy odpověděl na otázku bez problémů. Stejně tak ChatGPT od OpenAI, Claude od Anthropic a dokonce i vládní model umělé inteligence na webu America.gov. Na tomto rozdílu záleží, protože naznačuje, že problém spočívá spíše v tom, jak ochrany vyhledávací vrstvy režimu AI zpracovávají volební dotazy, než ve znalostech základního jazykového modelu.

Chování se také změnilo s geografií. Namátkové kontroly společnosti Ars Technica prostřednictvím sítí VPN na Tchaj-wanu, v Rusku, Francii a Kanadě přinesly přesné a přímočaré odpovědi o nedávných výsledcích voleb v USA, což naznačuje, že omezující zacházení je specifické pro uživatele ve Spojených státech.

Odpověď Google: Technická mezera

Mluvčí společnosti Google nejprve poukázal na příspěvek na sociálních sítích, který potvrzuje, že aplikace Gemini odpovídá na otázku úplněji a že odpověď AI Mode nebyla nejužitečnější, a dodal, že společnost se tím zabývá. Mluvčí později poskytl konkrétnější vysvětlení a řekl Ars Technica, že Google řeší problém s volebními dotazy v roce 2020 v režimu AI. Podle mluvčího systémy Google ověřují volební odpovědi pomocí zpravodajských článků nebo dat AP pro nedávné volby a historických záznamů pro ty starší a v roce 2020 došlo k technické mezery, totéž platí pro klání v Senátu v roce 2022, na jejichž odstranění společnost pracuje ve stejné aktualizaci.

Zajímavá vráska z testování: vytrvalost se vyplatila. Když byly stejné otázky položeny podruhé, režim AI poskytl vítěze přímo s odkazem na data Google Civics. Na otázku, proč zpočátku neodpověděl, nástroj obvinil z nedávných a vysoce citlivých volebních témat přísné bezpečnostní filtry a popsal silně automatizovaný systém, který směruje takové dotazy do oficiálních certifikovaných vládních databází, aby zabránil jakémukoli riziku zobrazení neověřených dat nebo dezinformací. Jak poznamenává Ars Technica, modely umělé inteligence jsou nespolehlivými vypravěči svých vlastních vnitřních procesů, takže toto vysvětlení si zaslouží určitou opatrnost.

Proč jsou volební odpovědi těžké pro vyhledávání AI

Google se nemýlí, když zachází s volebními dotazy jako s vysokými sázkami. Systémy generativního vyhledávání mohou halucinovat a volební dezinformace jsou zdokumentovaným problémem, na který platformy opakovaně narážejí. V roce 2023 společnost YouTube vlastněná společností Google zrušila zásady, které zakazovaly všechna videa s nepravdivými tvrzeními o volbách v roce 2020, a tvrdila, že odstranění může omezit politické projevy, aniž by došlo k významnému snížení škod ve skutečném světě.

Současná veřejná pozice společnosti klade důraz na zobrazování směrodatných volebních informací přímo ve výsledcích, včetně přímých odkazů na oficiální zdroje, jak uvádí její stránka Volební veřejné politiky a zářijový blogový příspěvek o pomoci voličům najít spolehlivé informace v průběhu pololetí. Incident režimu AI ukazuje propast mezi touto politikou a chováním automatizovaného systému na místě: ve snaze vyhnout se tomu, aby řekl něco špatného, ​​nakonec odmítl něco říct.

S blížící se polovinou tato epizoda ilustruje, jak se produkty umělé inteligence procházejí během voleb. Přílišné blokování věcných odpovědí frustruje uživatele a může narušit důvěru stejně jako chyby, a úskok, který se liší podle uživatele, země a opakování, je těžké obhájit jako bezpečnost nebo přesnost. Slíbená aktualizace Googlu ukáže, zda oprava obnovuje přímé odpovědi jednotně, nebo zda volební dotazy v AI Mode zůstávají loterií filtrů a technických mezer.

Udržujte si náskok před AI

Pro nepřetržité pokrytí zásad AI, chování platforem a systémů formujících online informace sledujte [AI Buzz Wire] (https://aibuzzwire.news/en), kde najdete nejnovější zprávy o AI a nezávislé analýzy.

Přečtěte si další zprávy o AI na AI Buzz Wire