Zatímco Američané míří k úterním volbám v polovině období, OpenAI i Anthropic provozují vyhrazené „válečné místnosti“, aby zajistily, že jejich platformy AI budou poskytovat přesné volební informace – poprvé pro obě společnosti, uvedl Semafor. Tyto kroky uznávají nepříjemnou realitu: pro rostoucí počet voličů jsou chatboti a vyhledávací nástroje AI nyní primárním způsobem, jak položit základní otázky o tom, jak, kde a kdy volit.
Koncept válečné místnosti je vypůjčen z dřívější éry politiky platforem. Pochází z roku 2018, kdy Meta postavila první takový tým kvůli obavám z šíření dezinformací souvisejících s volbami. Co se od té doby změnilo, je model hrozeb: věk umělé inteligence převýšil tato rizika, která nyní zahrnují hluboce falešná videa a výsledky vyhledávání založené na umělé inteligenci, které sebevědomě šíří nesprávné informace. Průnik umělé inteligence a pololetních období sledujeme během dne v našem zpravodajství o umělé inteligenci pro volební období.
První pro obě laboratoře AI
Anthropic potvrdil své nastavení Semaforu. "Týmy napříč společností celoročně pracují na posílení našich ochranných opatření souvisejících s volbami a prosazování našich zásad," uvedl mluvčí Antropic. "Před volbami máme vyhrazenou válečnou místnost, která monitoruje naši platformu kvůli zneužití a je připravena rychle reagovat na jakékoli incidenty."
Struktura je přímočará, ale náročná: zaměstnanci sledují, jak Claude a další nástroje reagují na volební dotazy, sledují vzorce zneužití, jako jsou generované dezinformace, a udržují proces rychlé reakce na incidenty, které je třeba opravit během několika hodin, nikoli dnů. NBC News mezitím vzala čtenáře do paralelní volební válečné místnosti OpenAI a zkoumala, jak se společnost připravuje na dopad AI na střednědobé období.
To, že obě společnosti cítily potřebu vybudovat tuto schopnost od nuly, vypovídá něco o tom, jak nový problém je. V roce 2018 se platformy staraly především o to, co uživatelé zveřejnili. V roce 2026 se také musí starat o to, co říkají jejich vlastní modely.
Když se AI odpovědi pokazí v nejhorší chvíli
Sázky nejsou hypotetické. Semafor poukázal na jeden případ z minulého týdne: Režim umělé inteligence Google neodpověděl na dotaz, kdo vyhrál volby v roce 2020 – jednu z nejčastěji kladených a nejvyřešenějších otázek v nedávné americké politické historii. Google uvedl, že na vyřešení problému pracuje.
Režim poruchy je poučný. Systémy umělé inteligence někdy odmítají otázky, na které by měly odpovědět, a někdy odpovídají na otázky, které by měly odmítnout, a obě chyby narůstají přesně tehdy, když je pozornost veřejnosti – a objem dotazů – nejvyšší. Asistent umělé inteligence, který zavrhuje faktickou otázku o minulých volbách, podkopává důvěru stejným dechem, jakým se ji snaží nastolit.
Širší zájem přesahuje jednotlivé chybné odpovědi. Analýza Rady pro zahraniční vztahy zveřejněná tento týden varovala, že chatboti s umělou inteligencí mohou propůjčit vlivu kampaní novou důvěryhodnost – protože dezinformace poskytované klidným, sebevědomým hlasem podobným asistentovi zdědí auru neutrality, kterou stranický web nikdy nedostane.
„Stvořeno pro řešení věcí, které nemůžeme předvídat“
Proč udržovat živou válečnou místnost, než se spoléhat na předvolební testování? Katie Harbath, bývalá ředitelka Meta pro veřejnou politiku, která se nyní zabývá tématem technologií a demokracie, vysvětlila Semaforu logiku. Válečné místnosti jsou "postaveny pro řešení věcí, u kterých nemůžeme nutně předvídat, že se pokazí," řekla, "a potřebujete rychlý, zavedený proces, pokud jde o třídění."
K této nepředvídatelnosti přispívá, jak poznamenal Semafor, nestálá povaha umělé inteligence, nedávné problémy s kybernetickou bezpečností, které toto odvětví ovlivňují, a tendence vyhledávacích nástrojů umělé inteligence odrážet odpovědi, které uživatelé chtějí vidět, což je podlézavý problém, který může v tichosti zkreslovat, jak lidé chápou sporná témata.
Den voleb je zatěžkávací zkouškou. Objem dotazů na volební místa, pozice kandidátů a výsledky narostou na úroveň, kterou žádné předvolební hodnocení plně nesimuluje. Válečné místnosti existují, protože jediný způsob, jak zjistit, jak se tyto systémy chovají při takovém zatížení, je sledovat je v reálném čase s pravomocí věci rychle napravit.
Na co se dívat, když přicházejí výsledky
Během volební noci jsou tlakové body v kategorii předvídatelné, i když ne v načasování: AI odpovědi o výsledcích a maržích před závody jsou oficiálně vyhlášeny, deepfakes načasované do maximálního zmatku a screenshoty špatných odpovědí chatbotů se šíří rychleji než opravy. To, jak rychle se přizpůsobí systémy OpenAI, Anthropic a Google, ovlivní nejen informační prostředí těchto voleb, ale i to, jak budou řízeny ty příští.
Pro průmysl AI je hlubší test reputační. Miliony voličů budou tento týden poprvé komunikovat s těmito systémy v důležitém občanském kontextu. Společnosti, které dostanou správné volební odpovědi – nebo je viditelně rychle opraví – získají takovou důvěru, jakou si nemůže koupit žádná marketingová kampaň.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
