Gdy Amerykanie udają się do urn przed wtorkowymi wyborami śródokresowymi, zarówno OpenAI, jak i Anthropic prowadzą specjalne „pokoje wojenne”, aby zapewnić, że ich platformy AI dostarczają dokładnych informacji wyborczych — po raz pierwszy w przypadku obu firm, podaje Semafor. Te posunięcia odzwierciedlają niewygodną rzeczywistość: dla rosnącej liczby wyborców chatboty i narzędzia wyszukiwania AI są obecnie głównym sposobem zadawania podstawowych pytań o to, jak, gdzie i kiedy głosować.
Koncepcja pokoju wojennego została zapożyczona z wcześniejszej epoki polityki platformowej. Jej początki sięgają 2018 r., kiedy Meta utworzyła pierwszy taki zespół w obliczu obaw związanych z rozprzestrzenianiem się dezinformacji związanej z wyborami. Od tego czasu zmienił się model zagrożeń: era sztucznej inteligencji zwiększyła ryzyko, które obecnie obejmuje fałszywe filmy i wyniki wyszukiwania oparte na sztucznej inteligencji, które pewnie rozpowszechniają nieprawidłowe informacje. Przez cały dzień śledzimy skrzyżowanie sztucznej inteligencji i semestrów w naszych aktualnościach dotyczących sztucznej inteligencji z sezonu wyborczego.
Po raz pierwszy w obu laboratoriach AI
Anthropic potwierdził swoją konfigurację w Semafor. „Zespoły w całej firmie pracują przez cały rok nad wzmocnieniem naszych zabezpieczeń związanych z wyborami i egzekwowaniem naszych zasad” – powiedział rzecznik Anthropic. „Przed wyborami mamy wydzieloną salę narad, która monitoruje naszą platformę pod kątem niewłaściwego użycia i jest gotowa szybko reagować na wszelkie incydenty”.
Struktura jest prosta, ale wymagająca: pracownicy monitorują, w jaki sposób Claude i inne narzędzia odpowiadają na zapytania dotyczące wyborów, zwracają uwagę na wzorce nadużyć, takich jak generowana dezinformacja, i utrzymują proces szybkiego reagowania na incydenty wymagające naprawienia w ciągu kilku godzin, a nie dni. Tymczasem NBC News zabrało czytelników do równoległej sali wojennej OpenAI, aby sprawdzić, w jaki sposób firma przygotowuje się na wpływ sztucznej inteligencji na półrocze.
To, że obie firmy poczuły potrzebę zbudowania tej możliwości od zera, mówi coś o tym, jak nowy jest to problem. W 2018 r. platformy martwiły się przede wszystkim tym, co publikują użytkownicy. W 2026 roku one także muszą martwić się tym, co mówią ich własne modelki.
Kiedy odpowiedzi AI zawodzą w najgorszym momencie
Stawka nie jest hipotetyczna. Semafor wskazał na jeden przypadek z zeszłego tygodnia: tryb AI Google nie odpowiedział na pytanie, kto wygrał wybory w 2020 r. – jedno z najczęściej zadawanych i najbardziej rozstrzyganych pytań w najnowszej historii amerykańskiej polityki. Google poinformowało, że pracuje nad rozwiązaniem problemu.
Tryb awaryjny jest pouczający. Systemy sztucznej inteligencji czasami odrzucają pytania, na które powinny odpowiedzieć, a czasami odpowiadają na pytania, na które powinny odmówić, a oba błędy pojawiają się dokładnie wtedy, gdy uwaga opinii publicznej – i liczba zapytań – jest największa. Asystent AI, który ukrywa faktyczne pytanie dotyczące przeszłych wyborów, podważa zaufanie w tym samym momencie, w którym próbuje je zbudować.
Szersze obawy wykraczają poza pojedyncze błędne odpowiedzi. Opublikowana w tym tygodniu analiza Council on Foreign Relations ostrzega, że chatboty oparte na sztucznej inteligencji mogą nadać kampaniom wywierania wpływu nową wiarygodność, ponieważ dezinformacja przekazywana spokojnym, pewnym siebie głosem przypominającym asystenta dziedziczy aurę neutralności, której nigdy nie uzyska stronnicza witryna internetowa.
„Stworzony do radzenia sobie z rzeczami, których nie możemy przewidzieć”
Po co utrzymywać żywy pokój narad, zamiast polegać na testach przedwyborczych? Katie Harbath, była dyrektor ds. polityki publicznej Meta, która obecnie zajmuje się kwestiami technologii i demokracji, wyjaśniła Semaforowi logikę. Sale narad „są zbudowane tak, aby zajmować się sprawami, których nieprawidłowego działania nie możemy przewidzieć” – powiedziała, „i potrzebny jest szybki, ustalony proces selekcji”.
Semafor zauważył, że tę nieprzewidywalność pogłębiają niestabilny charakter sztucznej inteligencji, niedawne problemy z cyberbezpieczeństwem dotykające branżę oraz tendencja narzędzi wyszukiwania AI do odzwierciedlania odpowiedzi, które użytkownicy chcą zobaczyć – jest to problem pochlebstwa, który może po cichu zniekształcać sposób, w jaki ludzie rozumieją sporne tematy.
Dzień wyborów to test warunków skrajnych. Liczba zapytań na temat lokali wyborczych, stanowisk kandydatów i wyników gwałtownie wzrośnie do poziomu, którego w pełni nie symuluje żadna ocena przedwyborcza. Sale narad istnieją, ponieważ jedynym sposobem sprawdzenia, jak te systemy zachowują się pod takim obciążeniem, jest obserwowanie ich w czasie rzeczywistym i z możliwością szybkiego naprawiania sytuacji.
Co oglądać, gdy pojawiają się wyniki
Podczas wieczoru wyborczego punkty nacisku są przewidywalne w kategorii, nawet jeśli nie w czasie: sztuczna inteligencja odpowiada na temat wyników i marginesów przed oficjalnym ogłoszeniem wyścigów, deepfakes ograniczone w czasie do maksymalnego zamieszania, a zrzuty ekranu ze złymi odpowiedziami chatbota rozprzestrzeniają się szybciej niż poprawki. To, jak szybko dostosują się systemy OpenAI, Anthropic i Google, wpłynie nie tylko na środowisko informacyjne tych wyborów, ale także na sposób zarządzania następnymi.
W przypadku branży sztucznej inteligencji głębszym testem jest reputacja. W tym tygodniu miliony wyborców po raz pierwszy będą miały kontakt z tymi systemami w kontekście obywatelskim o dużej stawce. Firmy, które udzielą właściwych odpowiedzi na wybory – lub w widoczny sposób szybko je naprawią – zdobędą zaufanie, którego nie kupi żadna kampania marketingowa.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
