Według The Verge, gubernator Teksasu Greg Abbott zamroził wydatki stanowe na kamery monitorujące wykorzystujące sztuczną inteligencję Flock Safety, podczas jednego z najważniejszych politycznych odosobnień w historii szybko rozwijającej się branży nadzoru tablic rejestracyjnych.
Zamrożenie nastąpiło tuż przed publikacją dochodzenia przeprowadzonego przez Texas Tribune, z którego wynika, że stan wydał na kamery Flock ponad 30 milionów dolarów. Pieniądze te zebrano głównie poprzez dodanie opłaty w wysokości 1 dolara do polis ubezpieczeniowych – dopłaty rzekomo uzasadnionej jako sposób na walkę z kradzieżą katalizatorów. Aby uzyskać więcej informacji na temat ewolucji polityki dotyczącej sztucznej inteligencji w całym kraju, śledź naszą sekcję z najświeższymi wiadomościami dotyczącymi sztucznej inteligencji, w której śledzimy rozwój tych historii. Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.
Rzadki dwupartyjny bunt przeciwko inwigilacji AI
Tym, co wyróżnia zamrożenie Teksasu, są nie tylko związane z nim pieniądze, ale także koalicja zwrócona przeciwko kamerom. Automatyczne czytniki tablic rejestracyjnych (ALPR) firmy Flock budzą coraz większe zainteresowanie ze strony całego spektrum politycznego, a sprzeciw w Teksasie obejmuje obie strony.
Demokratyczna przeciwniczka Abbotta w wyścigu o fotel gubernatora, Gina Hinojosa, skrytykowała go za szersze wykorzystanie kamer w stanie. W tym samym czasie przedstawiciel Partii Republikańskiej Keith Self zamieścił na Instagramie następujący wpis: „Od kamer Flock po wyłączanie przełączników NIE zrzekniemy się naszych praw wynikających z czwartej poprawki do rosnącej inwigilacji”.
The Verge doniosło, że administracja firmy Abbott zamroziła wydatki, gdy miasta w całym kraju zerwały umowy z Flock, w tym kilka gmin w samym Teksasie.
Zapis niewłaściwego użycia
Kontrola nie jest abstrakcyjna. Według The Verge doszło do wielu przypadków wysłania funkcjonariuszy policji na urlop lub postawienia im zarzutów karnych za niewłaściwe korzystanie z systemów Flock – w tym co najmniej sześć takich przypadków w samym Teksasie.
Oprócz indywidualnych niewłaściwych zachowań firma stanęła przed szerszymi pytaniami dotyczącymi działania jej systemów. Obawy te obejmują praktyki firmy Flock w zakresie udostępniania danych, umieszczanie niektórych kamer w pobliżu placów zabaw, własny dostęp pracowników Flock do kanałów wideo, niezabezpieczonych kanałów wideo oraz, co The Verge określiło jako nieudolne próby stawienia czoła krytyce przez firmę.
Kamery firmy Flock oznaczają i rejestrują ruch pojazdów mijających stacje z kamerami stacjonarnymi i mobilnymi, tworząc w ten sposób możliwy do przeszukiwania zapis lokalizacji samochodów. Zwolennicy prywatności od dawna argumentują, że takie systemy tworzą formę masowej inwigilacji, która najbardziej uderza w osoby, które nie zrobiły nic złego, ponieważ rejestrowane są ruchy każdego kierowcy niezależnie od podejrzeń o działalność przestępczą.
Od lokalnych kontrowersji do zamrożenia Izby Reprezentantów
Spór w Teksasie narasta od miesięcy. Dochodzenie przeprowadzone przez Texas Tribune w sprawie wydatków na kwotę 30 milionów dolarów dało tej reakcji konkretną kotwicę fiskalną, a decyzja gubernatora o zamrożeniu dalszych wydatków stanowych przed publikacją sugeruje, że koszty polityczne obrony programu wzrosły zbyt wysoko.
Odcinek pokazuje również, jak szybko zmieniła się polityka nadzoru sąsiadującego ze sztuczną inteligencją. Lokalne okręgi szkolne, rady miejskie i komisje okręgowe należały niegdyś do najbardziej chętnych klientów na automatyczne czytniki tablic rejestracyjnych. Entuzjazm ten osłabł w miarę narastania liczby przypadków nadużyć i w miarę jak ustawodawcy obu partii zgłaszali skargi od wyborców, którzy nie zdawali sobie sprawy, że ich ruchy są rejestrowane.
Co stanie się później ze stadem w Teksasie
Zamrożenie nie jest równoznaczne z trwałym zakazem, a istniejące umowy na razie pozostają w mocy. Jednak odcięcie finansowania stanowego zawęża drogę, która umożliwiła wzrost zasięgu firmy Flock w Teksasie, i stanowi argument dla krytyków w innych stanach, którzy chcą spowolnić lub zatrzymać podobne wdrożenia.
Zwraca to także uwagę innych gubernatorów i ustawodawców. Dostawcy usług nadzoru korzystający z zamówień publicznych są narażeni na dokładnie ten rodzaj ryzyka politycznego: pojedyncze dochodzenie w sprawie sposobu gromadzenia i wydawania pieniędzy może sprawić, że rozwijający się rynek stanie się pasywem. Flock nie ogłosił od razu zmian w swojej działalności w Teksasie i okaże się, czy zamrożenie stanie się wzorem dla innych stanów, czy też epizodem specyficznym dla Teksasu. Dla firmy, której model biznesowy zależy od zgłaszania się setek agencji publicznych, gubernator zamrożenie stanowych pieniędzy to inny problem niż protest rady miejskiej: może wstrzymać nowe rozmieszczenia w całym stanie i dać każdemu innemu wybranemu urzędnikowi rozważającemu kontrakt z Flockiem gotowy powód do czekania.
Szerszy obraz narzędzi policyjnych AI
Flock jest tego najwybitniejszym przykładem, ale nie jest jedyną firmą sprzedającą samorządom lokalnym monitoring oparty na sztucznej inteligencji. Szerszy rynek obejmuje wykrywanie wystrzałów, rozpoznawanie twarzy i oprogramowanie dla centrów kryminalnych działające w czasie rzeczywistym. Sprzeciw wobec Flock sugeruje, że tolerancja polityczna dla tych systemów zależy w dużej mierze od przejrzystości w zakresie kosztów, rygorystycznych ograniczeń w zakresie udostępniania danych i widocznej odpowiedzialności w przypadku niewłaściwego ich wykorzystania przez funkcjonariuszy.
Dla branży sztucznej inteligencji lekcja jest taka, że najtrudniejsze wyzwania związane z wdrożeniem mogą w ogóle nie mieć charakteru technicznego. W obszarze policji i bezpieczeństwa publicznego decydujące głosy w coraz większym stopniu należą do rad miejskich, organów ustawodawczych stanowych i gubernatorów, a organy te reagują na swoich wyborców, a nie na plany działania dotyczące produktów.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
