Gubernator Kalifornii Gavin Newsom podpisał pakiet nowych przepisów, które ostro ograniczają sposób, w jaki pracodawcy mogą wykorzystywać sztuczną inteligencję przeciwko własnym pracownikom, zabraniając firmom polegania wyłącznie na sztucznej inteligencji przy podejmowaniu decyzji, kto zostanie zwolniony, używania tej technologii do przewidywania stanów emocjonalnych pracowników oraz gromadzenia danych neuronowych, takich jak sygnały elektryczne z mózgu lub nerwów danej osoby.

Jak wynika z analizy opublikowanej przez The Guardian, podpisany w czwartek pakiet wymaga również od firm powiadamiania pracowników w przypadku zwolnień spowodowanych przez sztuczną inteligencję i zabrania nadzoru sztucznej inteligencji w łazienkach w miejscu pracy. Podsumowując, przepisy te stanowią jedną z najbardziej radykalnych jak dotąd reakcji na wykorzystanie sztucznej inteligencji przy podejmowaniu decyzji dotyczących zatrudnienia – uchwalone w stanie, w którym znajduje się wiele firm tworzących tę technologię. Więcej kontekstu tej historii znajdziesz w naszych bieżących wiadomościach dotyczących sztucznej inteligencji.

Co robią nowe przepisy

Przepisy dotyczą momentów, w których pracownicy mają najmniejszą władzę. Zgodnie z nowymi przepisami pracodawca nie może już opierać się wyłącznie na systemie sztucznej inteligencji przy podejmowaniu decyzji o rozwiązaniu umowy o pracę, a pracownicy muszą zostać poinformowani, kiedy sztuczna inteligencja odegrała rolę w ich zwolnieniu. Wnioskowanie na temat stanu emocjonalnego — oprogramowanie, które rzekomo odczytuje, czy pracownik jest sfrustrowany, rozproszony lub niezaangażowany — jest obecnie niedostępne, podobnie jak gromadzenie danych neuronowych z mózgów i układów nerwowych pracowników.

Przepisy wyznaczają również twarde granice dotyczące prywatności fizycznej, całkowicie zabraniając nadzoru opartego na sztucznej inteligencji w łazienkach w miejscu pracy.

Wymóg powiadamiania o zwolnieniach może okazać się najbardziej znaczący w praktyce: redukcje wynikające częściowo z automatyzacji sztucznej inteligencji nie mogą już być przedstawiane jako zwykła restrukturyzacja bez ujawniania roli technologii w podejmowaniu decyzji.

Dlaczego prawodawcy przenieśli się teraz

Zmiana regulacyjna następuje, gdy pracownicy coraz bardziej obawiają się, że sztuczna inteligencja odbierze im pracę, podsyci dyskryminacyjne decyzje i rozszerzy nadzór w miejscu pracy. Związki zawodowe i zwolennicy pracowników stanowczo nawoływali do wprowadzenia tych przepisów, a doniesienia „The Guardian” wskazują na praktyki, które ich zaniepokoiły: mapy cieplne śledzące ruchy pracowników, w tym czas spędzany przez nich w łazience, oraz zautomatyzowane systemy oceniające ton głosu pracowników. Pracownicy magazynów Amazon skarżyli się już wcześniej na przerwy w korzystaniu z toalety, a pielęgniarki w Kaiser Permanente twierdziły, że zautomatyzowane systemy oceniają ich ton głosu w interakcjach z pacjentami.

Tłem są rekordowe wydatki na sztuczną inteligencję w największych firmach technologicznych oraz fale zwolnień pracowników. W czerwcu Meta wstrzymała program śledzący aktywność komputerów pracowników w celu szkolenia modeli sztucznej inteligencji, a miesiąc później kilkudziesięciu pracowników złożyło pozew, twierdząc, że narzędzia sztucznej inteligencji firmy są skierowane do pracowników przebywających na przystosowaniu do osób niepełnosprawnych lub przebywających na urlopie lekarskim lub rodzicielskim w związku ze zwolnieniami.

Liderzy związkowi nazywają to punktem zwrotnym

Lorena Gonzalez, przewodnicząca Kalifornijskiej Federacji Związków Zawodowych AFL-CIO, która pomaga przywódcom w innych stanach w opracowywaniu podobnych przepisów, powiedziała The Guardian, że ta chwila jest kamieniem milowym dla zorganizowanej siły roboczej.

„To punkt zwrotny” – powiedział Gonzalez. „To naprawdę pierwszy raz, kiedy pracownicy z Kalifornii pokazują krajowi, że nie musimy tego akceptować”.

Zauważyła, że ​​własne katalogi produktów firm stanowią plan działania dotyczący tego, co może być już stosowane w halach produkcyjnych i biurach: „Jeśli coś jest sprzedawane, to dobry znak”, że można je wdrożyć. Federacja planuje wykorzystać impet nowych przepisów, aby przywrócić wymóg ujawniania przez pracodawców informacji o korzystaniu ze sztucznej inteligencji w miejscu pracy – projekt ustawy, który na początku tego roku został odrzucony przez komisję ds. środków Zgromadzenia Stanowego.

Luka w egzekwowaniu prawa

Statuty nie są nieograniczone. Robin Feldman, dyrektor i założyciel AI Law & Innovation Institute na Uniwersytecie Kalifornijskim College of the Law w San Francisco, powiedział dziennikowi The Guardian, że nowym przepisom brakuje prywatnego prawa do działania.

„Ustawy nie mają charakteru prywatnego” – powiedział Feldman. „Innymi słowy: pracownicy nie mogą pozywać. Tylko rząd może egzekwować prawo”.

Struktura ta nakłada na kalifornijskie agencje pracy i prawa obywatelskie obowiązek prowadzenia dochodzeń i ścigania naruszeń, co zdaniem zwolenników pracowników sprawdzi, czy przepisy mają zastosowanie w praktyce. Bez pozwów ze strony zainteresowanych pracowników egzekwowanie prawa będzie zależeć od priorytetów agencji, personelu i skarg składanych przez pracowników, którzy chcą się zgłosić.

Co będzie dalej

Kalifornia nie jest sama, ale jest przed nami. Kolorado, Connecticut, Illinois i Teksas przyjęły zaostrzone przepisy dotyczące sztucznej inteligencji w miejscu pracy, a Gonzalez powiedział, że w całym kraju przygotowywanych jest więcej ustaw, a pakiet kalifornijski prawdopodobnie posłuży jako szablon.

Pakiet opiera się również na roku aktywnym w zakresie prawodawstwa dotyczącego sztucznej inteligencji w Sacramento. Newsom podpisał już ustawy wymagające niezależnych audytów pionierskich twórców sztucznej inteligencji i ujawniania informacji, gdy w reklamach pojawiają się wykonawcy wygenerowani przez sztuczną inteligencję, a pakiet dotyczący miejsca pracy rozszerza ten stan regulacyjny z laboratoriów i reklam w kampaniach na codzienne mechanizmy zatrudnienia. Ponieważ rząd federalny nie angażuje się w regulacje dotyczące sztucznej inteligencji, stany – a nie Waszyngton – stają się główną areną, na której pisane są zasady działania sztucznej inteligencji.

Dla pracodawców wiadomość jest taka, że ​​decyzje kadrowe oparte na sztucznej inteligencji będą teraz podlegać kontroli prawnej na największym państwowym rynku pracy w kraju. Dla pracowników jest to pierwszy wyraźny sygnał, że narzędzia zarządzania algorytmicznego pojawiające się w miejscach pracy mają pewne ograniczenia – przynajmniej w Kalifornii.

---

Wyprzedź sztuczną inteligencję

Otrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.

Przeczytaj więcej aktualności o sztucznej inteligencji →