Губернатор Калифорнии Гэвин Ньюсом подписал ряд новых законов, которые резко ограничивают возможности работодателей использовать искусственный интеллект против своих собственных работников, запрещая компаниям полностью полагаться на ИИ при принятии решения о том, кого уволить, использовать эту технологию для прогнозирования эмоционального состояния сотрудников и собирать нейронные данные, такие как электрические сигналы от мозга или нервов человека.

Пакет, подписанный в четверг, согласно анализу, опубликованному The Guardian, также требует от компаний уведомлять работников, когда увольнения были вызваны искусственным интеллектом, и запрещает наблюдение с помощью искусственного интеллекта в туалетах на рабочих местах. В совокупности эти законы представляют собой одну из самых радикальных мер реагирования на использование искусственного интеллекта при принятии решений о приеме на работу на уровне штата, принятых в штате, где расположены многие компании, разрабатывающие эту технологию. Дополнительную информацию об этой истории можно найти в наших текущих новостях AI.

Что делают новые законы

Эти положения нацелены на те моменты, когда работники имеют наименьшую власть. Согласно новым правилам, работодатель больше не может полагаться исключительно на систему искусственного интеллекта при принятии решения об увольнении, а работникам необходимо сообщать, когда искусственный интеллект сыграл роль в их увольнении. Выводы об эмоциональном состоянии — программное обеспечение, которое утверждает, что считывает, расстроен ли сотрудник, отвлечен или отстранен, — теперь запрещено, как и сбор нейронных данных из мозга и нервной системы работников.

Законы также проводят жесткую линию в отношении физической конфиденциальности, полностью запрещая наблюдение с помощью искусственного интеллекта в ванных комнатах на рабочих местах.

Требование об уведомлении об увольнении может оказаться наиболее значимым на практике: сокращения, частично вызванные автоматизацией ИИ, больше нельзя представлять как обычную реструктуризацию без раскрытия роли технологии в принятии решения.

Почему законодатели переехали сейчас

Изменения в регулировании происходят по мере того, как работники все больше беспокоятся о том, что ИИ отнимет у них рабочие места, будет способствовать принятию дискриминационных решений и расширению наблюдения на рабочих местах. Профсоюзы и защитники трудящихся настойчиво настаивали на соблюдении правил, и в репортажах The Guardian указываются практики, которые их встревожили: тепловые карты, отслеживающие перемещения сотрудников, в том числе время, которое они проводят в ванной, и автоматизированные системы, оценивающие тон голоса работников. Работники склада Amazon ранее жаловались на то, что им приходится вовремя ходить в туалет, а медсестры в Kaiser Permanente заявили, что автоматизированные системы оценивают тон их голоса при общении с пациентами.

Фоном являются рекордные расходы на искусственный интеллект в крупных технологических компаниях, а также волны сокращений рабочих мест. В июне Meta приостановила программу, которая отслеживала компьютерную активность работников, для обучения своих моделей искусственного интеллекта, а месяц спустя десятки сотрудников подали иск, утверждая, что инструменты искусственного интеллекта компании нацелены на работников с ограниченными возможностями или тех, кто находится в отпуске по болезни или по уходу за ребенком в связи с увольнением.

Лейбористские лидеры называют это поворотным моментом

Лорена Гонсалес, президент Калифорнийской федерации профсоюзов (АФТ-КПП), которая помогала лидерам других штатов разрабатывать аналогичные правила, рассказала The Guardian, что этот момент является важной вехой для организованных профсоюзов.

«Это поворотный момент», сказал Гонсалес. «На самом деле мы впервые видим, как калифорнийские рабочие показывают стране, что нам не обязательно [это] принимать».

Она отметила, что собственные каталоги продукции компаний представляют собой дорожную карту того, что, возможно, уже используется в торговых залах и офисах: «Если это продается, это хороший признак» того, что его можно использовать. Федерация планирует использовать импульс новых законов, чтобы возродить требование о том, чтобы работодатели раскрывали информацию об использовании ИИ на рабочем месте — законопроект, который был отклонен комитетом по ассигнованиям Ассамблеи штата в начале этого года.

Пробел в правоприменении

Законы не безграничны. Робин Фельдман, директор и основатель Института права и инноваций в области искусственного интеллекта при юридическом колледже Калифорнийского университета в Сан-Франциско, рассказал The Guardian, что в новых законах отсутствует частное право на иск.

«Законопроекты не подлежат частному исполнению», — сказал Фельдман. «Другими словами: рабочие не могут подать в суд. Только правительство может обеспечить соблюдение законов».

Эта структура возлагает на калифорнийские агентства по труду и гражданским правам бремя по расследованию и привлечению к ответственности за нарушения, что, по словам защитников трудящихся, проверит, имеют ли законы силу на практике. Без исков со стороны пострадавших сотрудников правоприменение будет зависеть от приоритетов агентства, кадрового обеспечения и жалоб от работников, желающих выступить.

Что будет дальше

Калифорния не одна, но она впереди. Колорадо, Коннектикут, Иллинойс и Техас приняли более узкие законы об искусственном интеллекте на рабочем месте, и Гонсалес сказал, что по всей стране готовятся новые законопроекты, и пакет Калифорнии, вероятно, послужит образцом.

Пакет также основан на активном году в области законодательства в области искусственного интеллекта в Сакраменто. Ньюсом уже подписал законопроекты, требующие независимого аудита передовых разработчиков ИИ и требующие раскрытия информации, когда исполнители, созданные ИИ, появляются в рекламе, а пакет мер регулирования на рабочих местах распространяет эту нормативную позицию с лабораторий и рекламных кампаний на повседневную механику трудоустройства. Поскольку федеральное правительство сохраняет позицию невмешательства в регулирование ИИ, штаты, а не Вашингтон, становятся основной ареной, где пишутся правила для работы ИИ.

Для работодателей это означает, что кадровые решения, основанные на искусственном интеллекте, теперь будут подвергаться юридической проверке на крупнейшем государственном рынке труда страны. Для работников это первый четкий сигнал о том, что алгоритмические инструменты управления, поступающие на рабочие места, имеют ограничения — по крайней мере, в Калифорнии.

---

Будьте впереди ИИ

Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.

Подробнее новости AI →