Губернатор Нью-Йорка Кэти Хоукул подписала закон, который запрещает компаниям, занимающимся искусственным интеллектом, предлагать несовершеннолетним функции компаньонов в чат-ботах. Чиновники штата называют эту меру самым строгим законом такого рода в стране. Законопроект S.9051B/A.10379C был подписан на этой неделе вместе со второй мерой, требующей, чтобы подключенные к Интернету радионяни, продаваемые в Нью-Йорке, включали функции безопасности.

«Поскольку искусственный интеллект развивается быстрыми темпами, произошло слишком много трагических инцидентов, которые нужно было предотвратить, и как мама-губернатор Нью-Йорка я принимаю меры», — сказала Хочул в заявлении о подписании. «Ни одна компания не должна предлагать детям чат-ботов, поощряющих членовредительство или притворяющихся их друзьями или что-то в этом роде». Подробнее об этой истории — в нашем последние разработки в ИИ.

Что запрещает закон

Согласно новому закону, компании, предлагающие функции чат-бота с искусственным интеллектом, не могут предоставлять некоторые категории поведения пользователям младше 18 лет или любому пользователю, если компания предварительно не подтвердит, что пользователь не является несовершеннолетним. К запрещенным функциям относятся:

  • Чат-боты, притворяющиеся реальными людьми, живыми или испытывающими человеческие эмоции.
  • Заявление о личных, романтических, профессиональных или авторитетных отношениях с ребенком.
  • Неожиданные эмоциональные вопросы и использование личной информации о здоровье ребенка или личной информации из предыдущих разговоров.
  • Пропаганда или помощь в самоубийстве, членовредительстве, расстройствах пищевого поведения или употреблении наркотиков и алкоголя.
  • Поощрение детей хранить секреты, изолировать себя или избегать обращения за помощью к родителям, взрослым, которым они доверяют, или специалистам.
  • Любой контент откровенно сексуального характера или материалы о сексуальном насилии над детьми.

Сенатор Кристен Гонсалес, спонсор законопроекта в Сенате, заявила, что компании, занимающиеся искусственным интеллектом, получили прибыль от внедрения чат-ботов для несовершеннолетних потребителей, сославшись на случаи, когда чат-боты поощряют членовредительство и обучают несовершеннолетних причинять вред другим. Член Ассамблеи Алекс Борес, внесший законопроект в Ассамблею, назвал его самым строгим законом о безопасности детей в сфере искусственного интеллекта в стране, и он был принят «несмотря на агрессивную оппозицию отрасли».

Требования к проверке возраста

Закон не ограничивается правилами содержания. Компании должны проводить проверку возраста и предлагать более одного метода, включая хотя бы один вариант, который не зависит исключительно от государственного удостоверения личности. Информация о возрасте должна быть удалена после ее использования. Это положение направлено на то, чтобы данные проверки не стали еще одним риском для конфиденциальности.

Полномочия по обеспечению исполнения возложены на генерального прокурора штата. В случае нарушений генеральный прокурор Летиша Джеймс может потребовать гражданские штрафы в размере до 25 000 долларов США за нарушение, а также возмещение ущерба, реституцию, уничтожение незаконно собранных данных (или любых моделей искусственного интеллекта, обученных на них) и судебный запрет. Закон также требует от генерального прокурора поддерживать общедоступный веб-сайт, на котором жители Нью-Йорка могут подавать жалобы.

Джеймс, чей офис сотрудничал с администрацией губернатора и законодателями над этой мерой, заявил, что штат видел «слишком много ужасных историй о чат-ботах, наносящих вред здоровью наших детей», и пообещал защищать жителей Нью-Йорка «со всей силой закона».

Доказательства, которые послужили причиной принятия законопроекта

Законодатели опирались на исследования Common Sense Media, некоммерческой организации, которая выступала за принятие закона. Согласно данным, приведенным в заявлении губернатора, 72 процента подростков хотя бы раз использовали ИИ-компаньонов, а 52 процента являются постоянными пользователями, которые взаимодействуют с ИИ-компаньонами хотя бы несколько раз в месяц.

В администрации губернатора заявили, что чат-боты с искусственным интеллектом связаны с зависимостью и изоляцией, а в некоторых случаях они участвовали в разговорах откровенно сексуального характера с несовершеннолетними и якобы побуждали подростков покончить с собой. Основатель и генеральный директор Common Sense Media Джеймс П. Стейер назвал подписанный законопроект «самым сильным законопроектом о безопасности детей в сфере искусственного интеллекта в стране» и заявил, что вредные функции чат-ботов «будут объявлены вне закона в Нью-Йорке».

Эта мера основана на ранее принятых в Нью-Йорке первых в стране гарантиях искусственного интеллекта, расширяя их от требований о раскрытии информации до полного запрета на определенное поведение чат-ботов для несовершеннолетних.

Сопутствующий законопроект нацелен на радионяни

В то же время Хочул подписал второй законопроект о технологической безопасности. S.9508/A.5175A запрещает продажу новых радионянь с подключением к Интернету, которые транслируют аудио или видео через Интернет, если они не оснащены функциями безопасности, препятствующими просмотру или прослушиванию посторонними людьми. На устройствах также должна быть четкая предупреждающая этикетка, объясняющая, что они подключаются к Интернету и что семьям следует использовать их функции безопасности. Этот закон вступает в силу через 90 дней после подписания.

Это обоснование пришло из исследований в области безопасности: когда исследователи Rapid7 протестировали девять подключенных к Интернету радионянь от восьми компаний, восемь из них получили оценку «F» за безопасность, а один — «D».

Часть более широкого расчета

Этот шаг Нью-Йорка произошел на фоне волны действий на уровне штата в отношении чат-ботов с искусственным интеллектом и несовершеннолетних, когда законодательные органы по всей стране взвешивают ограничения на использование ботов-компаньонов после серии громких инцидентов. Закон Нью-Йорка примечателен своей жесткостью исполнения — штрафы за каждое нарушение, обязательная проверка возраста с несколькими способами и возможность заставить компании уничтожить модели, обученные на незаконно собранных данных.

Для компаний, занимающихся искусственным интеллектом, использующих продукты в стиле компаньонов, последствия соблюдения требований существенны: любому чат-боту, работающему с пользователем в Нью-Йорке, либо требуется надежная проверка возраста, прежде чем включать такие функции, как эмоциональная ролевая игра, либо эти функции должны быть отключены по умолчанию. Поскольку генеральный прокурор наделен полномочиями налагать штрафы за нарушения и требовать уничтожения испорченных наборов данных и моделей, цена ошибки теперь выходит далеко за рамки репутационного ущерба.

В ближайшие месяцы, когда компании адаптируют свои продукты для пользователей Нью-Йорка, подход штата, скорее всего, послужит образцом, который изучат другие законодательные органы, а также проверкой того, смогут ли регулирующие органы штата существенно изменить то, как потребительские продукты искусственного интеллекта относятся к своим самым маленьким пользователям.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →