Губернатор Нью-Йорка Кеті Хочул підписала закон, який забороняє компаніям штучного інтелекту пропонувати неповнолітнім супутні функції чат-ботів. Офіційні особи штату називають цей захід найсильнішим законом у своєму роді в країні. Законопроект S.9051B/A.10379C був підписаний цього тижня разом із другим заходом, який вимагає від підключених до Інтернету радіонянь, які продаються в Нью-Йорку, мати функції безпеки.

«Оскільки штучний інтелект розвивається швидкими темпами, сталося занадто багато трагічних інцидентів, яким слід було запобігти, і як мати-губернатор Нью-Йорка я вживаю заходів», — сказав Хочул в оголошенні про підписання. «Жодна компанія не повинна продавати дітям чат-ботів, які заохочують до самоушкоджень або прикидаються їхніми друзями або чимось іншим». For more context on this story, see our ongoing breaking AI news.

Що забороняє закон

Згідно з новим статутом, компанії, які пропонують функції чат-ботів зі штучним інтелектом, не можуть надавати кілька категорій поведінки користувачам віком до 18 років або будь-якому іншому користувачеві, якщо компанія спочатку не підтвердила, що користувач не є неповнолітнім. До заборонених функцій належать:

  • Чат-боти, які видають себе за реальну людину, за живих або мають людські емоції
  • Заяви про особисті, романтичні, професійні стосунки чи стосунки з авторитетною особою з дитиною
  • Емоційні запитання без підказки та використання приватної інформації про здоров’я дитини чи особистої інформації з попередніх розмов
  • Пропаганда або допомога в самогубстві, самоушкодженні, розладах харчової поведінки або вживанні наркотиків і алкоголю
  • Заохочення дітей зберігати таємниці, ізолюватися або уникати звертатися за допомогою до батьків, дорослих, яким довіряють, або спеціалістів
  • Будь-який вміст відверто сексуального характеру або матеріали сексуального насильства над дітьми

Сенатор Крістен Гонсалес, спонсор законопроекту в Сенаті, сказала, що компанії зі штучним інтелектом отримали прибуток від розгортання чат-ботів для неповнолітніх споживачів, посилаючись на випадки, коли чат-боти заохочують завдавати собі шкоди та навчають неповнолітніх завдавати шкоди іншим. Депутат Асамблеї Алекс Борес, який пропонував законопроект в Асамблеї, назвав його найсильнішим законом про безпеку штучного інтелекту для дітей у країні, ухваленим «незважаючи на агресивний спротив промисловості».

Вимоги щодо перевірки віку

Закон не обмежується лише правилами змісту. Компанії повинні проводити перевірку віку та пропонувати більше ніж один метод, включаючи принаймні один варіант, який не залежить виключно від державного посвідчення особи. Інформацію про вік слід видаляти після її використання. Це положення спрямоване на те, щоб дані перевірки не стали ще одним ризиком для конфіденційності.

Повноваження щодо виконання покладено на Генерального прокурора. За порушення генеральний прокурор Летиція Джеймс може вимагати цивільних штрафів у розмірі до 25 000 доларів США за порушення разом із відшкодуванням збитків, реституцією, знищенням незаконно зібраних даних — або будь-яких моделей ШІ, навчених на них — і судовою забороною. Закон також вимагає від генерального прокурора підтримувати загальнодоступний веб-сайт, на який жителі Нью-Йорка можуть подавати скарги.

Джеймс, офіс якого співпрацював з офісом губернатора та законодавцями над цим заходом, сказав, що штат бачив «забагато жахливих історій про те, як чат-боти завдають шкоди здоров’ю наших дітей», і пообіцяв захищати жителів Нью-Йорка «з усією суворістю закону».

Докази, які спонукали до законопроекту

Законодавці спиралися на дослідження некомерційної організації Common Sense Media, яка виступала за закон. Згідно з даними, наведеними в повідомленні губернатора, 72 відсотки підлітків користувалися компаньйоном зі штучним інтелектом принаймні один раз, а 52 відсотки є постійними користувачами, які спілкуються з компаньйоном зі штучним інтелектом принаймні кілька разів на місяць.

В офісі губернатора заявили, що чат-боти зі штучним інтелектом були пов’язані із залежністю та ізоляцією, а в деяких випадках брали участь у розмовах сексуального характеру з неповнолітніми та нібито заохочували підлітків покінчити з собою. Засновник і генеральний директор Common Sense Media Джеймс П. Стаєр назвав підписаний законопроект «найпотужнішим законопроектом про безпеку дитячого штучного інтелекту в країні» і сказав, що шкідливі функції чат-ботів «будуть заборонені в Нью-Йорку».

Ця міра базується на попередніх запобіжних запобіжних засобах штучного інтелекту в Нью-Йорку, перших у країні, розширюючи їх від вимог до розголошення до прямої заборони певної поведінки чат-ботів для неповнолітніх.

Законопроект-супутник націлений на радіоняні

Одночасно Хочул підписав другий законопроект про безпеку технологій. S.9508/A.5175A забороняє продаж нових підключених до Інтернету радіонянь, які транслюють аудіо або відео через Інтернет, якщо вони не включають функції безпеки, які перешкоджають стороннім дивитися або слухати. Пристрої також повинні містити чітку попереджувальну етикетку, яка пояснює, що вони підключаються до Інтернету та що сім’ї повинні використовувати їхні функції безпеки. Закон набуває чинності через 90 днів після підписання.

Обґрунтуванням стало дослідження безпеки: коли дослідники Rapid7 протестували дев’ять підключених до Інтернету радіонянь від восьми компаній, вісім моніторів отримали оцінку «F» за безпеку, а один — «D».

Частина ширшого підрахунку

Цей крок Нью-Йорка відбувається на тлі хвилі дій на державному рівні щодо чат-ботів зі штучним інтелектом і неповнолітніх, а законодавчі органи по всій країні зважують обмеження щодо ботів-компаньйонів після серії резонансних інцидентів. Нью-йоркський закон відомий своїми зубами застосування — штрафи за кожне порушення, обов’язкова перевірка віку з кількома шляхами та можливість змусити компанії знищити моделей, навчених на незаконно зібраних даних.

Для компаній зі штучним інтелектом, які працюють із продуктами в стилі компаньйонів, наслідки відповідності є суттєвими: будь-якому чат-боту в Нью-Йорку, орієнтованому на користувачів, потрібна надійна гарантія віку, перш ніж увімкнути такі функції, як емоційна рольова гра, або ці функції мають бути вимкнені за замовчуванням. Завдяки повноваженням генерального прокурора застосовувати штрафні санкції за кожне порушення та вимагати знищення зіпсованих наборів даних і моделей, вартість помилки тепер виходить за рамки репутаційної шкоди.

У найближчі місяці, коли компанії адаптують свої продукти для користувачів Нью-Йорка, підхід штату, ймовірно, послужить шаблоном, який вивчатимуть інші законодавчі органи, і перевірить, чи можуть державні регулятори суттєво змінити те, як споживчі продукти ШІ ставляться до наймолодших користувачів.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →