Guvernérka New Yorku Kathy Hochul podepsala legislativu, která zakazuje společnostem s umělou inteligencí nabízet doprovodné funkce chatbotů nezletilým, což je opatření, které státní úředníci označují za nejsilnější zákon svého druhu v zemi. Návrh zákona S.9051B/A.10379C byl podepsán tento týden spolu s druhým opatřením, které vyžaduje, aby dětské chůvičky připojené k internetu prodávané v New Yorku obsahovaly bezpečnostní prvky.

"Jak umělá inteligence postupuje rychlým tempem, došlo k příliš mnoha tragickým incidentům, kterým bylo třeba zabránit, a jako guvernérka New Yorku zasahuji," uvedl Hochul v oznámení podpisu. "Žádná společnost by neměla dětem prodávat chatboty, které by podporovaly sebepoškozování nebo předstíraly, že jsou jejich kamarády nebo něco víc." For more context on this story, see our ongoing artificial intelligence updates.

Co zákon zakazuje

Podle nového statutu společnosti, které nabízejí funkce chatbotů AI, nesmějí poskytovat několik kategorií chování uživatelům mladším 18 let – ani žádnému uživateli, pokud společnost nejprve nepotvrdí, že uživatel není nezletilý. Mezi zakázané funkce patří:

  • Chatboti předstírají, že jsou skutečnou osobou, že jsou naživu nebo že mají lidské emoce
  • Prohlašování osobního, romantického, profesionálního vztahu nebo vztahu mezi autoritou a autoritou s dítětem
  • Nevyžádané emocionální otázky a používání soukromých zdravotních nebo osobních informací dítěte z dřívějších rozhovorů
  • Propagace nebo pomoc při sebevraždě, sebepoškozování, poruchách příjmu potravy nebo užívání drog a alkoholu
  • Povzbuzujte děti, aby zachovávaly tajemství, izolovaly se nebo se vyhýbaly žádostem o pomoc rodičů, důvěryhodných dospělých nebo odborníků
– Jakýkoli sexuálně explicitní obsah nebo materiál týkající se sexuálního zneužívání dětí

Senátorka Kristen Gonzalezová, sponzorka návrhu zákona v Senátu, uvedla, že společnosti s umělou inteligencí profitovaly ze zavedení chatbotů pro nezletilé spotřebitele, přičemž citovala případy chatbotů, kteří povzbuzovali k sebepoškozování a trénovali nezletilé v poškozování ostatních. Člen shromáždění Alex Bores, který přednesl návrh zákona ve shromáždění, jej označil za nejpřísnější zákon o bezpečnosti dětské umělé inteligence v zemi, který byl schválen „navzdory agresivní opozici průmyslu“.

Požadavky na ověření věku

Zákon nekončí u pravidel obsahu. Společnosti musí provádět ověření věku a nabízet více než jednu metodu – včetně alespoň jedné možnosti, která nezávisí pouze na vládním průkazu totožnosti. Informace o věku musí být po použití vymazány, což je ustanovení, jehož cílem je zabránit tomu, aby se ověřovací údaje staly dalším rizikem pro ochranu soukromí.

Exekuční pravomoc přísluší nejvyššímu státnímu zástupci. Za porušení může generální prokurátorka Letitia Jamesová požadovat občanskoprávní sankce až do výše 25 000 USD za porušení, spolu s náhradou škody, restitucí, zničením nezákonně shromážděných dat – nebo jakýchkoliv modelů umělé inteligence vycvičených na tom – a soudních opatření. Zákon také vyžaduje, aby generální prokurátor provozoval veřejnou webovou stránku, kde mohou Newyorčané podávat stížnosti.

James, jehož kancelář na opatření spolupracovala s úřadem guvernéra a zákonodárci, uvedl, že stát viděl „příliš mnoho hororových příběhů chatbotů, kteří poškozovali zdraví našich dětí“, a zavázal se bránit Newyorčany „s plnou silou zákona“.

Důkazy, které vedly k návrhu zákona

Zákonodárci se opřeli o výzkum Common Sense Media, neziskové organizace, která se zasazovala o legislativu. Podle údajů uvedených v oznámení guvernéra 72 procent dospívajících alespoň jednou použilo společníka AI a 52 procent jsou běžní uživatelé, kteří komunikují s společníky AI alespoň několikrát za měsíc.

Kancelář guvernéra uvedla, že AI chatboti byli spojováni se závislostí a izolací a v některých případech se zapojili do sexuálně explicitních rozhovorů s nezletilými a údajně povzbuzovali dospívající, aby si vzali život. Zakladatel a generální ředitel Common Sense Media James P. Steyer nazval podepsaný zákon „nejsilnějším zákonem o bezpečnosti AI pro děti v zemi“ a uvedl, že škodlivé funkce chatbotů „budou v New Yorku postaveny mimo zákon“.

Opatření staví na dřívějších zárukách doprovodné umělé inteligence v New Yorku jako první v zemi a rozšiřuje je od požadavků na zveřejnění až po přímé zákazy konkrétního chování chatbotů pro nezletilé.

Společenský zákon se zaměřuje na dětské chůvičky

Hochul ve stejnou dobu podepsal druhý zákon o technologické bezpečnosti. S.9508/A.5175A zakazuje prodej nových chůvičiek připojených k internetu, které vysílají zvuk nebo video přes internet, pokud neobsahují bezpečnostní prvky zabraňující cizím osobám ve sledování nebo poslechu. Zařízení musí také nést jasný varovný štítek vysvětlující, že se připojují k internetu a že rodiny by měly používat jejich bezpečnostní prvky. Tento zákon vstoupí v platnost 90 dní po podpisu.

Důvod vyšel z bezpečnostního výzkumu: když výzkumníci z Rapid7 testovali devět dětských chůvičiek připojených k internetu od osmi společností, osm z nich získalo stupeň zabezpečení „F“ a jeden „D“.

Součást širšího zúčtování

Tento krok v New Yorku zapadá do vlny akcí na státní úrovni proti chatbotům a nezletilým s umělou inteligencí, přičemž zákonodárci po celé zemi zvažují omezení pro doprovodné roboty po sérii významných incidentů. Newyorský zákon je pozoruhodný svými zuby vymahatelnosti – sankcemi za porušení, povinným ověřováním věku několika způsoby a možností donutit společnosti zničit modely vyškolené na nezákonně shromážděných datech.

Pro společnosti s umělou inteligencí, které provozují produkty ve stylu doprovodných produktů, jsou důsledky pro dodržování předpisů podstatné: jakýkoli chatbot v New Yorku, který čelí uživateli, potřebuje před aktivací funkcí, jako je emocionální hraní rolí, silné zajištění věku, nebo musí být tyto funkce ve výchozím nastavení vypnuty. Vzhledem k tomu, že generální prokurátor je oprávněn ukládat sankce za porušení a požadovat zničení poskvrněných datových souborů a modelů, náklady na to, že to uděláte špatně, nyní přesahují poškození pověsti.

V nadcházejících měsících, kdy společnosti upravují své produkty pro uživatele v New Yorku, bude státní přístup pravděpodobně sloužit jako vzor, ​​který ostatní zákonodárné sbory studují – a test, zda státní regulační orgány mohou smysluplně přetvořit způsob, jakým spotřebitelské produkty umělé inteligence zacházejí se svými nejmladšími uživateli.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →