Gubernur New York Kathy Hochul wis nandatangani undang-undang sing nglarang perusahaan AI nawakake fitur kanca chatbot kanggo bocah cilik, langkah sing diarani pejabat negara minangka hukum paling kuat ing negara kasebut. Tagihan kasebut, S.9051B/A.10379C, ditandatangani minggu iki bebarengan karo langkah liya sing mbutuhake monitor bayi sing disambungake menyang internet sing didol ing New York kanggo nyakup fitur keamanan.

"Minangka intelijen buatan maju kanthi cepet, akeh banget kedadeyan tragis sing kudu dicegah, lan minangka Gubernur ibu New York, aku bakal tumindak," ujare Hochul ing pengumuman penandatanganan kasebut. "Ora ana perusahaan sing ngirim chatbots kanggo bocah-bocah sing nyengkuyung cilaka awake dhewe utawa pura-pura dadi kanca utawa luwih." For more context on this story, see our ongoing latest AI developments.

Apa Larang Hukum

Ing statute anyar, perusahaan sing nawakake fitur chatbot AI bisa uga ora nyedhiyakake sawetara kategori prilaku kanggo pangguna ing umur 18 taun - utawa kanggo pangguna apa wae kajaba perusahaan kasebut wis ngonfirmasi manawa pangguna kasebut dudu bocah cilik. Fitur sing dilarang kalebu:

  • Chatbots pura-pura dadi wong nyata, urip, utawa duwe emosi manungsa
  • Ngaku hubungan pribadi, romantis, profesional, utawa panguwasa-tokoh karo bocah
  • Pitakonan emosional sing ora dikarepake, lan nggunakake kesehatan pribadi utawa informasi pribadhi bocah saka obrolan sadurunge
  • Promosi utawa mbantu nglalu, cilaka diri, kelainan mangan, utawa nggunakake narkoba lan alkohol
  • Nyengkuyung bocah-bocah supaya ndhelikake rahasia, ngisolasi awake dhewe, utawa ora njaluk bantuan saka wong tuwa, wong diwasa sing dipercaya, utawa profesional.
  • Sembarang konten seksual eksplisit utawa materi seksual penyalahgunaan anak

Senator Kristen Gonzalez, sponsor Senat RUU kasebut, ujar manawa perusahaan AI entuk bathi saka ngluncurake chatbots menyang konsumen sing durung umur, nyatakake conto chatbot sing nyengkuyung cilaka awake dhewe lan nglatih bocah cilik kanggo ngrusak wong liya. Anggota Majelis Alex Bores, sing nindakake tagihan kasebut ing Majelis, nyebat undang-undang keamanan AI anak paling kuat ing negara kasebut, ngliwati "senadyan oposisi industri sing agresif."

Syarat Verifikasi Umur

Hukum ora mandheg ing aturan isi. Perusahaan kudu nindakake verifikasi umur lan nawakake luwih saka siji cara - kalebu paling ora siji pilihan sing ora mung gumantung ing ID pemerintah. Informasi umur kudu dibusak sawise digunakake, pranata kanggo nyegah data verifikasi dadi risiko privasi liyane.

Wewenang penegakan ana ing jaksa agung negara. Kanggo nglanggar, Jaksa Agung Letitia James bisa njaluk paukuman perdata nganti $25.000 saben pelanggaran, bebarengan karo ganti rugi, restitusi, karusakan data sing diklumpukake kanthi ora sah - utawa model AI sing dilatih - lan relief injunctive. Hukum kasebut uga mbutuhake jaksa agung kanggo njaga situs web umum ing ngendi warga New York bisa ngajokake keluhan.

James, sing kantor kerjane karo kantor gubernur lan anggota parlemen babagan langkah kasebut, ujar manawa negara kasebut ndeleng "akeh crita medeni chatbots sing ngrusak kesehatan anak-anak kita" lan janji bakal mbela warga New York "kanthi kekuwatan hukum."

Bukti sing Ndorong Bill

Anggota parlemen gumantung ing riset saka Common Sense Media, organisasi nirlaba sing nyengkuyung undang-undang kasebut. Miturut tokoh sing dikutip ing woro-woro gubernur, 72 persen remaja wis nggunakake kanca AI paling ora sepisan, lan 52 persen pangguna biasa sing sesambungan karo kanca AI paling sethithik kaping pirang-pirang sasi.

Kantor gubernur ngandika AI chatbots wis disambung kanggo ketergantungan lan isolasi, lan ing sawetara kasus wis melu ing pacelathon seksual eksplisit karo bocah cilik lan dinuga nyurung cah anom kanggo bunuh diri. Pendhiri lan CEO Common Sense Media James P. Steyer diarani tagihan sing ditandatangani " bill safety AI bocah-bocah sing paling kuat ing negara kasebut" lan ujar manawa fitur chatbot sing mbebayani "bakal dilarang ing New York."

Langkah kasebut dibangun ing pangayoman pendamping AI sing pisanan ing New York, ngluwihi syarat pambocoran menyang larangan langsung babagan prilaku chatbot khusus kanggo bocah cilik.

Bill Companion Target Baby Monitor

Hochul nandatangani tagihan keamanan teknologi kapindho ing wektu sing padha. S.9508/A.5175A nglarang dodolan monitor bayi anyar sing nyambung menyang internet sing nyiarake audio utawa video liwat internet kajaba kalebu fitur keamanan sing nyegah wong liya ora nonton utawa ngrungokake. Piranti kasebut uga kudu nggawa label peringatan sing jelas sing nerangake yen dheweke nyambung menyang internet lan kulawargane kudu nggunakake fitur keamanan. Hukum kasebut ditrapake 90 dina sawise ditandatangani.

Alasan kasebut teka saka riset keamanan: nalika peneliti ing Rapid7 nguji sangang monitor bayi sing disambungake menyang internet saka wolung perusahaan, wolung monitor nampa gelar "F" kanggo keamanan lan siji nampa "D."

Bagéyan saka Hitungan Luwih Luas

Pamindhahan New York ndharat ing tengah-tengah gelombang aksi tingkat negara ing AI chatbots lan bocah cilik, karo legislatif ing saindhenging negara nimbang watesan ing bot kanca sawise sawetara kedadean dhuwur-profil. Angger-anggering Toret New York misuwur amarga untune penegakan - paukuman saben pelanggaran, verifikasi umur wajib kanthi pirang-pirang jalur, lan kemungkinan meksa perusahaan ngrusak model sing dilatih babagan data sing diklumpukake kanthi ora sah.

Kanggo perusahaan AI sing ngoperasikake produk gaya pendamping, implikasi kepatuhan cukup penting: chatbot sing diadhepi pangguna ing New York mbutuhake jaminan umur sing kuat sadurunge ngaktifake fitur kaya roleplay emosional, utawa fitur kasebut kudu dipateni kanthi standar. Kanthi jaksa agung diwènèhi wewenang kanggo nguber paukuman saben nglanggar lan nuntut karusakan saka set data lan model, biaya sing salah saiki ngluwihi karusakan reputasi.

Ing sasi sing bakal teka, nalika perusahaan nyetel produk kanggo pangguna New York, pendekatan negara bisa dadi cithakan sing ditliti dening legislatif liyane - lan tes manawa regulator negara bisa nggawe maneh carane produk AI konsumen nganggep pangguna paling enom.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →