Kathy Hochul ผู้ว่าการรัฐนิวยอร์กได้ลงนามในกฎหมายที่ห้ามบริษัท AI นำเสนอฟีเจอร์สหายแชทบอทแก่ผู้เยาว์ ซึ่งเป็นมาตรการที่เจ้าหน้าที่ของรัฐเรียกว่ากฎหมายที่เข้มงวดที่สุดในประเทศ ร่างกฎหมาย S.9051B/A.10379C ได้รับการลงนามในสัปดาห์นี้ ควบคู่ไปกับมาตรการที่สองที่กำหนดให้อุปกรณ์เฝ้าดูเด็กที่เชื่อมต่ออินเทอร์เน็ตที่จำหน่ายในนิวยอร์กต้องรวมคุณสมบัติด้านความปลอดภัยไว้ด้วย

“ในขณะที่ปัญญาประดิษฐ์ก้าวหน้าอย่างรวดเร็ว มีเหตุการณ์โศกนาฏกรรมมากมายเกินไปที่ควรป้องกัน และในฐานะแม่ผู้ว่าการรัฐนิวยอร์ก ฉันกำลังดำเนินการ” Hochul กล่าวในประกาศการลงนาม "ไม่ควรมีบริษัทใดขายแชทบอทให้กับเด็กๆ ที่ส่งเสริมการทำร้ายตัวเอง หรือแสร้งทำเป็นเพื่อนของพวกเขาหรือมากกว่านั้น" For more context on this story, see our ongoing AI industry coverage.

สิ่งที่กฎหมายห้าม

ภายใต้กฎหมายใหม่ บริษัทที่นำเสนอฟีเจอร์แชทบอท AI ไม่สามารถแสดงพฤติกรรมหลายประเภทแก่ผู้ใช้ที่มีอายุต่ำกว่า 18 ปี หรือผู้ใช้ใดๆ เว้นแต่บริษัทจะยืนยันก่อนว่าผู้ใช้ไม่ใช่ผู้เยาว์ คุณสมบัติต้องห้ามได้แก่:

  • แชทบอทแกล้งทำเป็นคนจริง มีชีวิต หรือมีอารมณ์ความรู้สึกของมนุษย์
  • อ้างว่ามีความสัมพันธ์ส่วนตัว โรแมนติก เป็นมืออาชีพ หรือผู้มีอำนาจกับเด็ก
  • คำถามทางอารมณ์ที่ไม่ได้แจ้ง และใช้ข้อมูลส่วนตัวหรือข้อมูลส่วนตัวของเด็กจากการสนทนาครั้งก่อนๆ
  • ส่งเสริมหรือให้ความช่วยเหลือเกี่ยวกับการฆ่าตัวตาย การทำร้ายตัวเอง ความผิดปกติในการรับประทานอาหาร หรือการใช้ยาเสพติดและแอลกอฮอล์
  • ส่งเสริมให้เด็กเก็บความลับ แยกตัวเอง หรือหลีกเลี่ยงการขอความช่วยเหลือจากผู้ปกครอง ผู้ใหญ่ที่ไว้ใจได้ หรือผู้เชี่ยวชาญ
  • เนื้อหาทางเพศที่โจ่งแจ้งหรือสื่อการล่วงละเมิดทางเพศเด็ก

วุฒิสมาชิกคริสเตน กอนซาเลซ ผู้สนับสนุนร่างกฎหมายกล่าวว่าบริษัท AI ได้รับประโยชน์จากการเปิดตัวแชทบอทให้กับผู้บริโภคที่ยังไม่บรรลุนิติภาวะ โดยอ้างถึงกรณีของแชทบอทที่ส่งเสริมการทำร้ายตัวเอง และการฝึกสอนผู้เยาว์ในการทำร้ายผู้อื่น อเล็กซ์ บอเรส สมาชิกสภาผู้แทนราษฎร ซึ่งเป็นผู้ดำเนินการร่างกฎหมายดังกล่าวในสภา เรียกกฎหมายนี้ว่าเป็นกฎหมายความปลอดภัยของ AI เด็กที่แข็งแกร่งที่สุดในประเทศ ผ่าน "แม้จะมีการต่อต้านในอุตสาหกรรมที่รุนแรงก็ตาม"

ข้อกำหนดในการยืนยันอายุ

กฎหมายไม่ได้หยุดอยู่ที่กฎเนื้อหา บริษัทต้องทำการยืนยันอายุและเสนอวิธีการมากกว่าหนึ่งวิธี รวมถึงอย่างน้อยหนึ่งตัวเลือกที่ไม่ขึ้นอยู่กับบัตรประจำตัวที่ออกโดยรัฐบาลเพียงอย่างเดียว ข้อมูลอายุจะต้องถูกลบหลังจากใช้งาน ซึ่งเป็นข้อกำหนดที่มุ่งป้องกันไม่ให้ข้อมูลการยืนยันกลายเป็นความเสี่ยงด้านความเป็นส่วนตัวอีกประการหนึ่ง

อำนาจบังคับใช้ขึ้นอยู่กับอัยการสูงสุดของรัฐ สำหรับการละเมิด อัยการสูงสุด Letitia James สามารถขอรับโทษทางแพ่งได้สูงสุดถึง 25,000 ดอลลาร์ต่อการละเมิด พร้อมด้วยค่าเสียหาย การชดใช้ การทำลายข้อมูลที่รวบรวมอย่างผิดกฎหมาย หรือโมเดล AI ใด ๆ ที่ได้รับการฝึกอบรมเกี่ยวกับข้อมูลดังกล่าว และการบรรเทาทุกข์ตามคำสั่งศาล กฎหมายยังกำหนดให้อัยการสูงสุดต้องดูแลเว็บไซต์สาธารณะที่ชาวนิวยอร์กสามารถยื่นเรื่องร้องเรียนได้

เจมส์ ซึ่งสำนักงานของเขาทำงานร่วมกับสำนักงานผู้ว่าการรัฐและสมาชิกสภานิติบัญญัติเกี่ยวกับมาตรการดังกล่าว กล่าวว่า รัฐได้เห็น “เรื่องราวสยองขวัญมากเกินไปเกี่ยวกับแชทบอทที่ทำร้ายสุขภาพของลูกหลานของเรา” และให้คำมั่นว่าจะปกป้องชาวนิวยอร์ก “ด้วยกฎหมายที่บังคับใช้อย่างเต็มที่”

หลักฐานที่ผลักดันร่างกฎหมาย

ฝ่ายนิติบัญญัติอาศัยการวิจัยจาก Common Sense Media ซึ่งเป็นองค์กรไม่แสวงผลกำไรที่สนับสนุนการออกกฎหมายดังกล่าว ตามตัวเลขที่อ้างถึงในประกาศของผู้ว่าการรัฐ พบว่า 72 เปอร์เซ็นต์ของวัยรุ่นใช้สหาย AI อย่างน้อยหนึ่งครั้ง และ 52 เปอร์เซ็นต์เป็นผู้ใช้ทั่วไปที่มีปฏิสัมพันธ์กับเพื่อน AI อย่างน้อยสองสามครั้งต่อเดือน

สำนักงานผู้ว่าการรัฐกล่าวว่าแชทบอท AI เชื่อมโยงกับการพึ่งพาอาศัยกันและการแยกตัวออกไป และในบางกรณีก็มีส่วนร่วมในการสนทนาทางเพศที่โจ่งแจ้งกับผู้เยาว์ และถูกกล่าวหาว่าสนับสนุนให้วัยรุ่นฆ่าตัวตาย James P. Steyer ผู้ก่อตั้งและซีอีโอของ Common Sense Media เรียกร่างกฎหมายที่ลงนามแล้วว่าเป็น "ร่างพระราชบัญญัติความปลอดภัยของ AI สำหรับเด็กที่แข็งแกร่งที่สุดในประเทศ" และกล่าวว่าฟีเจอร์แชทบอทที่เป็นอันตราย "จะผิดกฎหมายในนิวยอร์ก"

มาตรการดังกล่าวสร้างขึ้นจากมาตรการป้องกันที่ใช้ร่วมกับ AI ตัวแรกในประเทศรุ่นแรกๆ ของนิวยอร์ก โดยขยายจากข้อกำหนดในการเปิดเผยข้อมูลไปสู่การห้ามโดยสิ้นเชิงเกี่ยวกับพฤติกรรมแชทบอทเฉพาะสำหรับผู้เยาว์

บิลสหายตั้งเป้าไปที่อุปกรณ์เฝ้าดูเด็ก

Hochul ลงนามร่างกฎหมายความปลอดภัยทางเทคโนโลยีฉบับที่สองในเวลาเดียวกัน S.9508/A.5175A ห้ามการขายอุปกรณ์เฝ้าดูเด็กที่เชื่อมต่ออินเทอร์เน็ตรุ่นใหม่ซึ่งแพร่ภาพเสียงหรือวิดีโอผ่านทางอินเทอร์เน็ต เว้นแต่จะมีคุณลักษณะด้านความปลอดภัยที่ป้องกันไม่ให้คนแปลกหน้าดูหรือฟัง อุปกรณ์ดังกล่าวต้องมีป้ายคำเตือนที่ชัดเจนซึ่งอธิบายว่าอุปกรณ์เหล่านี้เชื่อมต่อกับอินเทอร์เน็ต และครอบครัวควรใช้คุณลักษณะด้านความปลอดภัยของตน กฎหมายดังกล่าวจะมีผลใช้บังคับ 90 วันหลังจากการลงนาม

เหตุผลมาจากการวิจัยด้านความปลอดภัย: เมื่อนักวิจัยที่ Rapid7 ทดสอบอุปกรณ์เฝ้าดูเด็กที่เชื่อมต่ออินเทอร์เน็ตเก้าเครื่องจากแปดบริษัท จอภาพแปดเครื่องได้รับเกรด "F" ด้านความปลอดภัย และอีกเครื่องหนึ่งได้รับ "D"

ส่วนหนึ่งของการคำนวณที่กว้างขึ้น

ความเคลื่อนไหวของนิวยอร์กเกิดขึ้นท่ามกลางกระแสการดำเนินการระดับรัฐกับแชทบอท AI และผู้เยาว์ โดยสภานิติบัญญัติทั่วประเทศชั่งน้ำหนักข้อจำกัดเกี่ยวกับบอทร่วมหลังจากเหตุการณ์ที่โด่งดังหลายครั้ง กฎหมายนิวยอร์กมีความโดดเด่นในเรื่องการบังคับใช้กฎหมาย เช่น บทลงโทษต่อการละเมิด การตรวจสอบอายุที่บังคับด้วยหลายเส้นทาง และความเป็นไปได้ในการบังคับให้บริษัทต่างๆ ทำลายแบบจำลองที่ได้รับการฝึกอบรมเกี่ยวกับข้อมูลที่รวบรวมอย่างผิดกฎหมาย

สำหรับบริษัท AI ที่ใช้งานผลิตภัณฑ์แบบสหาย ผลกระทบจากการปฏิบัติตามข้อกำหนดมีความสำคัญมาก: แชทบอทที่ต้องเผชิญหน้าผู้ใช้ในนิวยอร์กจำเป็นต้องมีการรับประกันอายุที่เข้มงวดก่อนที่จะเปิดใช้งานฟีเจอร์ต่างๆ เช่น การแสดงบทบาทสมมติทางอารมณ์ หรือฟีเจอร์เหล่านั้นจะต้องปิดตามค่าเริ่มต้น เนื่องจากอัยการสูงสุดได้รับมอบอำนาจให้ติดตามบทลงโทษต่อการละเมิด และเรียกร้องให้ทำลายชุดข้อมูลและแบบจำลองที่ไม่บริสุทธิ์ ต้นทุนในการทำผิดจึงขยายออกไปเกินกว่าความเสียหายต่อชื่อเสียง

ในอีกไม่กี่เดือนข้างหน้า ในขณะที่บริษัทต่างๆ ปรับผลิตภัณฑ์สำหรับผู้ใช้ในนิวยอร์ก แนวทางของรัฐมีแนวโน้มที่จะใช้เป็นแม่แบบที่สภานิติบัญญัติอื่นๆ ศึกษา และทดสอบว่าหน่วยงานกำกับดูแลของรัฐสามารถปรับรูปแบบวิธีที่ผลิตภัณฑ์ AI สำหรับผู้บริโภคปฏิบัติต่อผู้ใช้ที่อายุน้อยที่สุดของตนได้อย่างมีความหมายหรือไม่

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →