Thống đốc New York Kathy Hochul đã ký luật cấm các công ty AI cung cấp các tính năng đồng hành với chatbot cho trẻ vị thành niên, một biện pháp mà các quan chức bang gọi là luật mạnh nhất thuộc loại này ở nước này. Dự luật S.9051B/A.10379C đã được ký vào tuần này cùng với biện pháp thứ hai yêu cầu các thiết bị giám sát trẻ em có kết nối Internet được bán ở New York phải có các tính năng bảo mật.

Hochul nói trong thông báo ký kết: “Khi trí tuệ nhân tạo phát triển với tốc độ nhanh chóng, đã có quá nhiều sự cố bi thảm đáng lẽ phải được ngăn chặn và với tư cách là Thống đốc mẹ của New York, tôi đang hành động”. "Không công ty nào nên bán chatbot cho trẻ em để khuyến khích việc tự làm hại bản thân hoặc giả vờ làm bạn của chúng hoặc hơn thế nữa." For more context on this story, see our ongoing breaking AI news.

##Những điều luật cấm

Theo quy chế mới, các công ty cung cấp tính năng chatbot AI không được cung cấp một số loại hành vi cho người dùng dưới 18 tuổi - hoặc cho bất kỳ người dùng nào trừ khi công ty trước tiên xác nhận rằng người dùng đó không phải là trẻ vị thành niên. Các tính năng bị cấm bao gồm:

  • Chatbot giả vờ là người thật, sống hoặc có cảm xúc của con người
  • Khẳng định mối quan hệ cá nhân, lãng mạn, nghề nghiệp hoặc quyền lực với một đứa trẻ
  • Những câu hỏi mang tính cảm xúc tự phát và việc sử dụng thông tin cá nhân hoặc sức khỏe riêng tư của trẻ từ những cuộc trò chuyện trước đó
  • Cổ vũ hoặc hỗ trợ hành vi tự tử, tự làm hại bản thân, rối loạn ăn uống hoặc sử dụng ma túy và rượu
  • Khuyến khích trẻ giữ bí mật, tự cô lập hoặc tránh nhờ sự giúp đỡ của cha mẹ, người lớn đáng tin cậy hoặc chuyên gia
  • Bất kỳ nội dung khiêu dâm hoặc tài liệu lạm dụng tình dục trẻ em

Thượng nghị sĩ Kristen Gonzalez, nhà tài trợ Thượng viện của dự luật, cho biết các công ty AI đã thu được lợi nhuận từ việc triển khai chatbot cho người tiêu dùng chưa đủ tuổi vị thành niên, trích dẫn các trường hợp chatbot khuyến khích việc tự làm hại bản thân và huấn luyện trẻ vị thành niên làm hại người khác. Nghị sĩ Alex Bores, người đưa ra dự luật tại Quốc hội, gọi đây là luật an toàn AI cho trẻ em mạnh mẽ nhất trong nước, đã được thông qua "bất chấp sự phản đối gay gắt của ngành."

Yêu cầu xác minh độ tuổi

Pháp luật không dừng lại ở nội dung quy định. Các công ty phải tiến hành xác minh độ tuổi và cung cấp nhiều phương pháp — bao gồm ít nhất một tùy chọn không chỉ phụ thuộc vào ID chính phủ. Thông tin về độ tuổi phải bị xóa sau khi được sử dụng, một điều khoản nhằm ngăn chặn dữ liệu xác minh trở thành một rủi ro khác về quyền riêng tư.

Cơ quan thực thi thuộc về tổng chưởng lý tiểu bang. Đối với các hành vi vi phạm, Bộ trưởng Tư pháp Letitia James có thể yêu cầu các hình phạt dân sự lên tới 25.000 USD cho mỗi hành vi vi phạm, cùng với các khoản bồi thường thiệt hại, bồi thường, tiêu hủy dữ liệu được thu thập bất hợp pháp – hoặc bất kỳ mô hình AI nào được đào tạo về dữ liệu đó – và biện pháp khẩn cấp theo lệnh. Luật cũng yêu cầu tổng chưởng lý duy trì một trang web công cộng để người dân New York có thể nộp đơn khiếu nại.

James, người có văn phòng làm việc với văn phòng thống đốc và các nhà lập pháp về biện pháp này, cho biết bang đã chứng kiến ​​“quá nhiều câu chuyện kinh dị về việc chatbot làm tổn hại sức khỏe của trẻ em chúng ta” và cam kết bảo vệ người dân New York “bằng toàn bộ sức mạnh của pháp luật”.

Bằng chứng dẫn đến dự luật

Các nhà lập pháp dựa vào nghiên cứu của Common Sense Media, tổ chức phi lợi nhuận ủng hộ luật này. Theo số liệu được trích dẫn trong thông báo của thống đốc, 72% thanh thiếu niên đã sử dụng người bạn đồng hành AI ít nhất một lần và 52% là người dùng thường xuyên tương tác với người bạn đồng hành AI ít nhất vài lần một tháng.

Văn phòng thống đốc cho biết các chatbot AI có liên quan đến sự phụ thuộc và cô lập, và trong một số trường hợp đã tham gia vào các cuộc trò chuyện khiêu dâm với trẻ vị thành niên và bị cáo buộc khuyến khích thanh thiếu niên tự kết liễu đời mình. Người sáng lập và Giám đốc điều hành Common Sense Media, James P. Steyer gọi dự luật đã ký là “dự luật an toàn AI dành cho trẻ em mạnh mẽ nhất trong nước” và cho biết các tính năng chatbot có hại “sẽ bị đặt ngoài vòng pháp luật ở New York”.

Biện pháp này được xây dựng dựa trên các biện pháp bảo vệ đồng hành AI đầu tiên trên toàn quốc trước đây của New York, mở rộng chúng từ các yêu cầu tiết lộ thông tin thành các lệnh cấm hoàn toàn đối với các hành vi chatbot cụ thể đối với trẻ vị thành niên.

Dự luật đồng hành nhắm vào thiết bị giám sát trẻ em

Hochul đã ký dự luật an toàn công nghệ thứ hai cùng lúc. S.9508/A.5175A cấm bán thiết bị giám sát trẻ em có kết nối Internet mới phát âm thanh hoặc video qua Internet trừ khi chúng có các tính năng bảo mật ngăn người lạ xem hoặc nghe lén. Các thiết bị này cũng phải có nhãn cảnh báo rõ ràng giải thích rằng chúng kết nối với Internet và các gia đình nên sử dụng các tính năng bảo mật của chúng. Luật đó có hiệu lực sau 90 ngày kể từ ngày ký.

Cơ sở lý luận đến từ nghiên cứu bảo mật: khi các nhà nghiên cứu tại Rapid7 thử nghiệm 9 thiết bị giám sát trẻ em có kết nối internet của 8 công ty, 8 trong số các thiết bị giám sát này nhận được điểm "F" về bảo mật và một thiết bị nhận được điểm "D".

Một phần của việc tính toán rộng hơn

Động thái của New York diễn ra trong bối cảnh làn sóng hành động cấp tiểu bang đối với các chatbot AI và trẻ vị thành niên, trong đó các cơ quan lập pháp trên toàn quốc đang cân nhắc các hạn chế đối với các bot đồng hành sau một loạt sự cố nghiêm trọng. Luật New York đáng chú ý vì các biện pháp thực thi - hình phạt cho mỗi vi phạm, xác minh độ tuổi bắt buộc bằng nhiều con đường và khả năng buộc các công ty phá hủy các mô hình được đào tạo về dữ liệu được thu thập bất hợp pháp.

Đối với các công ty AI vận hành các sản phẩm kiểu đồng hành, ý nghĩa tuân thủ là rất đáng kể: bất kỳ chatbot nào đối mặt với người dùng ở New York đều cần có sự đảm bảo chắc chắn về độ tuổi trước khi bật các tính năng như nhập vai cảm xúc hoặc các tính năng đó phải được tắt theo mặc định. Với việc tổng chưởng lý được trao quyền theo đuổi các hình phạt cho mỗi hành vi vi phạm và yêu cầu tiêu hủy các bộ dữ liệu và mô hình bị nhiễm độc, cái giá phải trả cho việc làm sai giờ đây còn vượt xa cả thiệt hại về danh tiếng.

Trong những tháng tới, khi các công ty điều chỉnh sản phẩm của họ cho phù hợp với người dùng ở New York, cách tiếp cận của bang có thể sẽ đóng vai trò là khuôn mẫu để các cơ quan lập pháp khác nghiên cứu – và là phép thử xem liệu các cơ quan quản lý của bang có thể định hình lại cách các sản phẩm AI tiêu dùng đối xử với người dùng trẻ tuổi nhất của họ hay không.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →