OpenAI đã công bố ủng hộ vào thứ Ba đối với Dự luật 1119 của Thượng viện California, đạo luật sẽ thiết lập các biện pháp bảo vệ sâu rộng đối với cách giới trẻ sử dụng trí tuệ nhân tạo và kêu gọi Thống đốc Gavin Newsom ký dự luật thành luật.

Sự chứng thực được đưa ra trong một bức thư công khai gửi tới Newsom do Ann O'Leary, phó chủ tịch chính sách toàn cầu của OpenAI, và một bài đăng trên blog được xuất bản trên trang web của công ty. Trong đó, công ty coi SB 1119 là một con đường trung gian có ý nghĩa: bảo vệ mạnh mẽ cho người dùng dưới 18 tuổi mà không loại bỏ thanh thiếu niên khỏi các công cụ mà họ cho rằng sẽ giúp họ học hỏi, sáng tạo và chuẩn bị cho tương lai. Thông báo này là thông báo mới nhất trong loạt câu chuyện về chính sách AI nhằm định hình lại cách các chính phủ đối xử với những người dùng AI trẻ tuổi nhất. For more context on this story, see our ongoing AI news.

Tại sao OpenAI lại tuân theo quy định - Dù sao thì cái này

Định vị của OpenAI dựa trên một thống kê nổi bật từ bài đăng của chính nó: gần chín trong số mười thanh thiếu niên sử dụng ChatGPT chuyển sang sử dụng ChatGPT để học tập, cung cấp thông tin, xây dựng kỹ năng hoặc năng suất trong một tuần nhất định. Công ty viết: “Thanh thiếu niên là thế hệ đầu tiên lớn lên với AI”, đồng thời cho rằng cơ hội đi kèm với trách nhiệm thiết kế trải nghiệm xung quanh nhu cầu phát triển riêng biệt của giới trẻ.

Công ty nói rõ về khoảng trống liên bang thúc đẩy tư thế của nó. Bức thư gửi Newsom nêu rõ: “Trong trường hợp không có hành động của liên bang, California có cơ hội thiết lập một tiêu chuẩn mạnh mẽ về an toàn AI cho thanh thiếu niên”. OpenAI cho biết dự luật được xây dựng dựa trên các cam kết mà Giám đốc điều hành Sam Altman đã đưa ra vào năm ngoái khi phác thảo các nguyên tắc của công ty về an toàn cho thanh thiếu niên, cũng như công việc của công ty về Đạo luật AI An toàn cho Cha mẹ & Trẻ em.

SB 1119 sẽ yêu cầu gì

Theo bản tóm tắt dự luật của OpenAI, SB 1119 sẽ yêu cầu các công ty AI:

  • Xác định tuổi của người dùng trước khi cấp quyền truy cập;
  • Xác định và giải quyết các rủi ro về an toàn trước khi cung cấp sản phẩm cho giới trẻ;
  • Trải qua các cuộc kiểm toán độc lập về những nỗ lực đó;
  • Bảo vệ thanh thiếu niên khỏi nội dung có hại, bao gồm nội dung tự làm hại bản thân và bóc lột tình dục cũng như các tương tác có nguy cơ cao khác;
  • Tặng cha mẹ các công cụ để hướng dẫn và hạn chế cho con mình sử dụng;
  • Kết nối giới trẻ với các nguồn lực hỗ trợ khủng hoảng khi phát sinh rủi ro nghiêm trọng về an toàn; và
  • Hạn chế quảng cáo có mục tiêu và bảo vệ thông tin cá nhân của giới trẻ.

Đối với những người dùng được xác định là từ 13 đến 17 tuổi, các biện pháp bảo vệ này sẽ tự động áp dụng — không phải như các cài đặt tùy chọn mà thanh thiếu niên có thể tắt.

"AI không phải là mạng xã hội"

Một trong những lập luận có hệ quả hơn trong bức thư của OpenAI là sự khác biệt mà các nhà lập pháp đưa vào chính dự luật: AI không phải là phương tiện truyền thông xã hội. Thay vì chuyển các quy tắc dựa trên quảng cáo được xây dựng cho các nền tảng như Instagram sang chatbot và công cụ nghiên cứu, SB 1119 điều chỉnh các biện pháp bảo vệ để duy trì những gì OpenAI gọi là các tính năng giáo dục và quan trọng về an toàn — bao gồm cả những gì nó mô tả là sử dụng có trách nhiệm tính năng bộ nhớ của ChatGPT, giúp các biện pháp bảo vệ nhận ra các mẫu hình đáng lo ngại theo thời gian.

Những người chỉ trích giới hạn độ tuổi bao trùm đã cảnh báo rằng các quy định nặng tay có thể đẩy thanh thiếu niên tới những lựa chọn thay thế ít được quản lý hơn hoặc ngăn chặn khả năng tiếp cận các công cụ học tập thực sự hữu ích. Sự chứng thực của OpenAI cho thấy công ty lớn nhất trong ngành coi SB 1119 là sự cân bằng mà nó có thể tồn tại được.

ChatGPT dành cho thanh thiếu niên đã hoạt động

Việc chứng thực dự luật không diễn ra trong chân không. OpenAI đã ra mắt ChatGPT dành cho thanh thiếu niên, một trải nghiệm dành riêng cho người dùng trẻ tuổi mà công ty cho biết sẽ tự động đặt bất kỳ ai mà hệ thống ước tính của họ là dưới 18 tuổi - hoặc những người cho biết tuổi của họ từ 13 đến 17 - vào chế độ được bảo vệ. Công ty cho biết các biện pháp bảo vệ là một phần của trải nghiệm cơ bản, chứ không phải cài đặt chọn tham gia.

Chi tiết ước tính độ tuổi đó quan trọng hơn những gì nó có thể xuất hiện lần đầu. Các ước tính, chứ không phải ID được xác minh, xác định trải nghiệm mà người dùng nhận được và công ty cho biết bối cảnh từ các cuộc trò chuyện trước đó - bao gồm cả bộ nhớ - giúp áp dụng các biện pháp bảo vệ một cách nhất quán và nhận ra các mẫu liên quan theo thời gian. Ước tính đó hoạt động tốt như thế nào trong thực tế và điều gì xảy ra khi thanh thiếu niên khai sai tuổi của họ sẽ quyết định liệu các cơ quan quản lý có coi việc tự kiểm soát ngành là đáng tin cậy hay không.

Theo OpenAI, sản phẩm dành cho thanh thiếu niên này cũng hướng đến việc học tập: các tính năng như Câu đố, Trực quan hóa học tập và chế độ Học tập được phát triển cùng với các nhà giáo dục và chuyên gia học tập để hướng dẫn học sinh giải quyết các vấn đề từng bước. Công ty coi những công cụ đó là bằng chứng cho thấy các yêu cầu về an toàn và các sản phẩm hữu ích không hề căng thẳng - một lập luận mà công ty đang đưa ra một cách hiệu quả đối với Newsom cũng như đối với công chúng.

Chính trị ở Sacramento

Trong thư của mình, OpenAI khen ngợi Newsom cùng với Thượng nghị sĩ Steve Padilla và các Nghị sĩ Buffy Wicks và Rebecca Bauer-Kahan vì sự lãnh đạo của họ trong vấn đề này. Dự luật hiện đang nằm trong tay thống đốc và chiến dịch vận động hành lang công khai của OpenAI – hoàn chỉnh với một lá thư có thể tải xuống – nói rõ rằng công ty muốn có chữ ký của ông ấy.

Động thái này cũng diễn ra khi các cơ quan quản lý ở nơi khác thắt chặt các quy định. Liên minh Châu Âu gần đây đã chỉ định ChatGPT là công cụ tìm kiếm Trực tuyến Rất Lớn theo Đạo luật Dịch vụ Kỹ thuật số, cho phép OpenAI có thời hạn đến cuối tháng 12 năm 2026 để tuân thủ các quy định chặt chẽ hơn của EU về trẻ vị thành niên và tính minh bạch. Đối mặt với sự chỉ định từ trên xuống của Brussels, OpenAI dường như đang tính toán rằng ủng hộ luật tiểu bang phù hợp ở Sacramento là cách tốt hơn để định hình các quy tắc trước khi chúng được viết ra.

Liệu Newsom có ​​ký hay không - và liệu các bang khác có làm theo sự dẫn đầu của California hay không - sẽ còn phải mất một chặng đường dài để trả lời câu hỏi mà Quốc hội vẫn còn bỏ ngỏ: ai đặt ra các quy tắc cho những người dùng trẻ tuổi nhất của AI?

Được thông báo về chính sách AI

Theo dõi mọi diễn biến khi nó diễn ra. Đọc thêm tin tức về AI trên AI Buzz Wire →