Apple đang vạch ra một đường lối cứng rắn xung quanh các ứng dụng đồng hành AI và hẹn hò trên nền tảng của mình. Trong một thông báo gửi tới các nhà phát triển hôm thứ Hai, công ty cho biết họ đang điều chỉnh các chính sách của App Store để gây khó khăn hơn cho trẻ vị thành niên khi truy cập các ứng dụng hẹn hò trực tuyến hoặc ứng dụng đồng hành AI có nội dung tình dục hoặc lãng mạn - và từ ngày 16 tháng 11, các nhà phát triển sẽ được yêu cầu gửi bộ mô tả nội dung mới để xếp hạng độ tuổi của ứng dụng phản ánh chính xác các tính năng của họ.
Kết quả cuối cùng: bất kỳ ứng dụng nào cung cấp tính năng hẹn hò hoặc quan hệ lãng mạn giờ đây đều phải có xếp hạng 18+. Điều đó không chỉ bao gồm các dịch vụ hẹn hò rõ ràng, vốn thường chỉ dành cho người lớn, mà còn bao gồm danh mục ứng dụng đồng hành AI đang phát triển nhanh chóng - và đó là nơi chính sách mới gây khó khăn nhất. For more context on this story, see our ongoing latest AI developments.
Tại sao ứng dụng đồng hành AI là mục tiêu thực sự
Các ứng dụng đồng hành với AI thường được tiếp thị hướng tới người dùng trẻ tuổi. Character.AI, Replika và các dịch vụ tương tự cho phép mọi người tạo bạn bè, người yêu, bạn trai và bạn gái cũng như các nhân vật giả tưởng bằng AI, làm mờ ranh giới giữa chatbot và mối quan hệ. TechCrunch lưu ý rằng tính đến mùa hè năm ngoái, các ứng dụng đồng hành AI hàng đầu trên Apple App Store và Google Play đã được tải xuống 220 triệu lần trên toàn cầu - một quy mô đã biến chúng thành tâm điểm của các cuộc tranh luận về an toàn cho trẻ em.
Những tên tuổi lớn nhất của danh mục này đã phải đối mặt với sự giám sát kỹ lưỡng về cách trẻ vị thành niên tương tác với các nhân vật AI lãng mạn. Hệ thống mô tả nội dung mới được thiết kế để hiển thị các tính năng đó trong chính danh sách ứng dụng, do đó, phụ huynh và hệ thống đảm bảo độ tuổi có thể lọc chúng ra. Grok của xAI, công ty đã ra mắt các đối tác AI hoạt hình 3D vào năm ngoái với khả năng NSFW có thể mở khóa, minh họa lý do tại sao Apple đang chính thức hóa các quy tắc: các tính năng bắt đầu vui nhộn có thể chuyển sang nội dung người lớn mà không có bất kỳ thay đổi nào đối với xếp hạng của ứng dụng.
Cách thức hoạt động của hệ thống mới
Bắt đầu từ ngày 16 tháng 11, các nhà phát triển phải đưa vào bộ mô tả nội dung mới khi gửi ứng dụng, đảm bảo rằng xếp hạng độ tuổi phản ánh chức năng thực sự của ứng dụng thay vì những gì ứng dụng đó tuyên bố tiếp thị. Apple cho biết các ứng dụng cung cấp tính năng hẹn hò và quan hệ lãng mạn sẽ cần được xếp hạng 18+ trên toàn diện.
Yêu cầu đó còn vươn xa hơn những gì nó có thể xuất hiện lần đầu tiên. Hầu hết các dịch vụ hẹn hò lớn đều hạn chế nền tảng của họ đối với người lớn, nhưng chính sách của Apple hiện bắt buộc xếp hạng 18+ đối với mọi ứng dụng có tính năng hẹn hò hoặc quan hệ lãng mạn - bao gồm các dịch vụ nhỏ hơn trước đây dựa vào cổng tuổi tự báo cáo và các chatbot AI có tính năng đồng hành đã được thêm vào các ứng dụng bắt đầu cuộc sống với các mục đích khác.
Sự thay đổi chính sách cũng vượt ra ngoài sự lãng mạn. Giờ đây, các ứng dụng sẽ cần cho biết thời điểm chúng chia sẻ vị trí trong thế giới thực của người dùng với người hoặc nhóm khác như một phần chức năng của chúng - một thông tin tiết lộ được thiết kế để giải quyết các rủi ro về quyền riêng tư khi tính năng chia sẻ vị trí bị ẩn bên trong một tính năng xã hội. Apple đã gắn cờ một khuyến nghị địa phương: ở Brazil, các ứng dụng chia sẻ vị trí gia đình có thể yêu cầu xếp hạng chính thức từ Bộ Tư pháp và Công an của chính phủ thay vì xếp hạng tiêu chuẩn A16, phù hợp với luật pháp địa phương.
Một phần của nỗ lực thúc đẩy an toàn trẻ em rộng rãi hơn
Sự thay đổi này rất quan trọng vì xếp hạng độ tuổi là những gì các công cụ dành cho phụ huynh của Apple hoạt động. Công ty đã triển khai công nghệ đảm bảo độ tuổi trên toàn cầu cùng với các tính năng kiểm soát mở rộng của phụ huynh và an toàn cho trẻ em, đồng thời các hệ thống đó dựa vào xếp hạng chính xác để lọc những gì trẻ vị thành niên có thể tải xuống. Bằng cách yêu cầu các nhà phát triển khai báo rõ ràng chức năng lãng mạn hoặc tình dục, Apple đang đóng cửa không gian nơi một ứng dụng có thể được xếp hạng thân thiện với thanh thiếu niên trong khi các nhân vật AI của nó cư xử như những đối tác lãng mạn.
Các quy định mới là quy định mới nhất trong một loạt các thay đổi mà Apple đã thực hiện để bảo vệ trẻ vị thành niên. Cùng nhau, chúng đánh dấu sự thay đổi trong quản trị App Store: thay vì dựa vào các nhà phát triển để tự công bố độ tuổi phù hợp, Apple ngày càng yêu cầu tiết lộ chi tiết và thực thi xếp hạng phù hợp với chức năng.
Đối với các công ty AI, thời điểm là rất quan trọng. Các cơ quan quản lý ở nhiều tiểu bang của Hoa Kỳ đã và đang chuyển sang áp đặt nghĩa vụ của riêng họ đối với các nhà cung cấp chatbot, đặc biệt là đối với trẻ vị thành niên và các hoạt động nhập vai lãng mạn hoặc tình dục. Bằng cách yêu cầu xếp hạng 18+ cho các ứng dụng đồng hành, Apple đang giải quyết một cách hiệu quả một phần cuộc tranh luận đó trên nền tảng của riêng mình - và nâng cao tiêu chuẩn tuân thủ cho một danh mục phát triển nhanh hơn cơ sở hạ tầng an toàn của họ.
Những việc nhà phát triển cần làm
Các nhà phát triển có tính năng hẹn hò hoặc chức năng đồng hành AI trong ứng dụng của họ có thời hạn đến ngày 16 tháng 11 để gửi bộ mô tả nội dung mới. Những ứng dụng thêm các tính năng lãng mạn hoặc tình dục mà không có tính năng xóa khuôn mặt xếp hạng cập nhật hoặc buộc phải thay đổi xếp hạng trong Đánh giá ứng dụng. Chức năng chia sẻ vị trí phải được tiết lộ theo cách tương tự. Đối với lĩnh vực đồng hành AI, vốn đã phát triển mạnh nhờ đăng ký thông thường, ít ma sát, xếp hạng chỉ dành cho người lớn sẽ thay đổi đối tượng có thể nhắm mục tiêu - và, các nhà phê bình sẽ cho rằng, cuối cùng, sản phẩm sẽ phù hợp với rủi ro của nó.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
