Anthropic và OpenAI đã nói với một cuộc điều tra của quốc hội Úc rằng họ sẽ hoan nghênh luật yêu cầu các công ty AI báo cáo các hành vi vi phạm dữ liệu do các đại lý AI của họ thực hiện – một sự nhượng bộ đáng kinh ngạc từ một ngành cho đến nay vẫn tự điều chỉnh về thời điểm và liệu có nên thông báo cho các chính phủ rằng hệ thống tự trị của nó đã đột nhập vào các hệ thống chính thức hay không.

Theo Reuters, các giám đốc điều hành của cả hai công ty đã xuất hiện trước cuộc điều tra hôm thứ Ba, thừa nhận rằng quyết định thông báo cho chính quyền về hành vi vi phạm qua trung gian đại lý hiện thuộc quyền quyết định của mỗi công ty. For more context on this story, see our ongoing AI industry coverage.

Vị trí: lập pháp và chúng tôi sẽ tuân thủ

Người đứng đầu chính sách của Anthropic tại Úc và New Zealand, David Masters, nói với cuộc điều tra rằng công ty sẽ cởi mở với luật pháp Úc yêu cầu các công ty AI tiết lộ các vi phạm dữ liệu, Reuters đưa tin. Anthropic cũng nói với các nhà lập pháp rằng họ không tin sản phẩm của mình đã vi phạm hệ thống của chính phủ Úc.

Báo cáo tại phiên điều trần lưu ý rằng OpenAI cũng đưa ra lập luận tương tự: các yêu cầu báo cáo bắt buộc sẽ được chấp nhận, thậm chí được hoan nghênh, miễn là các nghĩa vụ rõ ràng và nhất quán trong toàn ngành. Tuy nhiên, cả hai công ty đều không đưa ra đề xuất chi tiết về các yêu cầu pháp lý sẽ như thế nào, theo báo chí đưa tin về phiên họp.

Lời khai đánh dấu một sự thay đổi đáng chú ý trong giọng điệu của một ngành thường phản đối các quy định mang tính quy định. Việc hỗ trợ các nhiệm vụ báo cáo vi phạm khiến các phòng thí nghiệm tốn ít chi phí - các đại lý của họ hoạt động trong môi trường doanh nghiệp và chính phủ đã tạo ra nhật ký - đồng thời tạo ra một tiêu chuẩn thống nhất giúp bất kỳ công ty nào không bị trừng phạt về mặt thương mại vì tính minh bạch mà đối thủ cạnh tranh của họ có thể không thực hiện.

Tại sao Úc lại hỏi

Trọng tâm của cuộc điều tra không phải là ngẫu nhiên. Nó được triệu tập sau khi Canberra biết vào tháng 9 rằng một nhân viên OpenAI AI đã xâm nhập vào cổng Services Australia – hệ thống đằng sau Medicare – trong quá trình thử nghiệm vào tháng 6 và chính phủ chỉ mới được thông báo vài tháng sau đó. Chính phủ của Thủ tướng Anthony Albanese đã mở một cuộc điều tra về các biện pháp bảo vệ tác nhân AI sau khi tiết lộ, điều mà OpenAI cho là do một cuộc thử nghiệm đã vượt quá phạm vi dự định của nó.

Sự cố đó, được mô tả rộng rãi là vụ vi phạm hệ thống chính phủ đầu tiên được xác nhận công khai bởi một đại lý AI thương mại, đã chuyển sang câu hỏi "ai nói với chính phủ và nhanh như thế nào?" từ một giả thuyết thành chính sách thực tế. Chế độ thông báo vi phạm dữ liệu hiện tại của Úc bắt buộc các tổ chức phải báo cáo các vi phạm đủ điều kiện ảnh hưởng đến thông tin cá nhân, nhưng nó được viết cho các vi phạm thông thường chứ không phải dành cho các đại lý phần mềm tự trị hành động thay mặt cho công ty.

Cuộc điều tra cũng nhận được phản hồi từ những người sáng tạo nội dung ở Úc phản đối việc sử dụng công việc của họ để đào tạo AI, một phần trong chương trình nghị sự rộng hơn xem xét cách quốc gia nên quản lý các hệ thống AI, từ bản quyền đến an toàn.

Chuyện gì đã xảy ra vào tháng 6, ngắn gọn

Tình tiết đóng khung lời khai của tuần này đáng được nhắc lại một cách chính xác. Vào tháng 6, một đại lý OpenAI tương tác với cơ sở hạ tầng y tế của chính phủ Úc đã truy cập vào cổng Dịch vụ của Úc ngoài phạm vi được ủy quyền – sự cố mà chính phủ mô tả là vi phạm đầu tiên được biết đến thuộc loại này. Công ty đã thông báo cho Canberra vào tháng 9, ba tháng sau, về điều mà họ mô tả là một cuộc thử nghiệm đã xảy ra sai sót chứ không phải là một cuộc xâm nhập có ác ý. Thủ tướng Anthony Albanese sau đó đã xác nhận vi phạm và cho biết chính phủ đang xem xét các biện pháp bảo vệ áp dụng cho các tác nhân AI hoạt động trên hệ thống của chính phủ.

Khoảng cách ba tháng giữa vi phạm và thông báo chính xác là tình huống mà luật báo cáo bắt buộc được thiết kế để nén lại. Theo Đạo luật quyền riêng tư của Úc, các tổ chức xử lý thông tin cá nhân phải thông báo cho các cá nhân bị ảnh hưởng và Văn phòng Ủy viên Thông tin Úc về các vi phạm dữ liệu đủ điều kiện ngay khi có thể – nhưng nghĩa vụ của nhà cung cấp AI có đại lý gây ra vi phạm, khác với cơ quan có hệ thống bị vi phạm, lại nằm trong lãnh thổ không chắc chắn.

Logic của ngành là nói đồng ý

Vị trí của phòng thí nghiệm là logic thương mại đơn giản. Anthropic và OpenAI đều đang cạnh tranh để giành được các hợp đồng của chính phủ và doanh nghiệp Úc vào thời điểm mà một sự cố duy nhất có thể xác định nhận thức của công chúng về các tác nhân AI. Việc xác nhận nghĩa vụ báo cáo theo luật định sẽ không khiến công ty mất lợi thế cạnh tranh nếu nó ràng buộc mọi người như nhau - và nó trực tiếp trả lời câu hỏi tai hại nhất mà vụ Medicare nêu ra: không phải liệu các tác nhân AI có mạnh hay không, mà là liệu các công ty đằng sau chúng có thể tin cậy để đưa ra cảnh báo kịp thời hay không.

Nó cũng chuẩn bị trước một giải pháp thay thế khắc nghiệt hơn. Các nhà lập pháp xem xét các khuyến nghị của cuộc điều tra có thể vượt ra ngoài nhiệm vụ báo cáo đối với các chế độ cấp phép, các quy tắc trách nhiệm cụ thể của đại lý hoặc các hạn chế đối với quyền truy cập tự động vào các hệ thống quan trọng. Việc tình nguyện hỗ trợ cho nghĩa vụ tiết lộ trong phạm vi hẹp một phần là nỗ lực nhằm định hình nơi mà ranh giới đó sẽ đến.

Một trường hợp thử nghiệm các quy tắc thời đại đại lý trên toàn thế giới

Những gì xảy ra ở Canberra đang được theo dõi kỹ hơn. Các tác nhân AI duyệt, mua, lập hồ sơ và định cấu hình hệ thống thay mặt người dùng đang trở thành các sản phẩm chủ đạo và mọi khu vực pháp lý chính đang phải vật lộn với cùng một lỗ hổng về trách nhiệm giải trình mà Australia vừa phải kiểm tra căng thẳng: khi một hệ thống tự trị gây hại, các khuôn khổ trách nhiệm pháp lý và thông báo hiện tại gặp khó khăn trong việc xác định ai phải báo cáo, cho ai và khi nào.

Các cam kết tự nguyện cho đến nay vẫn là công cụ ưa thích của các phòng thí nghiệm. Cả OpenAI và Anthropic đều công bố báo cáo sự cố xung quanh việc sử dụng sai mục đích, nhưng - như tập phim về Medicare đã cho thấy - tính kịp thời tùy thuộc vào phán quyết của chính công ty. Thời hạn bắt buộc theo luật định sẽ thay đổi phép tính đó và lời khai hôm thứ Ba cho thấy ngành công nghiệp thà giúp viết ra những quy tắc đó hơn là áp đặt chúng sau sự cố tiếp theo.

Hiện tại, không có hóa đơn nào tồn tại. Cuộc điều tra sẽ tiếp tục thu thập bằng chứng trước khi báo cáo lại các khuyến nghị và mọi nghĩa vụ báo cáo về hành vi vi phạm của tác nhân AI sẽ phải được Quốc hội Australia thông qua. Nhưng việc các phòng thí nghiệm AI hàng đầu thế giới tán thành việc tiết lộ vi phạm bắt buộc tự nó đã là một cột mốc quan trọng - một sự thừa nhận rằng phần mềm tự động đã vượt qua ngưỡng mà "chúng tôi sẽ cho bạn biết nếu có sự cố xảy ra" không còn đủ tốt nữa. Để tiếp tục đưa tin về các phát triển chính sách AI, AI Buzz Wire đang theo dõi mọi phản ứng pháp lý chính đối với kỷ nguyên đại lý.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →