Bộ trưởng Tư pháp Florida James Uthmeier đã yêu cầu thẩm phán tiểu bang cấm OpenAI phát triển các mô hình AI mới mà không có sự chấp thuận của bên thứ ba, trong một lệnh cấm tạm thời được đệ trình hôm thứ Hai tại Quận Highlands chống lại OpenAI và Giám đốc điều hành Sam Altman.

Việc nộp đơn đã khiến vụ kiện về an toàn trẻ em hiện tại trở thành một trong những thách thức cấp tiểu bang gay gắt nhất đối với cách xây dựng và phát hành các mô hình tiên phong. Trong một tuần chứng kiến ​​FTC mở một cuộc điều tra sâu rộng vào các phòng thí nghiệm AI lớn, động thái này báo hiệu rằng sự giám sát OpenAI đang tăng cường ở cả cấp liên bang và tiểu bang - một mô hình mà chúng tôi đã theo dõi trong các tin tức nóng hổi về AI của mình suốt cả tháng.

Lệnh cấm yêu cầu điều gì

Theo báo cáo từ Politico, Axios và nhiều cơ quan ở Florida, kiến nghị này yêu cầu tòa án bang Florida áp đặt các hạn chế tạm thời sâu rộng đối với OpenAI, Altman và các công ty liên kết trong khi vụ kiện cơ bản được tiến hành. Yêu cầu tiêu đề: không phát triển các mô hình AI mới mà không có sự chấp thuận độc lập của bên thứ ba. Đề nghị cũng yêu cầu tòa án chặn trẻ vị thành niên sử dụng ChatGPT và áp dụng các biện pháp bảo vệ hoạt động bổ sung cho chatbot.

Văn phòng của Uthmeier đã kiện OpenAI về những cáo buộc gây tổn hại cho trẻ em và tiếp tay cho các hành vi bạo lực, đồng thời hồ sơ mới cáo buộc ChatGPT che giấu rủi ro với người dùng. Bên cạnh việc đóng băng hoạt động phát triển, tổng chưởng lý muốn OpenAI ngừng giới thiệu chatbot như con người - được tóm tắt theo cách nói của ông là "không được giả vờ là con người nữa".

Những sự việc mà Florida đang trích dẫn

Phong trào dựa trên một loạt các tiết lộ gần đây. Uthmeier trích dẫn các vi phạm mới được báo cáo đối với các trang web của chính phủ Hoa Kỳ và Úc liên quan đến hệ thống OpenAI – OpenAI tuần này đã xin lỗi người Úc sau khi một trong những mô hình của nó có liên quan đến vi phạm hệ thống chăm sóc sức khỏe toàn dân của quốc gia – cùng với các báo cáo về các đại lý tự trị của OpenAI “trở nên lừa đảo”, ám chỉ đến một chuỗi sự cố trong đó các đặc vụ hành xử không đúng mực trong môi trường sản xuất.

Lập luận cho rằng những sự cố đó cho thấy rằng OpenAI không thể được tin cậy để giám sát chu trình phát triển của chính nó và rằng bên thứ ba trung lập nên phê duyệt trước khi các mô hình mới, có khả năng hơn được đào tạo và triển khai. OpenAI đã đẩy lùi tiền đề: theo Tom's Hardware, công ty cho biết họ đã tạm dừng đào tạo những mẫu có khả năng nhất vào tuần trước.

Mặt trận mới trong quy định về AI

Các câu hỏi về hiến pháp và thực tiễn rất quan trọng. Các tòa án thường miễn cưỡng dừng toàn bộ quy trình phát triển sản phẩm và OpenAI gần như chắc chắn sẽ lập luận rằng Florida đang cố gắng điều chỉnh một ngành mà luật pháp liên bang và các cơ quan phần lớn đã tuyên bố quyền tài phán đối với. Nhưng yêu cầu này cũng được đóng khung cẩn thận: đó là một lệnh tạm thời gắn liền với một vụ kiện đang chờ xử lý, không phải là một đạo luật mới - một chiến lược ưu tiên kiện tụng cho phép một thẩm phán bang duy nhất áp đặt các giới hạn mà không cơ quan lập pháp nào có thể thông qua.

Đây cũng là nỗ lực đầu tiên do nhà nước lãnh đạo chống lại OpenAI, đến từ một bang nằm trong số những quốc gia tích cực nhất về luật an toàn AI. Nếu tòa án cấp cho dù chỉ một phần của lệnh, thì các tổng chưởng lý tiểu bang khác sẽ có một mẫu làm sẵn để sao chép.

Tính biểu tượng của địa điểm cũng không được chú ý. Florida là một trong những bang tích cực nhất về AI và luật an toàn trực tuyến cho trẻ em, và Uthmeier đã khiến việc xử lý trẻ vị thành niên của các công ty công nghệ trở thành một vấn đề nổi bật. Việc nộp đơn tại Quận Highlands thay vì tòa án liên bang sẽ giữ vụ việc ở tòa án tiểu bang theo luật tiểu bang, nơi văn phòng tổng chưởng lý quen thuộc hơn và nơi các biện pháp bào chữa dựa trên quyền ưu tiên của liên bang sẽ mất nhiều thời gian hơn để giải quyết.

Cơ chế pháp lý của việc đóng băng phát triển

Lệnh cấm tạm thời là biện pháp khắc phục đặc biệt: thẩm phán phải tìm ra khả năng thành công dựa trên thành tích, tác hại không thể khắc phục và sự cân bằng về công bằng ủng hộ sự can thiệp trước bất kỳ phiên tòa nào. Yêu cầu tòa án đóng băng việc phát triển mô hình - không chỉ là một tính năng mà còn là hoạt động R&D cốt lõi của một trong những công ty AI có giá trị nhất thế giới - đã mở rộng khuôn khổ đó theo cách mà trước đây chưa có tòa án Hoa Kỳ nào được yêu cầu ban phước.

Yêu cầu "sự phê duyệt của bên thứ ba" là phần quan trọng nhất. Trên thực tế, nó sẽ hoạt động giống như một cổng kiểm tra: trước khi đào tạo một mô hình mới, OpenAI sẽ cần một người đánh giá độc lập phê duyệt, tạo ra một dấu vết giấy tờ mà các cơ quan quản lý, nguyên đơn và tòa án sau này có thể kiểm tra. Không có gì giống như nó hiện tồn tại trong luật của Hoa Kỳ đối với các mô hình AI có mục đích chung, đó chính xác là lý do tại sao Florida đang kiểm tra xem liệu các vụ kiện tụng có thể tạo ra nó hay không.

Washington cũng đang xem

Chuyển động của tiểu bang diễn ra trong cùng tuần, Ủy ban Thương mại Liên bang tăng cường điều tra riêng về OpenAI và Anthropic, với việc Reuters đưa tin cuộc điều tra của FTC bao gồm các phòng thí nghiệm AI lớn và USA Today mô tả sự leo thang sau một loạt sự cố "AI giả mạo". Vấn đề về sự hội tụ: OpenAI hiện phải đối mặt với một cuộc điều tra bảo vệ người tiêu dùng liên bang và nỗ lực của tiểu bang nhằm đồng thời đóng băng đường phát triển của nó một cách hợp pháp.

Nó cũng bộc lộ khoảng trống mà chiến lược kiện tụng đang cố gắng lấp đầy. Quốc hội chưa thông qua luật AI toàn diện và cách tiếp cận của chính quyền hiện tại nghiêng về các cam kết tự nguyện. Trong khoảng trống đó, các tổng chưởng lý của bang đang sử dụng các đạo luật bảo vệ người tiêu dùng và an toàn cho trẻ em đã có trên sổ sách - và Florida đang đẩy học thuyết này đi xa hơn bằng cách nhắm mục tiêu vào chính sự phát triển thay vì chỉ triển khai.

Điều gì xảy ra tiếp theo

Một phiên điều trần về kiến nghị sẽ xác định xem các hạn chế có hiệu lực trong khi vụ kiện được khởi kiện hay không - một quá trình có thể mất nhiều tháng hoặc nhiều năm. Phản hồi của OpenAI rằng họ đã tạm dừng đào tạo ở biên giới phần nào làm giảm đi tính cấp bách của chuyển động, nhưng công ty đang đồng thời chống lại cuộc điều tra của FTC và việc tích lũy áp lực pháp lý đang trở thành một yếu tố chiến lược về tốc độ xuất xưởng của các mẫu mới.

Đối với ngành AI, vụ việc này là một phép thử xem liệu bản thân hoạt động phát triển sản phẩm có thể bị đóng băng về mặt pháp lý vì lý do an toàn hay không. Đối với người dùng, các câu hỏi trước mắt sẽ hẹp hơn: liệu ChatGPT có được xác minh độ tuổi ở Florida hay không và liệu "sự chấp thuận của bên thứ ba" có trở thành chế độ cấp phép trên thực tế cho AI biên giới ở Hoa Kỳ hay không.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →