Người đồng sáng lập Anthropic cho biết các chính phủ có thể cần buộc các công ty AI cài đặt "kill switch" - một cơ chế tắt hoàn toàn các hệ thống AI - và các thanh tra bên ngoài sẽ có thể xác minh nó thực sự hoạt động.

Jack Clark, một trong bảy người sáng lập phòng thí nghiệm AI trị giá 965 tỷ USD, nói với BBC rằng trong khi hầu hết các phòng thí nghiệm hàng đầu đều có những cách nội bộ để "rút phích cắm" các hệ thống nguy hiểm, thì xã hội "cuối cùng có thể muốn thông qua các quy tắc xung quanh" khiến việc chuyển đổi như vậy trở nên bắt buộc và có thể kiểm tra độc lập. Đối với độc giả đang theo dõi cuộc tranh luận rộng hơn về an toàn AI, sự can thiệp của ông đánh dấu đề xuất chính sách cụ thể nhất từ ​​bên trong một phòng thí nghiệm biên giới trong suốt một tuần cảnh báo ngày càng leo thang.

"Bạn có nên yêu cầu các công ty phải có một kill switch chắc chắn không? Bên thứ ba có thể kiểm chứng việc kill switch đó không?" Clark cho biết trong cuộc phỏng vấn với phóng viên công nghệ Kali Hays và biên tập viên kinh tế Faisal Islam. “Tôi nghĩ đó là điều mà xã hội sẽ muốn biết và cuối cùng có thể muốn thông qua các quy tắc.”

'Chúng tôi đang tung xúc xắc với vô số rủi ro'

Nhận xét nổi bật nhất của Clark là sự bác bỏ hoàn toàn hiện trạng. Khi được hỏi về quỹ đạo của ngành, ông cho biết việc cho phép AI tiếp tục là một “ngành công nghiệp hoàn toàn không được kiểm soát” là một ý tưởng tồi.

Ông nói: “Chúng ta đang tung xúc xắc với những rủi ro to lớn. “Và vấn đề là chúng ta phải thay đổi hướng đi của ngành này.”

Không giống như một số đồng nghiệp của mình, Clark từ chối đưa ra con số về nguy cơ tuyệt chủng của loài người. “Tôi không nghĩ những số liệu thống kê này hữu ích đến thế,” ông nói – một sự tương phản đáng chú ý với nhà nghiên cứu Nhân chủng học Evan Hubinger, người đã nói vào tuần trước rằng cá nhân ông tin rằng có hơn 10% khả năng loài người tuyệt chủng do AI trong vòng thập kỷ tới, và với nhà tiên phong về AI Geoffrey Hinton, người đã nói với BBC hôm thứ Sáu rằng ước tính 10% là “không phải vô lý”.

Điều Clark không tranh cãi là hướng di chuyển. AI, như ông đã nói trong cùng một cuộc phỏng vấn, "mạnh mẽ hơn từng ngày" - và ông lập luận rằng các chi tiết cụ thể của bất kỳ yêu cầu ngừng hoạt động nào, bao gồm cả ai sẽ xác minh nó và bằng cách nào, thuộc về "cuộc trò chuyện chính sách lớn hơn" hiện đang diễn ra xung quanh AI.

Một đề xuất có động lực lập pháp

Đề xuất của Clark sẽ không rơi vào chân không. Các nhà lập pháp Hoa Kỳ đã đưa ra luật có tên là Đạo luật Kill Switch, yêu cầu các nhà phát triển AI hàng đầu xây dựng cơ chế tắt máy trong hệ thống của họ – một dự luật AI Buzz Wire đã đề cập vào tháng trước khi tính cấp bách của nó ngày càng tăng sau các sự cố của tác nhân lừa đảo.

Ý tưởng này cũng phải đối mặt với sự hoài nghi mở. Tại Anh, Bộ trưởng Kinh doanh Jonathan Reynolds nói với BBC rằng ông không thấy khái niệm này hữu ích, nói rằng ông "không thực sự chắc chắn điều đó có ý nghĩa gì trong thực tế" và cảnh báo rằng việc quản lý quá mức có thể khiến đất nước bị loại khỏi các mô hình do nước ngoài phát triển.

Bối cảnh: Nội chiến an toàn - và IPO

Nhận xét của Clark giới thiệu một tuần trong đó an toàn AI chuyển từ chủ đề hội thảo sang tin tức trên trang nhất. Giám đốc điều hành của Anthropic, Dario Amodei, vào cuối tuần đã kêu gọi tốc độ phát triển ở biên giới chậm lại và được giám sát chặt chẽ hơn, đồng thời khẳng định bất kỳ sự tạm dừng nào cũng nên xảy ra “mà không phải hy sinh lợi thế thương mại”. Sau đó, anh ấy đưa trường hợp đó đến với khán giả Mỹ chính thống trong một cuộc phỏng vấn với Anderson Cooper của CNN, với sự xuất hiện của chính Coxon trên mạng để phản ứng với nó. Nhận xét này theo sau một bài đăng từ chức lan truyền của cựu nhà nghiên cứu Nhân chủng học Jacob Coxon, cảnh báo về số phận của loài người, từ đó dẫn đến ước tính về sự tuyệt chủng của Hubinger. Về phần mình, The Guardian đã xem xét lý do tại sao lời cảnh báo về ngày tận thế cụ thể này lại xuất hiện trong khi những lời cảnh báo trước đó đã mờ nhạt.

Những lời cảnh báo đã vấp phải sự chế nhạo công khai từ các bộ phận của ngành công nghệ. Giám đốc điều hành của Hugging Face, Clement Delangue đã chế nhạo quyết định biến Coxon thành cơ quan ngôn luận về nguy cơ tuyệt chủng, viết: "Xin lỗi, nhưng hỏi Jacob về nguy cơ tuyệt chủng AI cũng giống như hỏi anh chàng AC của bạn về biến đổi khí hậu." Giám đốc điều hành Grindr George Arison còn đi xa hơn, cho rằng việc gây sợ hãi là có động cơ thương mại. “Cách duy nhất để biện minh cho những định giá này là thực sự tuyên bố: ‘Tôi sẽ tiếp quản mọi ngành và tôi sẽ đảm nhận mọi công việc, và AI của tôi sẽ thực hiện tất cả những công việc đó’,” ông nói.

Ngoài ra còn có một số tiền khổng lồ phụ thuộc vào kết quả của cuộc tranh luận này. Anthropic đang chuẩn bị chào bán cổ phiếu lần đầu ra công chúng với mức định giá 965 tỷ USD, trong khi OpenAI - gần đây nhất được định giá 852 tỷ USD - dự kiến ​​​​sẽ ra mắt công chúng trước khi CEO Sam Altman cho biết hôm thứ Sáu rằng đợt IPO sẽ không diễn ra trong năm nay do tranh cãi về an toàn. Những nhà phê bình như Arison cho rằng những lời hoa mỹ về sự diệt vong và chiêu trò gây quỹ là hai mặt của một đồng tiền; Câu trả lời của Clark là ngành công nghiệp này dù thế nào cũng phải thay đổi hướng đi.

Việc kill switch bắt buộc, có thể kiểm chứng có trở thành luật hay không sẽ phụ thuộc vào các nhà lập pháp, những người cho đến nay tỏ ra không mấy mặn mà với việc hạn chế một ngành đang thúc đẩy nền kinh tế Mỹ. Nhưng lần đầu tiên, một trong những người có quyền lực nhất trong ngành công nghệ lại mời họ dùng thử một cách rõ ràng.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →