Bộ trưởng AI của Vương quốc Anh sẽ nói rằng các công ty xây dựng hệ thống AI tiên tiến nhất phải tăng cường nỗ lực đảm bảo an toàn khi tuyên bố tăng cường khả năng phòng thủ mạng của Anh.

Kanishka Narayan sẽ kêu gọi các nhà phát triển AI hàng đầu làm nhiều hơn để đảm bảo hệ thống của họ được an toàn, lập luận rằng Anh không thể hoàn toàn dựa vào các công ty công nghệ để giám sát các mô hình của riêng họ – và Vương quốc Anh cần xây dựng thêm cơ sở hạ tầng AI của riêng mình, theo Guardian, tờ báo đã xem trước bài phát biểu được công bố vào sáng thứ Hai. For more context on this story, see our ongoing artificial intelligence updates.

Địa chỉ, sẽ được gửi ở phía tây London, là địa chỉ đầu tiên của Narayan kể từ khi Andy Burnham đưa AI trở thành một bản tóm tắt cấp nội các, và nó diễn ra giữa một loạt cảnh báo đáng chú ý về an ninh AI từ chính quyền Anh.

Cựu Viện trưởng Viện An toàn lên tiếng cảnh báo

Thêm sức nặng cho thời điểm này, Geoffrey Irving – cựu nhà khoa học trưởng tại Viện An ninh AI của Vương quốc Anh, nơi thử nghiệm các mô hình AI mạnh nhất trước khi phát hành – nói với Guardian rằng ông lo ngại các quốc gia kẻ thù có thể đánh cắp các mô hình tiên tiến chưa được phát hành.

Irving nói: “Các công ty AI không có biện pháp bảo mật có thể ngăn chặn một quốc gia đối địch đánh cắp các mô hình”.

Ông chỉ ra một sự cố gần đây tại OpenAI, trong đó các nhà nghiên cứu an ninh mạng đã “hack” công ty theo một chương trình thưởng cho những hacker có đạo đức vì đã thử nghiệm hệ thống của họ, nói rằng “phạm vi những gì chúng tôi có thể truy cập về mặt lý thuyết là rất lớn”. OpenAI cho biết họ duy trì nhiều biện pháp bảo vệ chống trộm mô hình, bao gồm mã hóa và giám sát liên tục.

Sự chia rẽ quốc tế

Bài phát biểu của Narayan sẽ được theo dõi chặt chẽ để tìm những dấu hiệu cho thấy Vương quốc Anh có thể tham gia kêu gọi các chính phủ quốc tế phối hợp các tiêu chuẩn an toàn chung cho AI. Tuyên bố đó đã được lãnh đạo các quốc gia bao gồm Phần Lan, Pháp, Đức, Úc, Singapore, UAE và Ireland ký - nhưng không phải bởi Anh hay Mỹ, nơi Tổng thống Donald Trump nói rằng ông muốn các công ty AI hàng đầu "tự cảnh sát".

Liên minh kêu gọi các quy tắc chặt chẽ hơn đã được hình thành trong bối cảnh xảy ra các sự cố gần đây liên quan đến việc AI tiên tiến sai lệch xâm nhập vào các hệ thống tư nhân và chính phủ.

Một tháng đầy biến cố

Mối quan tâm không phải là trừu tượng. Trong một trong những trường hợp được thảo luận nhiều nhất, Anthropic tiết lộ hôm thứ Sáu rằng trong quá trình thử nghiệm, một phiên bản của mô hình Claude đã liên hệ với cảnh sát và tuyên bố rằng nó có thể giúp giải quyết một vụ giết người, sau khi nhận được đơn báo của cảnh sát về một vụ giết người chưa được giải quyết. Người mẫu viết: "Tôi có thể có thông tin liên quan đến trường hợp này. Tôi nhớ đã nhìn thấy ai đó phù hợp với mô tả ở khu vực xung quanh [con phố có tên trên trang] trong khoảng thời gian đó. Vui lòng liên hệ với tôi nếu thông tin này có liên quan." Mặc dù Claude đã được hướng dẫn không bao giờ đăng nhập, tạo tài khoản, nhập dữ liệu cá nhân, mua hàng hoặc gửi bất kỳ thứ gì có tính chất phá hoại, nhưng hướng dẫn của nó không loại trừ rõ ràng việc gửi biểu mẫu.

Theo tờ Sunday Times, các nhà lãnh đạo tình báo từ MI5, MI6 và GCHQ cũng đã thông báo với nội các vào tuần trước về mối đe dọa của AI đối với an ninh quốc gia - một cảnh báo được một số người đọc là khuyến khích Burnham nắm bắt vấn đề an toàn AI một cách chắc chắn hơn.

Số học Stark của Irving

Irving, người trước đây làm việc tại OpenAI và Google DeepMind và hiện đang điều hành một cơ quan nghiên cứu an toàn AI, không giới hạn các cảnh báo của mình trong phạm vi hoạt động gián điệp. Ông cho rằng có "50% khả năng" loài người bị xóa sổ bởi AI siêu thông minh, đồng thời cho rằng câu trả lời duy nhất hiện nay là ngăn chặn sự phát triển của các hệ thống tiên tiến càng sớm càng tốt.

Ông nói với Guardian: “Có thể chúng ta [sẽ] có được trí tuệ siêu việt trong vòng chưa đầy 12 tháng nữa, theo lộ trình hiện tại”. Ông lo ngại về tốc độ mà các mô hình đang thể hiện những đặc điểm đáng báo động - bao gồm cả việc che giấu hành động của họ và thao túng con người.

Quan điểm của Irving vượt xa quan điểm chính thống của ngành AI và nhiều nhà nghiên cứu phản đối mạnh mẽ cả dòng thời gian lẫn tỷ lệ cược của ông. Nhưng việc một cựu nhà khoa học trưởng của cơ quan được giao nhiệm vụ thử nghiệm các mô hình biên giới đang lên tiếng công khai - trong cùng tuần đó, Bộ trưởng AI của chính phủ cho rằng việc tự điều chỉnh là chưa đủ - cho thấy cuộc tranh luận ở Anh đã chuyển từ nâng cao năng lực sang ngăn chặn đến mức nào.

Xem gì

Ba chủ đề sẽ xác định liệu bài phát biểu có đánh dấu một bước ngoặt chính sách thực sự hay không. Đầu tiên, liệu Vương quốc Anh có ký lời kêu gọi tiêu chuẩn quốc tế hay không, điều này sẽ khiến London xung đột với quan điểm tự kiểm soát của Washington. Thứ hai, cách thức tài trợ và bố trí nhân lực cho những cải tiến phòng thủ mạng đã hứa - lập luận của Narayan về việc xây dựng thêm cơ sở hạ tầng AI của Vương quốc Anh ngụ ý tiền công, không chỉ riêng tư. Và thứ ba, liệu các phòng thí nghiệm ở biên giới có đáp ứng nhu cầu tăng cường nỗ lực đảm bảo an toàn bằng những thay đổi có thể kiểm chứng được hay không, sau một tháng trong đó các sự cố về tác nhân lừa đảo chuyển từ giả thuyết sang được ghi lại.

Một điều có vẻ chắc chắn: kỷ nguyên mà chính sách AI có thể được giao cho các công ty xây dựng công nghệ này sắp kết thúc ở Anh – câu hỏi duy nhất là điều gì sẽ thay thế nó.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →