Vua Charles III đã đưa ra cảnh báo nghiêm khắc về “những mối nguy hiểm hiện hữu” của trí tuệ nhân tạo vào thứ Năm, gửi đến các giám đốc điều hành của Nvidia, Google DeepMind và OpenAI đã tập trung tại khu nhà Dumfries House của ông ở Scotland để tham dự hội nghị thượng đỉnh cấp cao về tương lai của công nghệ.

Quốc vương nói với các nhà lãnh đạo ngành lắp ráp rằng cần phải cấp bách đối mặt với những rủi ro do các hệ thống AI ngày càng mạnh mẽ gây ra, đặc biệt nếu công nghệ này cuối cùng bị kiểm soát bởi các tác nhân độc hại. For more context on this story, see our ongoing more AI stories.

Theo báo cáo của ABC News và nhiều cơ quan khác, Nhà vua nói với các nhà lãnh đạo tập trung tại điền trang Ayrshire: “Dường như cần phải xem xét đầy đủ những nguy cơ hiện hữu của những công nghệ như vậy rơi vào tay kẻ xấu và được sử dụng theo những cách có thể gây ra thảm họa”.

Thông điệp kép: Hứa hẹn và hiểm nguy

Bài phát biểu của Nhà vua không phải là một lời từ chối công nghệ hoàn toàn. Ông thừa nhận rằng trí tuệ nhân tạo mang lại tiềm năng to lớn cho những điều tốt đẹp, đặc biệt là trong khoa học đời sống và y học, nơi các công cụ AI ngày càng được sử dụng nhiều để tăng tốc nghiên cứu và cải thiện kết quả của bệnh nhân.

Tuy nhiên, ông kết hợp sự lạc quan đó với lời cảnh báo rằng chính những người sáng tạo ra công nghệ này ngày càng cảnh báo rằng các hệ thống tiên tiến có thể phát triển những năng lực tối tăm hơn, "thậm chí có thể lấy đi sự sống", ông nói, theo tường thuật của đài truyền hình về nhận xét của ông.

Nhà vua cũng kêu gọi áp dụng các biện pháp bảo vệ trước khi quá muộn để kiểm soát quỹ đạo của công nghệ và nâng cao tác động môi trường của việc phát triển AI, một chủ đề ngày càng thu hút sự chú ý khi việc xây dựng trung tâm dữ liệu làm căng lưới điện ở nhiều quốc gia.

Ai tham dự Hội nghị thượng đỉnh Scotland

Danh sách khách mời được thể hiện dưới dạng mặt cắt ngang của những nhân vật quyền lực nhất trong ngành AI. Những người tham dự bao gồm người sáng lập và giám đốc điều hành Nvidia Jensen Huang, người sáng lập Google DeepMind Demis Hassabis và Giám đốc tài chính OpenAI Sarah Friar, theo ABC News. Bộ trưởng Trí tuệ nhân tạo Anh Kanishka Narayan cũng có mặt.

Huang được mời đến gặp Nhà vua để thảo luận về các cơ chế an toàn trong ngành, theo những hình ảnh và chú thích do Reuters phân phối. Cha Paolo Benanti, cố vấn của Giáo hoàng, người đã kêu gọi các chính phủ giảm tốc độ phát triển AI, cũng dự kiến ​​sẽ tham dự các cuộc thảo luận.

Việc lựa chọn địa điểm và người triệu tập rất quan trọng. Chế độ quân chủ Anh không có quyền quản lý, nhưng Nhà vua có lịch sử lâu dài trong việc tham gia của công chúng vào các rủi ro công nghệ mới nổi và hội nghị thượng đỉnh đã mang lại cho các nhân vật cấp cao nhất trong ngành một bàn chung vào thời điểm các lời kêu gọi giám sát đang tăng cường ở cả hai bờ Đại Tây Dương.

Một cuộc tranh luận được hồi sinh

Cuộc họp diễn ra trong bối cảnh cuộc tranh luận công khai về rủi ro AI đang gia tăng. Cuộc thảo luận lại trở thành tâm điểm chú ý sau khi hai nhà nghiên cứu của Anthropic cảnh báo rằng công nghệ tiến bộ nhanh chóng có thể dẫn đến sự tuyệt chủng của loài người trong một tương lai không xa, những bình luận thu hút sự đưa tin rộng rãi và chỉ trích ở mức độ tương đương.

Giám đốc điều hành của Anthropic Dario Amodei đã kêu gọi riêng các công ty giảm tốc độ phát triển AI. Giáo hoàng Leo XIV đã kêu gọi các chính phủ trên toàn thế giới làm chậm sự phát triển của hệ thống AI và giảm thiểu tác động gây rối của chúng, trong khi Tổng thống Mỹ Donald Trump cũng can thiệp vào cuộc tranh luận, khiến câu hỏi về quản trị AI trở thành một vấn đề chính trị toàn cầu thực sự chứ không phải là vấn đề kỹ thuật thuần túy.

Trong bối cảnh đó, mối lo ngại ngày càng tăng rằng các nỗ lực đảm bảo an toàn bằng AI đang tụt hậu so với sự phát triển của các hệ thống ngày càng có năng lực. Trong những tuần gần đây, cuộc tranh luận tập trung vào việc liệu ngành có thể và nên tự điều chỉnh hay không, với những người hoài nghi đặt câu hỏi liệu các giám đốc điều hành kêu gọi thận trọng có thể có động cơ thầm kín hay không, chẳng hạn như định hình các quy tắc nhằm duy trì vị trí dẫn đầu cạnh tranh của các công ty cụ thể.

Không có quy tắc ràng buộc nào được mong đợi

Các nhà tổ chức chưa bao giờ coi cuộc họp ở Scotland là một cuộc đàm phán. Theo ABC News, cuộc họp dự kiến ​​sẽ không đưa ra bất kỳ thỏa thuận ràng buộc nào. Mục đích của nó, ít nhất trên danh nghĩa, là mang tính khám phá: liệu một bộ nguyên tắc chung có thể hướng dẫn cách áp dụng AI xuyên biên giới và các ngành hay không.

Cung điện Buckingham cho biết các cuộc thảo luận sẽ xem xét liệu AI có thể được hướng dẫn “không chỉ đơn thuần là động lực thúc đẩy năng lực và hiệu quả mà còn là một công cụ đề cao phẩm giá con người và góp phần vào sự thịnh vượng của cả con người và hành tinh hay không”.

Khung đó phản ánh một chủ đề mà Nhà vua đã quay lại nhiều lần: câu hỏi không chỉ là liệu AI có thể được đảm bảo an toàn hay không mà còn là nó nên dùng để làm gì. Nhận xét hôm thứ Năm đã biến quan điểm đó thành một cảnh báo về quyền sở hữu và kiểm soát, một sự nhấn mạnh khác biệt đáng kể so với những lo ngại tập trung vào năng lực đang chi phối hầu hết các cuộc thảo luận về rủi ro AI.

Điều gì xảy ra tiếp theo

Hội nghị thượng đỉnh khó có thể tự mình đưa ra chính sách, nhưng nó tạo thêm động lực cho một loạt nỗ lực chính thức đang được tiến hành. Vương quốc Anh đã tự định vị mình là người triệu tập về an toàn AI kể từ các hội nghị thượng đỉnh AI trước đó và sự hiện diện của một bộ trưởng chuyên trách về trí tuệ nhân tạo là tín hiệu cho thấy chính phủ có ý định tiếp tục hợp tác với cả các nhà phát triển AI của Mỹ và Trung Quốc.

Đối với các công ty trong phòng, phép tính này rất tế nhị. Nvidia, DeepMind và OpenAI đều phải đối mặt với áp lực thương mại trong việc cung cấp các hệ thống có khả năng ngày càng tăng, ngay cả khi các nhà nghiên cứu của họ đưa ra cảnh báo về những gì các hệ thống đó cuối cùng có thể làm. Lệnh triệu tập của hoàng gia không giải quyết được sự căng thẳng đó, nhưng nó đảm bảo rằng sự căng thẳng vẫn có thể nhìn thấy được.

Thông điệp cốt lõi của Nhà vua, rằng các biện pháp bảo vệ phải được thực hiện trước khi công nghệ thoát khỏi khả năng kiểm soát của bất kỳ ai, đến sau một tuần khi diễn ngôn về an toàn trong ngành trở nên ồn ào một cách bất thường, từ việc OpenAI tiết lộ nhiều sự cố an toàn liên quan đến các mô hình của chính họ cho đến tranh chấp công khai ngày càng leo thang giữa ban lãnh đạo AI của Microsoft và Anthropic về cách thiết kế các hệ thống AI.

Liệu cuộc tập hợp vào thứ Năm có chuyển thành điều gì cụ thể hơn hay không vẫn còn phải xem. Nhưng với việc các nhà lãnh đạo của nhà sản xuất chip có giá trị nhất thế giới và phòng thí nghiệm AI nổi bật nhất ngồi trong một ngôi nhà nông thôn ở Scotland, đồng ý tối thiểu rằng các cổ phần là tồn tại, cuộc trò chuyện về ai kiểm soát AI và vì lợi ích của ai, đã chuyển sang giai đoạn mở.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →