Các cuộc đàm phán về các quy tắc khả thi đối với vũ khí tự động gây chết người - còn được gọi là "robot sát thủ" - đang được tiến hành tại Liên Hợp Quốc ở Geneva, tại một hội nghị mà những người ủng hộ kiểm soát vũ khí mô tả là cơ hội thực tế cuối cùng để thiết lập ranh giới trước khi công nghệ vượt xa hoàn toàn ngoại giao. Các cuộc đàm phán đang diễn ra tại hội nghị tuần này của Liên hợp quốc về một số loại vũ khí thông thường (CCW), một diễn đàn chỉ triệu tập ở cấp độ này 5 năm một lần.

Sự cấp bách không phải là giả thuyết. Công nghệ chiến tranh đã phát triển nhanh chóng trong những năm gần đây và một số chuyên gia hiện cảnh báo thế giới chỉ còn vài tháng nữa là có loại vũ khí có thể chọn mục tiêu và đưa ra quyết định tiêu diệt mà không cần có con người tham gia. Ở Ukraine và Gaza, vũ khí hỗ trợ AI đã được sử dụng để tấn công các mục tiêu, và thường dân Ukraine cho biết họ đã bị máy bay không người lái “săn lùng” khi đang đi mua sắm hoặc đi bộ đến trường. Những hệ thống đó vẫn được con người điều khiển từ xa - nhưng khoảng cách giữa điều khiển từ xa và khả năng tự chủ hoàn toàn đang ngày càng thu hẹp lại. Để độc giả theo dõi tốc độ phát triển của lĩnh vực này, vũ khí AI và đạo đức của chúng tôi sẽ theo dõi mọi diễn biến.

Tại sao các nhà vận động gọi đây là 'Cơ hội tốt nhất cuối cùng'

Những người ủng hộ việc kiểm soát vũ khí tự động cho rằng cuộc họp CCW tuần này là cơ hội cuối cùng để thống nhất các quy tắc trong khi công nghệ này vẫn ở giai đoạn bán tự trị. Họ cho rằng một khi vũ khí có khả năng lựa chọn và tấn công các mục tiêu một cách độc lập được triển khai trên quy mô lớn, việc đàm phán kiềm chế sẽ trở nên khó khăn hơn đáng kể - các quốc gia sẽ tích hợp các hệ thống này vào kho vũ khí và học thuyết của họ.

Sức nặng đạo đức đằng sau các cuộc đàm phán rộng lớn một cách bất thường. Trước cuộc họp, Liên hợp quốc, Ủy ban Chữ thập đỏ quốc tế và Giáo hoàng đều kêu gọi các quy tắc ràng buộc về mặt pháp lý. Tổng thư ký LHQ Antonio Guterres cảnh báo rằng việc cho phép sử dụng vũ khí tự động hoàn toàn để giết người sẽ "vượt qua ranh giới đỏ về mặt đạo đức".

Vụ án nhân đạo: Trách nhiệm phải là con người

Các tổ chức nhân đạo cho rằng quyết định giết người - và trách nhiệm về lựa chọn đó - phải nằm trong tay con người. Hội Chữ Thập Đỏ đặc biệt lo ngại rằng các quy tắc chiến tranh hiện hành, được quy định trong Công ước Geneva, không thể được các hệ thống tự trị tôn trọng một cách đáng tin cậy. Chiến tranh diễn ra hỗn loạn và diễn ra nhanh chóng, và các Công ước bảo vệ những người lính bị thương hoặc tích cực đầu hàng khỏi bị nhắm mục tiêu.

Georgia Haines, cố vấn pháp lý của Hội Chữ Thập Đỏ, cho biết: “Rủi ro là, dựa trên công nghệ mà chúng tôi đang thấy, họ không thể hiểu được tín hiệu theo ngữ cảnh theo cách giống như con người”. "Và do đó, rủi ro là cực kỳ cao sẽ xảy ra việc xác định sai mục tiêu."

Các nhóm nhân quyền bổ sung thêm khía cạnh kinh tế cho mối nguy hiểm: công nghệ đằng sau vũ khí hỗ trợ AI đang trở nên rẻ và dễ sử dụng. Việc quân đội các quốc gia áp dụng nó càng rộng rãi thì nguy cơ phổ biến rộng rãi đối với các nhóm khủng bố hoặc đối với các cơ quan thực thi pháp luật trong các chế độ đàn áp càng lớn. Về lý thuyết, một đàn máy bay không người lái tự động có thể được lập trình để tấn công tất cả những người mặc quần áo có màu sắc cụ thể hoặc mang theo một tấm áp phích cụ thể – sự phân biệt đối xử ở quy mô mà luật chiến tranh chưa bao giờ được thiết kế để xử lý.

Phòng phân chia: Hơn 50 tiểu bang so với ba tiểu bang lớn

Ít nhất 50 quốc gia – bao gồm Ireland, Ý, Brazil, Mexico, Pháp và Đức – đang kêu gọi một thời gian biểu chặt chẽ để thống nhất các quy tắc ràng buộc quản lý vũ khí tự động. Nhiều quốc gia hiện đang họp ở Geneva coi trọng các vấn đề nhân đạo và muốn tiến trình này được tuân thủ theo luật pháp quốc tế.

Nhưng trong số các quốc gia đã phát triển và triển khai vũ khí bán tự động, có sự phản đối mạnh mẽ. Hoa Kỳ, Nga và Israel đã cho biết họ sẽ phản đối các quy tắc ràng buộc về mặt pháp lý. Đề xuất ngược lại của Washington: thay vào đó là thời gian biểu 5 năm để soạn thảo các hướng dẫn không mang tính ràng buộc.

Lập trường của Hoa Kỳ phản ánh sự hoài nghi rộng rãi hơn về các hiệp ước

Lập trường của Mỹ nhất quán với một khuôn mẫu lâu dài: Mỹ có truyền thống là nước ký kết muộn các hiệp ước quốc tế. Nước này chưa bao giờ phê chuẩn Công ước Ottawa về bom mìn, mặc dù theo thời gian nước này đã ngừng triển khai chúng và giảm lượng dự trữ. Dưới thời Tổng thống Trump, những nghi ngờ về luật pháp quốc tế ngày càng rõ ràng hơn - Washington đã áp đặt các biện pháp trừng phạt sâu rộng đối với Tòa án Hình sự Quốc tế, và cuối tuần này Ngoại trưởng Marco Rubio, trong bài phát biểu quan trọng trước Hiệp hội Liên bang, đã cảnh báo không nên “trích dẫn luật cho những người cầm kiếm”.

Quy tắc đồng thuận và lịch sử giải pháp

Một vấn đề mang tính cơ cấu vẫn tồn tại trong các cuộc đàm phán ở Geneva: Các cuộc đàm phán của Liên hợp quốc về việc hạn chế các loại vũ khí cụ thể được cho là sẽ tiến hành bằng sự đồng thuận. Cơ chế đó đã tạo ra một thỏa thuận mang tính bước ngoặt – lệnh cấm sử dụng tia laser làm chói mắt năm 1995 – nhưng hầu hết các nỗ lực khác đều thất bại. Với vấn đề bom mìn, các quốc gia thất vọng vì tiến trình chậm chạp của Liên hợp quốc cuối cùng đã tiến hành đàm phán hoàn toàn bên ngoài tổ chức này, tạo ra Công ước Ottawa.

Các nhà ngoại giao đang đưa ra một thỏa hiệp có thể xảy ra trong tuần này: một thời gian đàm phán dài hơn, hoặc thậm chí mở, để phát triển các quy tắc mà các quốc gia riêng lẻ sau đó có thể áp dụng là ràng buộc hoặc không ràng buộc. Đối với những người ủng hộ, đó là một cách để đảm bảo ít nhất một số tiến bộ. Đối với các nhà vận động, điều đó thật thiếu sót - người ta ví cách tiếp cận này giống như việc đá một chiếc lon rất nguy hiểm xuống đường.

Điều gì xảy ra tiếp theo

Nếu hội nghị kết thúc với một nhiệm vụ không giới hạn, thì hiệu quả thực tế là các giới hạn ràng buộc đối với vũ khí tự động sẽ lùi xa hơn trong tương lai, trong khi các mốc thời gian triển khai tiếp tục bị nén lại. Các chính phủ, quân đội và các công ty khởi nghiệp quốc phòng sẽ theo dõi chặt chẽ Geneva trong tuần này - bởi vì dù sự đồng thuận đi đến đâu, nó sẽ xác định bối cảnh pháp lý cho vũ khí tự động trong nhiều năm tới.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →