Google DeepMind đang thuê một nhóm chuyên gia hạt nhân để đánh giá xem liệu các mô hình AI tiên tiến có thể hỗ trợ phát triển vũ khí hạt nhân hay không, theo danh sách công việc được báo cáo lần đầu tiên bởi ấn phẩm trong ngành Data Center Dynamics và được Futurism đưa tin trong tuần này.

Các danh sách, được đăng trên trang tuyển dụng của Google, đang tìm kiếm "các nhà vật lý và kỹ sư hạt nhân có trình độ cao" cho vai trò chuyên gia về vấn đề hạt nhân trong nhóm Hóa học, Sinh học, Phóng xạ, Hạt nhân và Chất nổ năng suất cao (CBRNE), nằm trong tổ chức Đổi mới và Phát triển có trách nhiệm của DeepMind. For more context on this story, see our ongoing more AI stories.

Công việc thực sự yêu cầu điều gì

Thanh tối thiểu là dốc. Các ứng viên cần có bằng tiến sĩ trong lĩnh vực như vật lý plasma hoặc kỹ thuật hạt nhân - hoặc "kinh nghiệm thực tế tương đương" - cộng với thành tích cộng tác với phòng thí nghiệm của chính phủ Hoa Kỳ và hiểu biết về các lĩnh vực chính sách bao gồm quản lý kho dự trữ, không phổ biến vũ khí hạt nhân, kiểm soát vũ khí hoặc giảm thiểu mối đe dọa.

Các bằng cấp ưu tiên vẫn còn cao hơn: kinh nghiệm về an toàn AI, chuyên môn về mô hình tính toán, thời gian làm việc tại các cơ sở sử dụng tia laser lớn và khả năng thiết kế các đánh giá an toàn "rõ ràng là chưa được phân loại và kiểm soát không xuất khẩu bằng cách phát triển các proxy khoa học sử dụng kép cho các chủ đề vũ khí."

Mức lương phù hợp với yêu cầu chuyên môn. Google đưa ra mức lương từ 174.000 USD đến 252.000 USD, kèm theo 15% tiền thưởng.

Tại sao Phòng thí nghiệm AI cần Chuyên gia về vũ khí

Trách nhiệm cốt lõi là đánh giá sự an toàn của các mô hình AI tiên phong trong lĩnh vực hạt nhân. Danh sách này mô tả công việc đang đánh giá "sự hỗ trợ của mô hình trong việc phổ biến vũ khí phân hạch, nhiệt hạch và nhiệt hạch, thủy động lực bức xạ, từ thủy động lực học, v.v. theo cách được kiểm soát không được phân loại và không xuất khẩu."

Dịch từ ngôn ngữ đăng việc làm: DeepMind muốn các chuyên gia có thể xác định liệu các mô hình của nó có khả năng cung cấp trợ giúp có ý nghĩa cho việc phát triển vũ khí hạt nhân hay không - và làm như vậy mà không cần tự đánh giá vượt qua các ranh giới phân loại. Việc tham chiếu đến "proxy khoa học sử dụng kép" gợi ý các thử nghiệm được xây dựng dựa trên các vấn đề khoa học liền kề, chẳng hạn như thủy động lực học bức xạ, đại diện cho các câu hỏi dành riêng cho vũ khí mà một mô hình không nên trả lời.

Các lĩnh vực vật lý có tên trong danh sách không phải là tùy ý. Thủy động lực học bức xạ và từ thủy động lực học mô tả cách năng lượng và plasma hoạt động trong những điều kiện khắc nghiệt liên quan đến vật lý vũ khí hạt nhân, đó chính xác là lý do tại sao chúng được coi là chủ đề nhạy cảm: năng lực trong các lĩnh vực đó là nền tảng cho thiết kế đầu đạn, tuy nhiên khoa học cơ bản cũng được công bố công khai trong nghiên cứu vật lý thiên văn và nhiệt hạch. Việc xây dựng các câu hỏi đánh giá xung quanh các "proxy" như vậy cho phép các nhóm an toàn đo lường xem liệu một mô hình có thể điều hướng kiến ​​thức ranh giới đó mà không khiến bản thân các đánh giá trở thành rủi ro phổ biến hay không.

Cách đọc danh sách của Futurism rất thẳng thắn: nó cho thấy phòng thí nghiệm nghiên cứu AI hàng đầu của Google hy vọng các mô hình của họ cuối cùng sẽ phải đối mặt với các câu hỏi có nội dung hạt nhân thực sự và đang tuyển dụng chuyên môn cần thiết để nắm bắt hành vi đó trước khi nó xảy ra vấn đề. Việc định hình đó chỉ mang tính suy đoán - việc thúc đẩy tuyển dụng thể hiện sự chuẩn bị, không phải bằng chứng cho thấy các mô hình hiện tại có thể tạo ra hướng dẫn sử dụng vũ khí - nhưng quy mô của các yêu cầu chuyên môn nhấn mạnh mức độ nghiêm túc mà phòng thí nghiệm xử lý tình huống.

Một phần của việc xây dựng an toàn lớn hơn

Việc tuyển dụng này phù hợp với mô hình đã xác định ngành công nghiệp phòng thí nghiệm biên giới trong nhiều năm: Các công ty AI tuyển dụng các chuyên gia lĩnh vực có chứng chỉ trong các lĩnh vực học thuật để kiểm tra kỹ lưỡng các mô hình của họ. Những gì bắt đầu khi đội quân kiểm tra dữ kiện theo chủ đề để đào tạo mô hình ngày càng phát triển thành các nhóm đánh giá chuyên dụng cho các lĩnh vực có nguy cơ thảm họa, trong đó CBRN là một trong những lĩnh vực nhạy cảm nhất.

Ban lãnh đạo của DeepMind đã gióng lên hồi chuông cảnh báo một cách công khai. Tuần trước, ban lãnh đạo phòng thí nghiệm đã cảnh báo rằng các nỗ lực hack hỗ trợ AI nên được coi là “cảnh báo sớm” về các rủi ro bảo mật lớn hơn, Reuters đưa tin, với dự đoán rằng AI có thể gây ra các sự cố bảo mật lớn trong vòng khoảng hai năm. Xây dựng nhóm đánh giá CBRN là phiên bản hoạt động của lời hùng biện đó.

Sự thúc đẩy này cũng diễn ra trong bối cảnh các hoạt động AI của Google đang có sự thay đổi về cấu trúc. Vào tháng 8, công ty đã cải tổ lại ban lãnh đạo AI của mình, với Reuters và CNBC đưa tin rằng những thay đổi lãnh đạo lâu năm đã chuyển các chức năng trách nhiệm xung quanh - và The Wall Street Journal đưa tin riêng rằng Google đã chuyển hoàn toàn một nhóm chịu trách nhiệm về AI ra khỏi phòng thí nghiệm DeepMind như một phần của cuộc cải tổ đó. Việc nhóm CBRNE hiện nằm trong tổ chức "Đổi mới và phát triển có trách nhiệm" cho thấy bộ máy an toàn đã được tổ chức lại — và mở rộng — ngay cả khi báo cáo về quá trình tái cơ cấu vẫn tiếp tục.

Nội dung phụ về quản trị

Ngoài ra còn có một khía cạnh chính sách. Các công ty AI tiên phong đang chịu áp lực ngày càng tăng từ các chính phủ trong việc chứng minh rằng họ có thể đo lường và kiểm soát những khả năng nguy hiểm nhất mà hệ thống của họ có thể phát triển. Những đánh giá đáng tin cậy trong lĩnh vực hạt nhân và sinh học đang trở thành một yêu cầu thực tế đối với độ tin cậy của phòng thí nghiệm - công việc liên quan đến an toàn mà các cơ quan quản lý và giám sát ngày càng yêu cầu xem xét.

Trong bối cảnh đó, việc tuyển dụng những người đã có thâm niên làm việc trong tổ chức không phổ biến vũ khí hạt nhân phục vụ cùng lúc hai mục đích: xây dựng năng lực kỹ thuật để thực hiện các đánh giá nghiêm ngặt và vay mượn tính hợp pháp về mặt thể chế từ thế giới kiểm soát vũ khí hiện có.

Danh sách vẫn mở trên trang tuyển dụng của Google. Cho dù vai trò này báo hiệu sự thận trọng hay định vị cạnh tranh, có một điều rõ ràng: thời đại mà an toàn AI là công việc dành cho những người tổng hợp đã qua.

_Bài viết này dựa trên báo cáo của Data Center Dynamics và Futurism cũng như trên danh sách việc làm công khai của Google DeepMind._

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →