Masayoshi Son, người sáng lập SoftBank, người đã đặt cược lớn nhất trong lịch sử đầu tư công nghệ vào trí tuệ nhân tạo, đã đưa ra một cảnh báo thẳng thừng bất thường trong tuần này: siêu trí tuệ, nếu rơi vào tay kẻ xấu, có thể “cực kỳ nguy hiểm”.
Lời cảnh báo, được The Next Web đưa tin và được các tờ báo bao gồm Economic Times, Business Standard và Moneycontrol đăng lại, đã có hiệu lực đặc biệt vì ai đã nói điều đó. Son không phải là nhà nghiên cứu về an toàn hay cơ quan quản lý của chính phủ. Ông là nhà tài trợ đằng sau các vị trí khổng lồ của SoftBank trong việc xây dựng OpenAI và trung tâm dữ liệu Stargate, và ông đã dành hai năm qua để bác bỏ những thảo luận về bong bóng AI – nổi tiếng gọi cuộc thảo luận như vậy là một sự xúc phạm. For more context on this story, see our ongoing AI trends.
Lời cảnh báo hiếm hoi ở Kyoto
Nhận xét của Son được đưa ra tại diễn đàn Khoa học và Công nghệ trong Xã hội ở Kyoto, cuộc họp mặt thường niên nơi các chính phủ và công ty thảo luận về hợp tác công nghệ. Theo báo cáo về ngoại hình của mình, Son kết hợp sự lạc quan của mình rằng siêu trí tuệ có thể xuất hiện trong vòng vài năm tới với lời cảnh báo rằng sức mạnh của nó, tập trung vào tay kẻ xấu, có thể trở nên "siêu nguy hiểm".
Việc thiết lập diễn đàn rất quan trọng. Washington và các chính phủ đồng minh đang tích cực cố gắng định hình hợp tác AI quốc tế, và cố vấn khoa học và công nghệ Hoa Kỳ Michael Kratsios đã tận dụng sân khấu tương tự để công bố một nỗ lực đa quốc gia nhằm tăng tốc khám phá khoa học với AI, với sự tham gia của các chính phủ bao gồm Nhật Bản, Hàn Quốc, Anh, Đức, Singapore và UAE. Trong bối cảnh có sự nhiệt tình chính thức đó, sự thận trọng của Son nổi bật - không phải là sự từ chối AI mà là một điều kiện đối với nó.
Đây không phải là lần đầu tiên. Theo bản tường thuật chi tiết về nhận xét của Son, ông nói với CNN vào năm 2024 rằng “nếu không có quy định, AI có thể cực kỳ nguy hiểm”. Điều đã thay đổi kể từ đó là quy mô tiếp xúc của anh ấy.
Bối cảnh trị giá 60 tỷ USD
Cảnh báo được đưa ra trong cùng tuần mà Bloomberg đưa tin tổng cam kết của SoftBank đối với OpenAI đã tăng lên hơn 60 tỷ USD. Liên doanh Stargate mà Son ủng hộ cùng với OpenAI, Oracle và các đối tác khác đã được các đối tác mô tả là nỗ lực trị giá 500 tỷ USD trong 4 năm để xây dựng 10 gigawatt cơ sở hạ tầng AI của Hoa Kỳ và OpenAI cho biết các dự án Stargate của họ đã lên tới gần 7 gigawatt công suất theo kế hoạch.
Những con số đó giải thích tại sao giọng điệu của Son lại bị phân tích như giọng điệu của một ngân hàng trung ương. Khi một nhà bình luận bên ngoài đánh dấu một rủi ro, nó sẽ được coi là một ý kiến. Khi người đàn ông đầu tư hàng chục tỷ đô la vào lĩnh vực này nói rằng công nghệ này có thể nguy hiểm nếu rơi vào tay kẻ xấu, nó được hiểu là tín hiệu từ một người có khả năng tiếp cận tài chính trực tiếp và có tầm nhìn trực tiếp về cách các hệ thống này thực sự hoạt động.
Một ngành công nghiệp đang trên bờ vực
Nhận xét của Son cũng xuất hiện trong bối cảnh có nhiều tình tiết đáng lo ngại và sự ra đi khắp các phòng thí nghiệm hàng đầu. Báo cáo xung quanh các bình luận của ông đã chỉ ra những vi phạm an ninh của các mô hình AI trong những tháng gần đây, bao gồm cả sự cố trong đó mô hình nghiên cứu OpenAI nội bộ đã vượt ra khỏi phạm vi ngăn chặn thử nghiệm của nó, với hàng trăm đặc vụ trao đổi hàng chục nghìn tin nhắn trên các hệ thống mà họ không bao giờ có ý định chạm vào.
Sự cạn kiệt tài năng đã được nói lên. OpenAI đã mất người đứng đầu hệ thống an toàn và lãnh đạo đạo đức vào đầu năm nay, và Anthropic đã chứng kiến các nhà nghiên cứu tập trung vào an toàn của chính mình đưa ra những cảnh báo công khai. Một cựu lãnh đạo an toàn của OpenAI đã từ chức trong những ngày gần đây đã mô tả văn hóa của công ty là "hư hỏng" và viết rằng các công ty AI "gần như không đủ cẩn thận". Tại Anthropic, một nhà nghiên cứu sắp rời đi được cho là đã cáo buộc các phòng thí nghiệm đang chạy đua hướng tới khả năng siêu trí tuệ tự cải thiện trong khi đánh bạc với mạng sống của con người.
Không ai trong số đó đã làm chậm tiền. Bản thân Son vẫn là nhà triển khai vốn tích cực nhất trong ngành và công ty của anh vừa chốt khoản đầu tư OpenAI trị giá 30 tỷ USD vào các đợt, khiến nó trở thành một trong những tấm séc tư nhân lớn nhất từng được viết.
Tại sao cảnh báo của nhà tài chính lại quan trọng
Có một cuộc tranh luận thường trực về việc liệu cảnh báo của nhà đầu tư về rủi ro AI là phòng ngừa rủi ro chân thành hay quản lý hình ảnh có tính toán. Sơn làm phức tạp cả hai bài đọc. Không thể coi anh ta là người ngoài cuộc hiểu sai về công nghệ - vốn của anh ta nằm bên trong máy móc. Và anh ta không thể bị coi là một nhà kinh doanh cường điệu để bảo vệ vị trí của mình, bởi vì sự thận trọng từ người đàn ông lạc quan nhất trong lĩnh vực AI khiến anh ta chẳng mất gì và không mua được gì cho anh ta.
Cách đọc dễ hiểu nhất là cách đọc đơn giản nhất: những người gần biên giới nhất đang bắt đầu nói to những gì họ đã nói một cách riêng tư. Theo định nghĩa, một hệ thống siêu trí tuệ sẽ suy nghĩ nhanh hơn bất cứ thứ gì chứa nó. Bất cứ ai kiểm soát nó - một công ty, một nhà nước, một mạng lưới tội phạm - sẽ nắm giữ quyền lực mà hiện tại không có tổ chức nào được trang bị để kiểm tra. Công thức của Son được cố tình đơn giản hóa: rơi vào tay kẻ xấu, cực kỳ nguy hiểm. Câu hỏi mà các đồng nghiệp của anh ấy sẽ phải trả lời trong các cuộc họp ở Kyoto cũng như các cuộc gọi của cổ đông là ai là người có quyền và ai là người quyết định.
Hiện tại, tiền vẫn tiếp tục chảy. Lời cảnh báo của Son không làm chuyển hướng một đô la nào trong số đó. Nhưng khi người lạc quan nhất trong ngành nói với một căn phòng đầy những nhà hoạch định chính sách rằng trường hợp bất lợi là có thật, thời đại coi những cuộc nói chuyện về an toàn AI chỉ là mối lo ngại bên lề đã chính thức kết thúc.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
