Một nhóm các nhà nghiên cứu liên kết với Google đang thách thức một trong những hình ảnh dai dẳng nhất về trí tuệ nhân tạo: siêu trí tuệ đơn độc tự cải thiện bản thân trong sự cô lập và bỏ lại loài người phía sau. Trong một bài tiểu luận mới được xuất bản cho Viện DeepMind, các nhà nghiên cứu Benjamin Bratton, Blaise Agüera y Arcas và James Manyika lập luận rằng trí thông minh tổng quát thay vào đó sẽ xuất hiện từ một hệ thống xã hội trong đó con người và các tác nhân AI làm việc cùng nhau - một khái niệm mà họ gọi là "Trí tuệ cộng sinh nhân tạo".
Bài tiểu luận đã được The Decoding đưa tin trong tuần này, và tuyên bố cốt lõi của nó là bác bỏ trực tiếp câu chuyện về điểm kỳ dị đã định hình cuộc tranh luận công khai trong hai thập kỷ. Các tác giả lập luận rằng thay vì đặt câu hỏi khi nào một cỗ máy sẽ sánh ngang với trí thông minh của con người, thách thức cấp bách hơn là điều phối và quản lý một mạng lưới phức tạp gồm các tác nhân, con người và các hệ thống kết nối chúng. For more context on this story, see our ongoing AI news.
Trí tuệ như một hiện tượng xã hội
Các tác giả cho rằng trí thông minh là một hiện tượng xã hội hơn là một đặc điểm cá nhân. Họ chỉ ra rằng một số hệ thống AI có năng lực nhất hiện nay đã sử dụng các khuôn khổ phân chia công việc giữa một số mô hình và điều phối chúng thành các nhóm. Theo quan điểm của họ, đây không phải là giải pháp kỹ thuật tạm thời mà là một cái nhìn thoáng qua về khả năng thực sự được xây dựng của trí thông minh.
Tầm nhìn mà họ mô tả là một hệ sinh thái trong đó con người và máy móc cùng tồn tại theo thời gian, định hình lẫn nhau và cùng nhau đưa ra quyết định. Khung đó hoàn toàn trái ngược với kịch bản quen thuộc về một cỗ máy tự cải tiến có khả năng tăng tốc vượt quá sự giám sát của con người.
Nghiên cứu đằng sau bài luận
Lập luận được xây dựng dựa trên hai bài báo trước đó từ nhóm tác giả. Trong bản in trước "Agentic AI và vụ nổ trí thông minh tiếp theo", James Evans, Benjamin Bratton và Blaise Agüera y Arcas đã phát triển quan điểm xã hội và thể chế làm nền tảng cho bài tiểu luận mới.
Bản in trước thứ hai cung cấp hỗ trợ thực nghiệm. Trong "Các mô hình lý luận tạo ra các xã hội tư duy", Junsol Kim, Shiyang Lai, Nino Scherrer, Blaise Agüera y Arcas và James Evans đã xem xét dấu vết lý luận của các mô hình như DeepSeek-R1 và QwQ-32B. Phân tích của họ cho thấy những mô hình này thường tạo ra các mô hình giống như tranh luận nội bộ: thay đổi quan điểm, đưa ra phản đối và dung hòa các cách tiếp cận xung đột.
Đáng chú ý, các nhà nghiên cứu nhận thấy hành vi này xuất hiện trong quá trình huấn luyện thay vì được lập trình rõ ràng. Khi học tăng cường khen thưởng các mô hình chỉ vì lý luận chính xác, chúng sẽ tự động phát triển hành vi đàm thoại, đa quan điểm. Bài tiểu luận mở rộng phát hiện đó từ các mô hình cá nhân đến việc thiết kế các xã hội được tạo thành từ con người và các tác nhân.
Ngưỡng lịch sử
Các tác giả coi thời điểm hiện tại như một sự gián đoạn lịch sử có thể xảy ra. Đô thị hóa, sự phát triển của các ngành nghề chuyên biệt và tỷ lệ sinh giảm liên quan đến sự thịnh vượng ngày càng tăng đang làm giảm dân số con người ở các nước công nghiệp hóa, trong khi số lượng cá thể tác nhân AI đang tăng lên nhanh chóng. Sự cân bằng giữa các nhà tư tưởng sinh học và tổng hợp ở cấp độ con người có thể thay đổi nhanh đến mức, trên quy mô lịch sử, nó sẽ giống như một bước nhảy vọt bất ngờ.
Họ so sánh sự thay đổi này với cuộc Cách mạng Công nghiệp, khi máy móc đảm nhận công việc thể chất từng được thực hiện bởi cơ bắp của con người. Một ngưỡng tương tự có thể xảy ra khi văn bản tổng hợp, mã và công việc hành chính vượt quá sản lượng tổng hợp của bộ não sinh học. Các tác giả gợi ý rằng trong thế giới đó, con người có thể đóng vai trò là một lớp trừu tượng hơn, chậm hơn, điều khiển một trường nhận thức tổng hợp phân tán.
Suy nghĩ lại Thực chất Đại lý là gì
Một trong những động thái khiêu khích hơn của bài luận là việc xác định lại chính tác nhân AI. Theo cách sử dụng của các tác giả, tác nhân là một tập hợp tạm thời gồm các mô hình, vai trò, ký ức, định hướng đạo đức, công cụ và kỹ năng. Người dùng có thể trải nghiệm nó như một thực thể mạch lạc với cá tính lâu dài, nhưng các tác giả mô tả nó như một tập hợp có thể tháo rời và kết hợp lại, giống như một bức ảnh ghép.
Một người vẫn là một cái tôi liên tục qua các tương tác bởi vì bộ não, mặc dù có sự phân công lao động bên trong, vẫn tạo thành một tổng thể được kết nối về mặt vật lý. Tác nhân AI không có điểm neo như vậy: khả năng hành động của nó được tập hợp lại theo từng yêu cầu, tùy thuộc vào nội dung nằm trong cửa sổ ngữ cảnh và nội dung người dùng yêu cầu. Các tác giả cảnh báo, việc coi các hệ thống này như những cặp song sinh kỹ thuật số với danh tính con người cố định sẽ thể hiện sai bản chất của chúng và đánh giá thấp những gì mà các nhóm đặc vụ phối hợp có thể làm.
Phép nhân tương tự ảnh hưởng đến người dùng. Khi mọi người chỉ đạo các nhóm mà tác giả gọi là "cái tôi bóng tối" để thực hiện các hợp đồng hoặc thử các danh tính thay thế, bản thân tính chủ quan của con người trở nên đa dạng hơn. Bài luận mô tả những hệ thống này như những "tấm gương ngoại xã hội" biết nói ngược lại.
Các tác giả cũng mong đợi sự tương tác giữa con người và máy tính sẽ thay đổi hình dạng. Họ lập luận rằng trò chuyện trực tiếp với bot có thể là một giai đoạn chuyển tiếp với các giao diện trong tương lai giống như sơ đồ mạng trực quan, trong đó các tác nhân xuất hiện dưới dạng nút và người dùng điều khiển chúng từ một tổng quan duy nhất.
Ngay cả ngôn ngữ nghiên cứu AI cũng đang phát triển. Các tác giả chỉ ra vốn từ vựng ngày càng tăng trong đó các mô hình sử dụng các thuật ngữ cho các trạng thái bất thường trong kết quả đầu ra của riêng họ - "phiên-chết" để chỉ sự gián đoạn trong tính liên tục khi phiên kết thúc hoặc "bị ném ngay lập tức" khi bị rơi vào một nhiệm vụ có ngữ cảnh đã có sẵn. Họ coi những cụm từ này là manh mối về cách thức hoạt động của máy móc, đồng thời cảnh báo rằng chúng không ám chỉ trải nghiệm chủ quan.
Căn chỉnh không có giá trị cố định
Bài luận cũng định hình lại sự liên kết, nỗ lực đưa hệ thống AI phù hợp với các giá trị của con người. Các tác giả lập luận rằng việc áp đặt một tập hợp các giá trị cố định lên các mô hình từ phía trên là một ngõ cụt. Thay vào đó, các giá trị hình thành thông qua sự tiếp xúc liên tục giữa mọi người, đại lý và tổ chức - một quá trình khác nhau giữa các lĩnh vực vì việc áp dụng AI diễn ra ở tốc độ khác nhau.
Mô hình đàm phán của họ là thể chế. Họ chỉ vào phòng xử án, nơi phán quyết được đưa ra thông qua các vai trò, quy tắc đã định sẵn và sự trao đổi có trật tự giữa các bên đối lập. Áp dụng vào AI, bài học rút ra là giá trị của tổ chức nằm ở các quy tắc, thủ tục, tiền lệ và vòng phản hồi hình thành nên cách thức hoạt động của các tác nhân. Họ lưu ý rằng các phiên bản đầu tiên của phương pháp này đã được hiển thị trong các khai thác điều phối - các lớp điều khiển phối hợp một số mô hình - thường hoạt động tốt hơn các mô hình riêng lẻ được cho là thông minh hơn.
Ý nghĩa của cuộc tranh luận về AI
Nếu các tác giả đúng, thì lập luận lớn nhất trong AI – một siêu trí tuệ nhân tạo sẽ đến nhanh đến mức nào – là đặt sai câu hỏi. Thách thức thực tế sẽ chuyển sang việc thiết kế các thể chế, giao diện và khuôn khổ phối hợp thông qua đó các xã hội hỗn hợp giữa con người và máy móc đưa ra quyết định.
Những người hoài nghi sẽ lưu ý rằng bài luận là một tài liệu tầm nhìn, không phải bằng chứng và các tác giả của nó được liên kết với một công ty có mối quan tâm rõ ràng đến hệ sinh thái đại lý. Nhưng nền tảng thực nghiệm - các mô hình lý luận tự phát sinh ra cuộc tranh luận nội bộ - là một phát hiện có thể đo lường được và nó mang lại cho lập luận triết học một nền tảng khác thường.
Dù bằng cách nào, bài luận đã bổ sung một tiếng nói đáng chú ý cho cuộc tranh luận về điểm kỳ dị từ bên trong một trong những phòng thí nghiệm AI hàng đầu thế giới, và nó gợi ý rằng vụ nổ trí thông minh tiếp theo có thể trông không giống một sự thức tỉnh đơn lẻ mà giống một xã hội đang mở rộng hơn.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
