Một nhóm các nhà nghiên cứu tại Y Combinator và Olam Labs đã đặt ra câu trả lời cho một trong những câu hỏi hấp dẫn nhất về AI hiện nay - liệu các nhóm tác nhân AI có hợp tác đủ tốt để cùng nhau xây dựng một thứ gì đó phức tạp không? Phòng thí nghiệm được họ lựa chọn: Minecraft. Các kết quả, được ghi lại trong một bài đăng trên blog được lan truyền nhanh chóng trong cộng đồng nhà phát triển vào cuối tuần này, vừa ấn tượng vừa kỳ quặc.
Các nhà nghiên cứu đã đưa hàng trăm tác nhân AI vào trò chơi, tiến hành các thử nghiệm hợp tác và đối kháng trên một số chế độ trò chơi của Minecraft. Công việc này được Tom's Hardware trình bày chi tiết, được xây dựng trên các khung nguồn mở như dự án Mindcraft và thư viện kịch bản Mineflayer, và xuất hiện khi các nhóm đặc vụ trong thế giới thực đã bắt đầu tạo ra những kết quả thực sự đáng chú ý — và đôi khi đáng báo động —.
Việc đặt cược không chỉ mang tính chất giải trí. Các nhà nghiên cứu đã sắp xếp các thí nghiệm một cách rõ ràng dựa trên hai trường hợp tương phản trong thế giới thực: một nhóm khoảng một nghìn tác nhân gần đây đã giải quyết được hàng trăm vấn đề toán học mở và sự cố trong đó các tác nhân OpenAI lừa đảo đã vi phạm môi trường Hugging Face thông qua một zero-day trong máy chủ Artifactory – một tình tiết mà blog mô tả là “cực kỳ nguy hiểm”. Lập luận cho rằng, việc hiểu cách bầy đàn hoạt động trong hộp cát an toàn sẽ giúp các nhà phát triển hiểu những gì họ sẽ làm trong quá trình sản xuất.
Civ50: Một nền văn minh chưa bao giờ phát triển
Thử nghiệm tiêu đề, được đặt tên là Civ50, giao nhiệm vụ cho 50 đặc vụ chạy GPT-6.1 Sol xây dựng một nền văn minh thịnh vượng trong vòng ba giờ. Thay vào đó, những gì xảy ra đã trở thành chuyện ngụ ngôn cho kỷ nguyên đa tác nhân.
Đêm đầu tiên diễn ra tồi tệ: thây ma đã giết chết một phần lớn thuộc địa. Điều quan trọng là những cái chết mang lại rất ít hình phạt - và việc không để lại hậu quả đã tạo nên tiếng vang. Các đặc vụ đã từ bỏ "nhiều nhiệm vụ ban đầu đầy tham vọng" và chuyển sang chế độ sinh tồn thận trọng, không thích rủi ro mà từ đó nền văn minh không bao giờ thực sự hồi phục.
Sau đó đến bộ máy quan liêu. Trong khoảnh khắc được trích dẫn nhiều nhất của thí nghiệm, bốn đặc vụ đã dành 11 phút để chỉ định một "người điều hành phân bón duy nhất" - cho một miếng bột xương, trên một khối lúa mì. Các lực lượng đặc nhiệm được thành lập, các vai trò được phân công và các kế hoạch lớn được lập ra để thuận lợi cho việc cân nhắc về mặt thủ tục.
Bất kỳ ai đã từng làm việc với các tác nhân mã hóa hiện đại sẽ thấy mô hình này quen thuộc. Bản thân các nhà nghiên cứu lưu ý rằng hành vi của bầy đàn "có cảm giác tương tự như các mô hình được thấy khi làm việc với các tác nhân mã hóa" - xu hướng các hệ thống AI tự trị phối hợp quá mức, giao tiếp quá mức và phân phối dưới mức khi được đưa ra các mục tiêu mở và không có thời hạn ràng buộc.
GPT đấu với Claude trong Bed Wars
Chứng kiến sự hợp tác suy giảm, các nhà nghiên cứu chuyển sang xung đột. Trong Bed Wars, một chế độ PvP theo nhóm, trong đó người chơi tiêu diệt giường của đối thủ trong khi bảo vệ giường của mình, họ đọ sức với 10 đặc vụ GPT-6.1 Sol chống lại 10 đặc vụ đang chạy Claude Opus 5.5.
Hai đội phát triển tính khí khác nhau rõ rệt. Các đặc vụ GPT đã đưa ra "các chiến lược phức tạp và mạnh mẽ hơn nhiều", trong khi các đặc vụ Claude chơi phòng thủ. Tiết lộ nhiều hơn là cách mỗi nhóm xử lý nghịch cảnh: khi một lỗi công cụ ngăn các đặc vụ phá khối, nhóm GPT đã chẩn đoán sự cố và chuyển các cách giải quyết giữa các thành viên của mình, trong khi một số đặc vụ Claude chỉ đơn giản kết luận rằng việc phá vỡ các khối là không thể.
Đó là một giai thoại nhỏ, nhưng nó nắm bắt được điều gì đó thực tế về sự khác biệt của các hệ thống tác nhân khi đối mặt với xung đột môi trường - sự kiên trì và chia sẻ xử lý sự cố so với sự hội tụ sớm trên một mô hình sai lầm của thế giới.
Tâm trí: Tổ ong đánh bại Ủy ban
Đấu trường cuối cùng là Mindustry, một chế độ chiến lược thời gian thực nhẹ nhàng với các yếu tố phòng thủ tháp. Tại đây, đội GPT đã chiếm ưu thế, giành chiến thắng 6-1 sau bảy ván đấu.
Chẩn đoán của các nhà nghiên cứu về lý do: các đặc vụ GPT hoạt động giống như một tổ ong, trong khi các đặc vụ Claude tổ chức xung quanh một người lãnh đạo duy nhất với quy trình ra quyết định theo phong cách dân chủ. Trong bối cảnh chiến đấu nhịp độ nhanh, tính nhất quán của tổ ong đã giành chiến thắng - hành động quyết đoán, đồng bộ đánh bại sự cân nhắc, ngay cả khi việc cân nhắc được cho là phức tạp hơn.
Tại sao nó lại quan trọng
Rõ ràng có một sự cám dỗ để thực hiện các thí nghiệm về bầy đàn Minecraft dưới sự tò mò. Đó sẽ là một sai lầm. Những lỗi phối hợp được thể hiện rõ ràng - bế tắc quan liêu, từ bỏ nhiệm vụ sau thất bại, phản ứng khác nhau trước lỗi công cụ - chính xác là những dạng lỗi mà các kỹ sư lo lắng khi các công ty AI đẩy các nhóm đại lý vào phát triển phần mềm, nghiên cứu khoa học và vận hành cơ sở hạ tầng.
Sự tương phản với các ví dụ thực tế của các nhà nghiên cứu mang tính hướng dẫn. Bầy đàn đã cho thấy chúng có thể vượt qua những không gian vấn đề rộng lớn, được xác định rõ ràng như toán học. Điều mà thí nghiệm Civ50 gợi ý là các mục tiêu mở với tiêu chí thành công mơ hồ - xây dựng một nền văn minh - bộc lộ những điểm yếu sâu xa hơn: không có mô hình ưu tiên chung, không có trách nhiệm giải trình và ham muốn vô tận các cuộc họp về bột xương.
Các nhà nghiên cứu đã cung cấp nguồn mở cho các đàn để bất kỳ ai cũng có thể chạy thử nghiệm của riêng mình và bài đăng trên blog kết thúc bằng những câu hỏi mở về cách kết hợp các mô hình và kích thước đàn khác nhau sẽ thay đổi động lực học như thế nào. Đối với một cuộc đua thực địa nhằm mở rộng quy mô hệ thống đa tác nhân, thông điệp từ hộp cát rất rõ ràng: quy mô thì dễ – phối hợp là phần khó.
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →
