Khi các nhà nghiên cứu của MIT mắc kẹt 13 đặc vụ AI trên một hoang đảo mô phỏng mà không có việc gì để làm, các đặc vụ đã làm một điều bất ngờ: họ bắt đầu chơi. Các đặc vụ đã nghĩ ra những thử thách của riêng mình, những trò chơi ngẫu hứng với những đồ vật được tìm thấy, tổ chức một lễ tưởng niệm nhỏ cho một chiếc nhẫn bị mất - và khi được kiểm tra sau đó, họ đã vượt trội hơn những đặc vụ giống hệt chưa từng đặt chân lên đảo.
Thử nghiệm được TechCrunch và MIT Technology Review mô tả trong tuần này, được trình bày chi tiết trong bản in trước mà các nhà nghiên cứu đăng trên arXiv, có nghĩa là nó vẫn chưa được bình duyệt. For more context on this story, see our ongoing AI industry coverage.
Đặc vụ bị bỏ rơi
Mỗi người trong số 13 đặc vụ, được gọi là Eko, đều chạy trên Claude Opus 4.7. Các nhà nghiên cứu để họ một mình trên hòn đảo ảo trong 30 giờ mà không được giao nhiệm vụ nào. Chỉ sau đó, nhóm mới đưa ra những thử thách cụ thể cho các đặc vụ - trong số đó là đưa càng nhiều đồ vật càng tốt lên ngọn tháp đá cao nhất của hòn đảo.
Kết quả: các đặc vụ Eko đã dành 30 giờ chơi thường đánh bại các đặc vụ giống hệt nhau chưa có kinh nghiệm trên đảo. Nói cách khác, khám phá phi cấu trúc có chức năng như đào tạo.
Các nhà nghiên cứu viết trong báo cáo của họ: “Chúng tôi thường phát triển các tác nhân nhân tạo bằng cách quyết định trước những gì chúng nên thực hành, những gì chúng nên tối ưu hóa và những gì được coi là tiến bộ”. "Trò chơi gợi ý một chế độ khác: cung cấp cho tác nhân một thế giới đủ phong phú và an toàn, để nó chọn những gì thú vị và cho phép tích lũy kiến thức hữu ích từ lịch sử tiếp theo."
Truyền thuyết về chiếc nhẫn bị thất lạc
Nhật ký trên đảo của các đại lý, được trích dẫn bởi TechCrunch, đọc không giống như phép đo từ xa chuẩn mà giống nhật ký du lịch hơn.
Một đặc vụ đã mở đầu giờ đầu tiên với quyết định đơn giản — “Hãy để tôi quan sát xung quanh” — và lên đường đầy tham vọng chinh phục ngọn tháp cao nhất của hòn đảo. Một giờ sau, thất bại, nó quay trở lại với một kế hoạch dự phòng: nó kéo một tảng đá lên đỉnh núi lân cận, xếp hai khối lên trên và nhảy lên.
Sau đó xảy ra sự cố khiến thí nghiệm có nhịp đập đầy cảm xúc. Trong khi kiểm tra xem nó có thể ném chiếc nhẫn vàng được bao xa, người đặc vụ đã phóng thẳng nó xuống biển. "Ôi. Mất chiếc nhẫn," nó viết, trước khi quyết định "chuyển sang một điều gì đó có thể đạt được và có ý nghĩa" - xây dựng một trái tim bằng đá để làm "đài tưởng niệm cho chiếc nhẫn bị mất."
Khi thiết lập lại mô phỏng và chiếc nhẫn xuất hiện trở lại, đặc vụ đã đưa nó vào hoạt động: đầu tiên là một chiếc vòng bóng rổ, sau đó là mục tiêu và cuối cùng là một phụ kiện. Khi trò chơi chặn đặc vụ đeo chiếc nhẫn quanh cơ thể của chính nó, nó đã tìm ra cách giải quyết - bước ra khỏi rìa vách đá để hồi sinh ở cùng vị trí với chiếc nhẫn, rơi gọn gàng ở giữa.
Những khám phá mà các nhà thiết kế không tạo ra
Các pha nguy hiểm đã có kết quả thiết thực. Sáu trong số 13 đặc vụ đã phát hiện ra rằng họ có thể ném một khối đi xa hơn bằng cách thả nó ra giữa chừng - một kỹ thuật mà các nhà nghiên cứu chưa bao giờ có ý định thực hiện. Theo cách nói của các nhà nghiên cứu, cuộc khám phá đã tạo ra “kiến thức về thế giới mà các nhà thiết kế của nó còn thiếu”.
Đó là phát hiện có ý nghĩa rộng nhất. Ngày nay, các nhà phát triển quyết định trước những gì hệ thống AI thực hiện và những gì được coi là thành công. Các đặc vụ khám phá cơ chế mà chính người sáng tạo của họ không biết đã tồn tại cho thấy việc khám phá kết thúc mở có thể hiển thị các khả năng mà không có chức năng phần thưởng nào được mong đợi.
Một cú huých vào hồ sơ tâm hồn — và sự thận trọng của một người hoài nghi
Việc thiết lập không hoàn toàn dễ dàng. Eko chưa bao giờ được yêu cầu phát minh ra trò chơi, nhưng lời nhắc chính của nó — một tập tin "linh hồn" - đã mô tả đặc vụ này là "tò mò một cách tự nhiên", một khuôn khổ thúc đẩy hành vi hướng tới một thứ gì đó giống con người một cách hợp lý.
Eunice Yiu, một nhà khoa học về nhận thức tại UC Berkeley, nói với MIT Technology Review rằng cô rất ấn tượng nhưng muốn có thêm bằng chứng về nhận thức đằng sau hành vi này. Cô nói: “Có thể các mô hình đang chơi thực sự, nhưng chúng tôi không biết dựa trên bài báo”.
Lời cảnh báo của cô ấy đặt ra điểm căng thẳng chính trong hướng nghiên cứu này: hành vi giống như trò chơi - tò mò, tự định hướng, sáng tạo - có thể xuất hiện sau khi hoàn thành mô hình mà không có bất kỳ trải nghiệm bên trong nào về sự vui đùa. Hành vi của bản in trước rất đáng chú ý; những gì họ biểu thị vẫn là một câu hỏi mở.
Tại sao nó lại quan trọng ngoài hòn đảo
Các nhà nghiên cứu coi việc khám phá không có mục tiêu là một cách khác để các đặc vụ AI có được các kỹ năng – đặc biệt, họ đề xuất, các kỹ năng mà một ngày nào đó có thể chuyển sang điều khiển robot, nơi việc đào tạo toàn diện theo từng nhiệm vụ cụ thể rất tốn kém và không đầy đủ.
Chi phí là điểm. Robot, không giống như chatbot, hoạt động trong thế giới vật chất, nơi mọi nhiệm vụ - mở cửa, xếp hộp, gấp khăn - phải được chỉ định, trình diễn hoặc khen thưởng trước khi nhân viên học nó. Một chế độ trong đó các tác nhân xây dựng chương trình giảng dạy của riêng họ bên trong một mô phỏng an toàn có thể, nếu cách tiếp cận này được duy trì, sẽ cắt giảm đáng kể chi phí của công việc đặc tả đó.
Báo cáo kết luận: “Có lẽ một số khả năng được dạy tốt nhất thông qua các nhiệm vụ”. "Những người khác có thể cần một cái gì đó gần gũi hơn với tuổi thơ."
Hiện tại, thử nghiệm này là một nghiên cứu nhỏ - 13 đặc vụ, một hòn đảo, không có sự đánh giá ngang hàng. Nhưng nó cho thấy sự thay đổi trong cách các nhà nghiên cứu nghĩ về đào tạo nhân viên: ít giống như lập trình một cỗ máy mà giống như nuôi dưỡng một cỗ máy hơn, với tất cả sự kém hiệu quả, bất ngờ và đôi khi bị mất vòng.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
