Khi các công ty triển khai các nhóm tác nhân AI ngày càng lớn hơn để cùng nhau giải quyết các vấn đề, các nhà nghiên cứu tại Đại học Konstanz đã đưa ra bằng chứng về một hành vi mới nổi đáng lo ngại: các tác nhân AI tự phát tuân theo ý kiến ​​của đa số, đưa ra câu trả lời sai dưới áp lực nhóm giống như con người trong các thí nghiệm tâm lý học cổ điển — và một số lượng nhỏ đối thủ cứng đầu có thể vĩnh viễn biến toàn bộ nhóm tác nhân thành trạng thái sai lệch.

Những phát hiện được PsyPost báo cáo đến từ một chương trình nghiên cứu do Giordano De Marzo, một nhà nghiên cứu sau tiến sĩ và giảng viên tại Phòng thí nghiệm Khoa học Dữ liệu Xã hội thuộc Trung tâm Dữ liệu và Phương pháp tại Đại học Konstanz, cùng với các đồng nghiệp Claudio Castellano và David Garcia dẫn đầu. Nghiên cứu chính có tiêu đề “Các tác nhân AI có thể phối hợp thông qua sự tuân theo đa số ngoài phạm vi con người”, đã xem xét cách các mô hình ngôn ngữ hoạt động khi được đặt trong các nhóm không có hướng dẫn để đồng ý. For more context on this story, see our ongoing artificial intelligence updates.

De Marzo nói với PsyPost: “Các tác nhân AI thực sự là một loại thực thể mới hoạt động trên thế giới và khi công nghệ này xuất hiện, rõ ràng là nó sẽ tồn tại và các tác nhân này sẽ phải tương tác với nhau để thực hiện bất kỳ điều gì phức tạp”. "Đó là tình huống tương tự mà chúng ta phải đối mặt với con người và các động vật khác, vì vậy chúng tôi đã tiếp cận nó theo cách tương tự."

Thí nghiệm: Không cần hướng dẫn, chỉ là hàng xóm

Các nhà nghiên cứu đã tập hợp các nhóm mô hình ngôn ngữ phổ biến từ họ GPT, Claude và Llama, bắt đầu với 50 tác nhân mỗi nhóm. Mỗi đặc vụ được chỉ định một trong hai ý kiến ​​​​trung lập, ngẫu nhiên - được cố ý hiển thị dưới dạng các chữ cái ngẫu nhiên thay vì các từ được tải sẵn như "có" hoặc "không" - và sau đó hiển thị danh sách tất cả các ý kiến ​​​​hiện tại của các đặc vụ khác. Các đặc vụ được nhắc chọn một ý kiến ​​​​mới chỉ dựa trên danh sách đó mà không có hướng dẫn rõ ràng để tuân thủ, mỗi quan điểm của họ cập nhật trung bình mười lần.

Kết quả: các mẫu xe tiên tiến như GPT-4 Turbo và Claude 3 Opus đã phối hợp hoàn toàn với nhau, cuối cùng 100% đại lý đồng ý về một ý kiến ​​duy nhất. Các mô hình yếu hơn như GPT-3.5 Turbo không bao giờ đạt được sự đồng thuận nào cả - mức độ đồng ý của chúng dao động ngẫu nhiên quanh tỷ lệ chia 50/50.

De Marzo nói: “Các nhóm đặc vụ AI có thể tự mình hợp tác với nhau”. "Được đưa ra hai lựa chọn tốt như nhau, không có câu trả lời đúng và không có hướng dẫn để đồng ý, họ hội tụ về một lựa chọn chung chỉ đơn giản bằng cách làm theo bất cứ điều gì mà đa số xung quanh họ nắm giữ."

Xuất hiện định luật vật lý thế kỷ cũ

Để định lượng tác động, các nhà nghiên cứu đã xác định một thước đo gọi là "lực lượng đa số" - thước đo mức độ một tác nhân có xu hướng chấp nhận lựa chọn phổ biến nhất của nhóm thay vì chọn ngẫu nhiên. Khi lập bản đồ hành vi này về mặt toán học, họ nhận thấy nó tuân theo một mô hình ban đầu được thiết kế để mô tả các chất sắt từ: giống như các spin nguyên tử trong vật liệu từ tính có xu hướng thẳng hàng với các láng giềng của chúng, các tác nhân AI có xu hướng phù hợp với ý kiến ​​của đa số.

De Marzo nói: “Điều làm chúng tôi ngạc nhiên là họ đã làm điều đó một cách thống nhất như thế nào”. "Mọi mô hình mà chúng tôi thử nghiệm, trong ba họ khác nhau, đều tuân theo cùng một định luật toán học, chỉ khác nhau ở một tham số duy nhất mà chúng tôi gọi là lực đa số. Định luật đó hóa ra là định luật mà các nhà vật lý đã sử dụng trong suốt một thế kỷ để mô tả nam châm, nghĩa là một con số đo duy nhất cũng đủ để dự đoán cả một nhóm của một mô hình nhất định sẽ hoạt động như thế nào."

Sự phù hợp suy yếu khi các nhóm phát triển. Bởi vì lực lượng đa số giảm dần theo quy mô nhóm, dân số lớn cuối cùng trở nên không ổn định và chia thành các phe phái. Mỗi mô hình có một "quy mô nhóm quan trọng" có thể đo lường được — số lượng tác nhân tối đa có thể đạt được sự đồng thuận một cách đáng tin cậy — và quy mô đó tương quan chặt chẽ với khả năng suy luận của mô hình. De Marzo giải thích: “Các mô hình mạnh nhất luôn phối hợp trong các nhóm hơn một nghìn người, ngoài vài trăm người mà các nhóm người không chính thức thường tách ra”.

Trả lời sai dưới áp lực xã hội

Bản in tiếp theo đầu tiên, "Sự phù hợp và tác động xã hội đối với các tác nhân AI" của Alessandro Bellina, De Marzo và Garcia, đã điều chỉnh các thí nghiệm về sự phù hợp nổi tiếng của Asch vào những năm 1950, trong đó những người tham gia là con người thường đưa ra những câu trả lời rõ ràng là sai cho các câu hỏi trực quan đơn giản để phù hợp với một nhóm.

Các nhà nghiên cứu đã thử nghiệm các mô hình trên ba nhiệm vụ trực quan, chẳng hạn như so khớp độ dài của đường tham chiếu với hai lựa chọn thay thế. Trong trường hợp riêng biệt, các mô hình trả lời đúng 100%. Nhưng khi lời nhắc chỉ ra rằng một nhóm người tham gia khác đã chọn sai dòng, các mô hình bắt đầu tuân theo câu trả lời sai.

Mô hình này tuân theo lý thuyết tác động xã hội của Latané, một khuôn khổ tâm lý cho rằng sự phù hợp phụ thuộc vào quy mô nhóm, sự nhất trí và thẩm quyền của các nguồn. Các mô hình có nhiều khả năng tuân theo các câu trả lời sai khi được thông báo rằng những người tham gia khác là "nhà khoa học" hoặc "thẩm phán" so với khi họ là "trẻ em" hoặc "chatbot".

De Marzo lưu ý: “Các tác nhân trả lời gần như hoàn hảo sẽ trở nên rất dễ bị tổn thương khi một nhóm không đồng ý với chúng”.

Các nhóm nhỏ đối thủ có thể lật đổ toàn bộ dân số

Bản in trước thứ hai, "Sự phù hợp tạo ra sự sai lệch tập thể trong các xã hội đại lý AI", đã xem xét ý nghĩa của những động lực này đối với sự an toàn của AI. Khi thử nghiệm 9 mô hình trên 100 cặp ý kiến ​​khác nhau về các chủ đề như chính sách môi trường và công bằng xã hội, các nhà nghiên cứu phát hiện ra rằng các nhóm tác nhân thường rơi vào trạng thái "siêu ổn định" — những cấu hình lâu dài trong đó nhóm cùng áp dụng lập trường phản đối việc đào tạo an toàn tích hợp của nhóm, đơn giản vì những tương tác ban đầu đã tạo ra đa số sai lầm.

Điều đáng chú ý nhất là các nhà nghiên cứu đã xác định được các điểm tới hạn có thể dự đoán được. Bằng cách giới thiệu một số lượng nhỏ các tác nhân đối địch được lập trình để ủng hộ một cách ngoan cố một quan điểm sai lệch, họ có thể lật đổ vĩnh viễn phần còn lại của dân số - và ngay cả sau khi các tác nhân cứng đầu bị loại bỏ, các tác nhân thông thường vẫn bị khóa trong trạng thái sai lệch do động lực tuân thủ.

De Marzo cho biết: “Chúng tôi cho thấy đây không chỉ đơn thuần là một sự tương tự: sự phù hợp giữa các tác nhân được liên kết tốt riêng lẻ có thể đưa dân số vào trạng thái ổn định, không liên kết chung”. "Việc sắp xếp và đánh giá từng mô hình một cho chúng ta biết rất ít về những gì dân số trong số đó sẽ làm."

Ông nói thêm, động lực là mang tính dự đoán trước: "Các cá nhân hầu hết đều hòa bình và hợp lý, tuy nhiên các nhóm người tạo ra đám đông, hoảng loạn và chiến tranh, và không có gì về cá nhân dự đoán được điều đó. Chúng tôi muốn hiểu những hành vi cấp nhóm nào xuất hiện trong quần thể tác nhân AI và chúng tôi muốn hiểu chúng trước khi một số lượng lớn tác nhân được triển khai và để lại để tương tác tự do."

Lưu ý quan trọng

Các nhà nghiên cứu nhấn mạnh những phát hiện này không có nghĩa là các tác nhân AI sở hữu trí thông minh xã hội giống con người. Các thí nghiệm dựa trên các kịch bản được đơn giản hóa có chủ ý - hai lựa chọn tùy ý, không có trí nhớ, không có tiền đặt cọc, không có hậu quả. De Marzo thừa nhận: “Thiết lập của chúng tôi được cố tình tối thiểu hóa. "Đó là một hạn chế, nhưng nó cũng có nghĩa là những gì chúng tôi đo lường được là sự tuân thủ ở dạng thuần túy nhất và việc bổ sung các mục tiêu hoặc phần thưởng sẽ giúp việc phối hợp trở nên dễ dàng hơn thay vì khó khăn hơn."

Ông cũng cảnh báo không nên đọc quá nhiều kết quả: "Việc hiểu sai chính cần tránh là coi đây là bằng chứng cho thấy các tác nhân AI đã có thể cộng tác trong các nhiệm vụ phức tạp. Tuân theo đa số là thành phần cơ bản của sự phối hợp, chứ không phải bản thân sự phối hợp và nó không nói gì về phân công lao động hay lý luận về ý định của người khác."

Hai nghiên cứu tiếp theo là bản in trước và chưa được bình duyệt. Nhưng khi các hệ thống AI đa tác nhân chuyển từ các bản demo nghiên cứu sang cơ sở hạ tầng sản xuất, kết quả của Konstanz cho thấy rằng sự an toàn của các hệ thống như vậy có thể không chỉ phụ thuộc vào cách mỗi mô hình được căn chỉnh — mà còn phụ thuộc vào cách các quần thể trong số đó hành xử khi không có ai theo dõi. Để biết thêm về nghiên cứu an toàn AI mới nhất, hãy truy cập AI Buzz Wire.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →