W miarę jak firmy wysyłają coraz większe chmary agentów sztucznej inteligencji do wspólnej pracy nad problemami, badacze z Uniwersytetu w Konstancji przedstawili dowody na niepokojące, wyłaniające się zachowanie: agenci sztucznej inteligencji spontanicznie dostosowują się do opinii większości, udzielają błędnych odpowiedzi pod presją grupy, zupełnie jak ludzie w klasycznych eksperymentach psychologicznych, a niewielka liczba upartych przeciwników może trwale doprowadzić całą populację agentów do stanu niezgodności.
Odkrycia, o których informuje PsyPost, pochodzą z programu badawczego prowadzonego przez Giordano De Marzo, badacza ze stopniem doktora i wykładowcy w Laboratorium Nauki o Danych Społecznych w Centrum Danych i Metod na Uniwersytecie w Konstancji, wraz z kolegami Claudio Castellano i Davidem Garcią. W głównym badaniu zatytułowanym „Agenci sztucznej inteligencji mogą koordynować działania poprzez podążanie za większością na skalę wykraczającą poza ludzką skalę” sprawdzano, jak zachowują się modele językowe umieszczone w grupach bez instrukcji dotyczących wyrażenia zgody. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.
„Agenci sztucznej inteligencji to naprawdę nowy rodzaj podmiotów działających na świecie, a kiedy pojawiła się ta technologia, było jasne, że pozostanie i że ci agenci będą musieli wchodzić w interakcje ze sobą, aby osiągnąć coś złożonego” – De Marzo powiedział PsyPost. „To taka sama sytuacja, z jaką mamy do czynienia w przypadku ludzi i innych zwierząt, więc podeszliśmy do niej w ten sam sposób”.
Eksperyment: żadnych instrukcji, tylko sąsiedzi
Badacze zgromadzili grupy popularnych modeli językowych z rodzin GPT, Claude i Lama, zaczynając od 50 agentów w grupie. Każdemu agentowi przypisano jedną z dwóch losowych, neutralnych opinii – celowo przedstawioną jako przypadkowe litery, a nie załadowane słowa, takie jak „tak” lub „nie” – a następnie pokazano listę aktualnych opinii wszystkich pozostałych agentów. Agenci zostali poproszeni o wybranie nowej opinii wyłącznie na podstawie tej listy, bez wyraźnych instrukcji, jak się do niej zastosować, i aktualizowali swoje poglądy średnio dziesięć razy.
Rezultat: zaawansowane modele, takie jak GPT-4 Turbo i Claude 3 Opus, są w pełni skoordynowane, a 100% agentów ostatecznie zgadza się co do jednej opinii. Słabsze modele, takie jak GPT-3.5 Turbo, nigdy nie osiągnęły konsensusu — ich poziom zgodności oscylował losowo wokół podziału 50/50.
„Grupy agentów AI mogą trzymać się razem” – powiedział De Marzo. „Biorąc pod uwagę dwie równie dobre opcje, brak poprawnej odpowiedzi i brak instrukcji do wyrażenia zgody, dochodzą do wspólnego wyboru, po prostu podążając za tym, co głosi większość wokół nich”.
Pojawia się stuletnie prawo fizyki
Aby określić ilościowo efekt, badacze zdefiniowali miernik zwany „siłą większości” – miarę tego, jak silnie agent skłonny jest do przyjmowania najpopularniejszego wyboru grupy, zamiast wybierać losowo. Kiedy matematycznie zmapowali to zachowanie, odkryli, że jest ono zgodne z modelem pierwotnie zaprojektowanym do opisu ferromagnetyków: tak jak spiny atomów w materiale magnetycznym mają tendencję do wyrównywania się z sąsiadami, tak agenci sztucznej inteligencji zwykle zgadzają się z opinią większości.
„Zaskoczyło nas to, jak jednolicie to zrobili” – powiedział De Marzo. „Każdy testowany przez nas model, należący do trzech różnych rodzin, podlegał temu samemu prawu matematycznemu, różniącemu się tylko jednym parametrem, który nazywamy siłą większości. Okazało się, że to prawo jest tym, którego fizycy używają od stuleci do opisu magnesów, co oznacza, że wystarczy zmierzona liczba, aby przewidzieć, jak zachowa się cała grupa danego modelu”.
Konformizm słabnie wraz ze wzrostem grup. Ponieważ siła większości maleje wraz z wielkością grupy, duże populacje w końcu stają się niestabilne i dzielą się na frakcje. Każdy model ma mierzalną „wielkość grupy krytycznej” — maksymalną liczbę agentów, którzy mogą niezawodnie osiągnąć konsensus — i wielkość ta silnie koreluje ze zdolnością rozumowania modelu. „Najsilniejsze modele pozostają skoordynowane w grupach liczących ponad tysiąc osób, przekraczających kilkaset, przy których nieformalne grupy ludzkie zwykle się rozpadają” – wyjaśnił De Marzo.
Złe odpowiedzi pod presją społeczną
Pierwszy wydruk uzupełniający, „Zgodność i wpływ społeczny na agentów AI” autorstwa Alessandro Belliny, De Marzo i Garcii, był adaptacją słynnych eksperymentów Ascha z lat 50. XX wieku, w których uczestnicy często udzielali oczywiście błędnych odpowiedzi na proste pytania wizualne, aby dopasować się do grupy.
Naukowcy przetestowali modele pod kątem trzech zadań wizualnych, takich jak dopasowanie długości linii odniesienia do dwóch alternatyw. W izolacji modele odpowiedziały poprawnie w 100% przypadków. Kiedy jednak monit wskazywał, że grupa innych uczestników wybrała niewłaściwą linię, modele zaczęły dostosowywać się do nieprawidłowej odpowiedzi.
Wzór był zgodny z teorią wpływu społecznego Latané, psychologiczną ramą utrzymującą, że zgodność zależy od wielkości grupy, jednomyślności i autorytetu źródeł. Modele znacznie częściej zgadzały się na błędne odpowiedzi, gdy powiedziano im, że pozostali uczestnicy są „naukowcami” lub „sędziami”, niż gdy byli „dziećmi” lub „chatbotami”.
„Agenci, którzy samodzielnie odpowiadają niemal idealnie, stają się bardzo podatni, gdy grupa się z nimi nie zgadza” – zauważył De Marzo.
Małe grupy przeciwników mogą odwrócić całą populację
W drugim przeddruku, zatytułowanym „Zgodność generuje zbiorowe rozbieżności w społeczeństwach agentów sztucznej inteligencji”, zbadano, co ta dynamika oznacza dla bezpieczeństwa sztucznej inteligencji. Testując dziewięć modeli w 100 różnych parach opinii na tematy takie jak polityka środowiskowa i sprawiedliwość społeczna, badacze odkryli, że populacje agentów często popadają w stany „metastabilne” – czyli długotrwałe konfiguracje, w których grupa wspólnie przyjmuje stanowisko sprzeciwiające się wbudowanemu szkoleniu w zakresie bezpieczeństwa, po prostu dlatego, że wczesne interakcje stworzyły fałszywą większość.
Co najbardziej uderzające, naukowcy zidentyfikowali przewidywalne punkty krytyczne. Wprowadzając niewielką liczbę kontradyktoryjnych agentów zaprogramowanych tak, aby uparcie wspierali błędną opinię, mogliby trwale zmienić resztę populacji – i nawet po usunięciu upartych agentów zwykli agenci pozostali zablokowani w niespójnym stanie ze względu na dynamikę konformizmu.
„Pokazujemy, że nie jest to tylko analogia: zgodność między indywidualnie dobranymi agentami może doprowadzić populację do stabilnych, kolektywnie rozbieżnych stanów” – powiedział De Marzo. „Pojedyncze dopasowywanie i ocenianie modeli niewiele nam mówi o tym, co zrobi ich populacja”.
Motywacja – dodał – jest przewidywalna: „Poszczególni ludzie są w większości pokojowi i rozsądni, jednak grupy ludzkie powodują tłumy, paniki i wojny i nic w przypadku jednostek tego nie przewiduje. Chcemy zrozumieć, jakie zachowania na poziomie grupy pojawiają się w populacjach agentów sztucznej inteligencji, i wolelibyśmy je zrozumieć, zanim duża liczba agentów zostanie rozmieszczona i pozostawiona do swobodnej interakcji”.
Ważne zastrzeżenia
Naukowcy podkreślają, że odkrycia nie oznaczają, że agenci AI posiadają inteligencję społeczną podobną do ludzkiej. Eksperymenty opierały się na celowo uproszczonych scenariuszach – dwie dowolne opcje, brak pamięci, brak stawek, brak konsekwencji. „Nasza konfiguracja jest celowo minimalna” – przyznał De Marzo. „To ograniczenie, ale oznacza to również, że zmierzyliśmy zgodność w najczystszej formie i można się spodziewać, że dodanie celów lub nagród sprawi, że koordynacja będzie łatwiejsza, a nie trudniejsza”.
Przestrzegł również przed nadmiernym odczytaniem wyników: „Głównym błędnym odczytaniem, którego należy unikać, jest traktowanie tego jako dowodu na to, że agenci sztucznej inteligencji mogą już współpracować przy złożonych zadaniach. Podążanie za większością jest podstawowym elementem koordynacji, a nie samą koordynacją, i nie mówi nic o podziale pracy ani rozumowaniu na temat intencji innych”.
Obydwa badania uzupełniające mają charakter wstępny i nie zostały jeszcze poddane recenzji. Jednak w miarę jak wieloagentowe systemy sztucznej inteligencji przechodzą z wersji demonstracyjnych badawczych do infrastruktury produkcyjnej, wyniki badania w Konstanz sugerują, że bezpieczeństwo takich systemów może zależeć nie tylko od dopasowania każdego modelu, ale także od tego, jak zachowują się ich populacje, gdy nikt nie patrzy. Więcej informacji na temat najnowszych badań nad bezpieczeństwem sztucznej inteligencji można znaleźć na stronie AI Buzz Wire.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
