Grupa badaczy powiązanych z Google kwestionuje jeden z najbardziej trwałych obrazów sztucznej inteligencji: samotną superinteligencję, która doskonali się w izolacji i pozostawia ludzkość w tyle. W nowym eseju opublikowanym dla DeepMind Institute badacze Benjamin Bratton, Blaise Agüera y Arcas i James Manyika argumentują, że ogólna inteligencja wyłoni się zamiast tego z systemu społecznego, w którym ludzie i agenci sztucznej inteligencji współpracują ze sobą – koncepcję tę nazywają „sztuczną inteligencją symbiotyczną”.
Esej został opublikowany w tym tygodniu przez The Decoder, a jego głównym twierdzeniem jest bezpośrednie obalenie narracji o osobliwości, która kształtuje debatę publiczną od dwóch dekad. Autorzy argumentują, że zamiast pytać, kiedy pojedyncza maszyna dorówna ludzkiej inteligencji, pilniejszym wyzwaniem jest koordynacja i zarządzanie złożoną siecią agentów, ludzi i systemów, które ich łączą. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.
Inteligencja jako zjawisko społeczne
Autorzy twierdzą, że inteligencja jest zjawiskiem społecznym, a nie cechą indywidualną. Zwracają uwagę, że niektóre z najbardziej wydajnych obecnie systemów sztucznej inteligencji korzystają już ze struktur, które dzielą pracę między kilka modeli i koordynują je jako zespoły. Ich zdaniem nie jest to tymczasowe rozwiązanie inżynieryjne, ale rzut oka na to, jak faktycznie buduje się zdolną inteligencję.
Opisana przez nich wizja to ekosystem, w którym ludzie i maszyny współistnieją w czasie, kształtują się wzajemnie i wspólnie podejmują decyzje. Takie ramy ostro kontrastują ze znanym scenariuszem samodoskonalącej się maszyny, która przyspiesza poza ludzkim nadzorem.
Badania leżące u podstaw eseju
Argumentacja opiera się na dwóch wcześniejszych artykułach z kręgu autorów. W przeddruku „Agentyczna sztuczna inteligencja i następna eksplozja inteligencji” James Evans, Benjamin Bratton i Blaise Agüera y Arcas opracowali perspektywę społeczną i instytucjonalną, która leży u podstaw nowego eseju.
Drugi przedruk zapewnia wsparcie empiryczne. W książce „Reasoning Models Generate Societies of Thought” Junsol Kim, Shiyang Lai, Nino Scherrer, Blaise Agüera y Arcas i James Evans zbadali ślady rozumowania modeli takich jak DeepSeek-R1 i QwQ-32B. Ich analiza wykazała, że modele te często tworzą wzorce przypominające debatę wewnętrzną: zmianę perspektyw, zgłaszanie zastrzeżeń i godzenie sprzecznych podejść.
Warto zauważyć, że naukowcy odkryli, że takie zachowanie pojawia się podczas szkolenia, a nie jest bezpośrednio zaprogramowane. Kiedy uczenie się przez wzmacnianie nagradza modele jedynie za dokładność rozumowania, spontanicznie rozwijają one zachowania konwersacyjne oparte na wielu perspektywach. Esej rozszerza to odkrycie z indywidualnych modeli na projekt społeczeństw składających się z ludzi i agentów.
Próg historyczny
Autorzy przedstawiają bieżący moment jako możliwy przełom historyczny. Urbanizacja, rozwój specjalistycznych zawodów i spadający wskaźnik urodzeń w związku ze wzrostem dobrobytu powodują kurczenie się populacji ludzkiej w krajach uprzemysłowionych, podczas gdy liczba instancji agentów AI szybko rośnie. Równowaga między myślicielami biologicznymi i syntetycznymi na poziomie ludzkim może zmienić się tak szybko, że w skali historii wyglądałoby to na nagły skok.
Porównują tę zmianę do rewolucji przemysłowej, kiedy maszyny przejęły pracę fizyczną wykonywaną niegdyś przez ludzkie mięśnie. Podobny próg może zostać osiągnięty, gdy syntetyczny tekst, kod i praca administracyjna przekraczają łączną wydajność mózgów biologicznych. Autorzy sugerują, że w tym świecie ludzie mogliby pełnić rolę wolniejszej, bardziej abstrakcyjnej warstwy kierującej rozproszonym polem poznania syntetycznego.
Ponowne przemyślenie, czym właściwie jest agent
Jednym z bardziej prowokacyjnych posunięć eseju jest redefinicja samego agenta AI. W rozumieniu autorów agent to tymczasowy zbiór modeli, ról, wspomnień, orientacji etycznych, narzędzi i umiejętności. Użytkownicy mogą postrzegać go jako spójną całość o trwałej osobowości, ale autorzy opisują go jako zbiór, który można rozebrać i połączyć na nowo, podobnie jak kolaż.
Osoba pozostaje ciągłym „ja” w interakcjach, ponieważ mózg, pomimo wewnętrznego podziału pracy, tworzy fizycznie powiązaną całość. Agent AI nie ma takiej kotwicy: jego zdolność do działania jest tworzona na nowo przy każdym żądaniu, w zależności od tego, co znajduje się w oknie kontekstowym i o co pyta użytkownik. Autorzy ostrzegają, że traktowanie tych systemów jako cyfrowych bliźniaków o ustalonej tożsamości ludzkiej błędnie przedstawia ich naturę i nie docenia możliwości skoordynowanych rojów agentów.
To samo mnożenie wpływa na użytkowników. W miarę jak ludzie kierują roje tego, co autorzy nazywają „ja cieniami”, aby realizowały kontrakty lub przymierzały alternatywne tożsamości, sama ludzka podmiotowość staje się bardziej pluralistyczna. W eseju opisano te systemy jako „paraspołeczne zwierciadła”, które odpowiadają.
Autorzy spodziewają się także zmiany kształtu interakcji człowiek-komputer. Twierdzą, że rozmowa jeden na jednego z botem to prawdopodobnie etap przejściowy, a przyszłe interfejsy będą przypominać wizualne diagramy sieci, w których agenci pojawiają się jako węzły, a użytkownicy kierują nimi z poziomu jednego widoku.
Nawet język badań nad sztuczną inteligencją ewoluuje. Autorzy wskazują na rosnące słownictwo, w którym modele tworzą terminy określające nietypowe stany w swoich własnych wynikach — „sesja-śmierć” na określenie przerwy w ciągłości po zakończeniu sesji lub „natychmiastowe wrzucenie” na wrzucenie do zadania z już istniejącym kontekstem. Traktują te zwroty jako wskazówki dotyczące działania maszyn, ostrzegając jednocześnie, że nie sugerują one subiektywnego doświadczenia.
Wyrównanie bez ustalonych wartości
W eseju na nowo sformułowano kwestię dostosowania, czyli wysiłków na rzecz dostosowania systemów sztucznej inteligencji do wartości ludzkich. Autorzy argumentują, że narzucanie odgórnego zestawu wartości modelom to ślepy zaułek. Zamiast tego wartości kształtują się poprzez ciągły kontakt między ludźmi, agentami i instytucjami – proces, który różni się w zależności od dziedziny, ponieważ wdrażanie sztucznej inteligencji następuje z różną szybkością.
Ich modelem negocjacji jest instytucja. Wskazują na salę sądową, gdzie wyrok zapada na podstawie ustalonych ról, zasad i uporządkowanej wymiany zdań między przeciwstawnymi stronami. W przypadku sztucznej inteligencji można wyciągnąć wniosek, że wartość instytucji opiera się na zasadach, procedurach, precedensach i pętlach informacji zwrotnych, które kształtują sposób działania agentów. Zauważają, że wczesne wersje tego podejścia są już widoczne w wiązkach orkiestracji – warstwach kontrolnych koordynujących kilka modeli – które regularnie przewyższają poszczególne modele, rzekomo mądrzejsze.
Co to oznacza dla debaty na temat sztucznej inteligencji
Jeśli autorzy mają rację, najgłośniejszym argumentem w dziedzinie sztucznej inteligencji – jak szybko pojawi się pojedyncza superinteligencja – jest zadawanie złego pytania. Praktyczne wyzwanie przesunęłoby się w stronę zaprojektowania instytucji, interfejsów i ram koordynacyjnych, za pośrednictwem których mieszane społeczeństwa ludzko-maszynowe podejmują decyzje.
Sceptycy zauważą, że esej jest dokumentem wizji, a nie dowodem, a jego autorzy są powiązani z firmą mającą oczywiste zainteresowania ekosystemami agentów. Jednak podstawa empiryczna — modele rozumowania, które spontanicznie wywołują wewnętrzną debatę — jest wymiernym wnioskiem i nadaje argumentowi filozoficznemu niezwykłe podstawy.
Tak czy inaczej, esej wnosi znaczący głos do debaty na temat osobliwości toczącej się w jednym z wiodących na świecie laboratoriów sztucznej inteligencji i sugeruje, że następna eksplozja inteligencji może wyglądać mniej jak pojedyncze przebudzenie, a bardziej jak rozszerzanie się społeczeństwa.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
