Współzałożyciel Google, Sergey Brin, twierdzi, że rozwój sztucznej inteligencji firmy osiągnął punkt, w którym jej modele aktywnie pomagają w budowaniu własnych następców – jest to dynamika znana jako rekursywne samodoskonalenie (RSI). Przemawiając podczas dyskusji przy okrągłym stole na temat stworzenia przez Google nowego modelu Gemini 4, Argon, Brin powiedział, że rozwój sztucznej inteligencji wewnętrznie przyspiesza i że firma „zaczyna wchodzić na bieżnię RSI”.

„A teraz nasi badacze i model pracują ręka w rękę, aby stworzyć kolejną wersję modelu” – powiedział Brin podczas okrągłego stołu, którym Google podzielił się w środę. O jego komentarzu jako pierwszy poinformował Business Insider. Uwagi te stawiają współzałożyciela Google – który odgrywa coraz bardziej praktyczną rolę w programie Gemini – bezpośrednio w najważniejszej debacie w branży na temat tego, czy systemy sztucznej inteligencji będą wkrótce udoskonalać się szybciej niż inżynierowie. Aby otrzymywać dalsze relacje z tej debaty, śledź nasze wiadomości dotyczące badań nad sztuczną inteligencją.

Co Brin wskazał jako dowód

Brin wskazał na tempo wypuszczania modeli Flash firmy Google aż do powstania Gemini 4 jako dowód na to, że pętla sprzężenia zwrotnego już się odwraca. Konsekwencją tego jest to, że każda generacja modeli skraca czas wymagany do wyprodukowania kolejnego, będącego zautomatyzowanym kodowaniem, oceną i narzędziem badawczym.

Wydaje się, że dokumentacja Google dotycząca bezpieczeństwa Argonu częściowo potwierdza ten obraz. Według raportu bezpieczeństwa modelki „agenci sztucznej inteligencji działają obecnie jako asystenci o dużej dźwigni, którzy są autorami większości kodu produkcyjnego i poprawek błędów, chociaż zmiany w kodzie podlegają weryfikacji przez człowieka przed przesłaniem”. Innymi słowy, firma opisuje przepływ pracy, w którym modele tworzą większość kodu, podczas gdy to ludzie mają decydujący głos w sprawie tego, jakie statki będą wysyłane.

Szersza debata na temat RSI

Anthropic i OpenAI stwierdziły również, że sztuczna inteligencja może znajdować się na granicy RSI, a opublikowany w tym tygodniu raport firmy Gladstone AI przedstawia kierunki, w jakich firmy zajmujące się sztuczną inteligencją zmierzają w tym kierunku. Według relacji zawartej w raporcie Business Insider większość badaczy, z którymi przeprowadzono wywiady – pracujących w takich firmach jak Anthropic, OpenAI i Google DeepMind – uważa, że ​​RSI rozpocznie się w ciągu najbliższych 3–12 miesięcy i może nastąpić wcześniej w przypadku braku interwencji rządu.

Dlaczego oś czasu ma znaczenie

Samodoskonalenie rekurencyjne to nie tylko kolejny kamień milowy w zakresie możliwości. Jeśli modele staną się główną siłą roboczą w samych badaniach nad sztuczną inteligencją, tempo postępu stanie się trudniejsze do przewidzenia i trudniejsze do kontrolowania. Właśnie dlatego RSI znalazło się w centrum ostrzeżeń wydawanych w zeszłym miesiącu przez wybitnych badaczy sztucznej inteligencji, że ludzie mogą stracić kontrolę nad technologią, jeśli nie zostaną zamontowane wystarczające bariery ochronne.

Sformułowanie Brina było szczególnie rzeczowe. Zamiast traktować bieżnię RSI jako odległą hipotezę, opisał ją jako warunek operacyjny programu rozwoju modeli Google — badacze i modelki pracują „ramię w ramię” nad każdą kolejną wersją.

Kontrapunkty

Nie wszyscy w Google zgadzają się co do szybkości obracania się koła zamachowego. W tym samym cyklu informacyjnym zauważono, że Google DeepMind we własnych ocenach nie stwierdził znaczącego przyspieszenia badań i rozwoju w zakresie uczenia maszynowego, co stanowi wniosek odbiegający od bardziej zaniepokojonej retoryki niektórych konkurentów. Różnica między tymi dwoma odczytami – współzałożyciel Google opisując bieżnię, która zaczęła się poruszać, a badacze Google zajmujący się bezpieczeństwem nie odnotowali żadnego dramatycznego przyspieszenia – sama w sobie jest migawką tego, jak niepewna pozostaje dziedzina co do własnej trajektorii.

Istnieją również zastrzeżenia strukturalne. Agenci, którzy tworzą większość kodu produkcyjnego, nadal podlegają kontroli człowieka, a większość tego, co dziś nazywa się „sztuczną automatyzacją badań nad sztuczną inteligencją”, wiąże się z zawężaniem przestrzeni poszukiwań, generowaniem potencjalnych rozwiązań i przeprowadzaniem ocen – to raczej pomoc o wysokim poziomie dźwigni niż autonomiczne odkrywanie.

Co obejrzeć

Trzy rzeczy powiedzą obserwatorom, czy metafora bieżni Brina jest aktualna. Po pierwsze, częstotliwość wypuszczania własnych modeli Google’a, gdzie krótsze odstępy między pokoleniami byłyby najwyraźniejszym widocznym sygnałem. Po drugie, czy inne pionierskie laboratoria zaczną określać ilościowo, jaka część ich projektów badawczych i inżynieryjnych jest wykonywana na podstawie modelu, tak jak zrobił to raport Google dotyczący bezpieczeństwa Argon. Po trzecie, czy rządy podejmują działania w oparciu o raporty takie jak AI Gladstone, z których badacze, z którymi przeprowadzono wywiady, wyraźnie uzależnili swój harmonogram od braku interwencji.

Ekonomia za bieżnią

Komentarze Brina mają również prostą logikę komercyjną. Jeśli modele znacząco skracają cykle badawcze, koszt krańcowy każdej nowej generacji modeli spada, a firma, która jako pierwsza zamyka obieg, zyskuje kumulującą przewagę zarówno pod względem możliwości, jak i ceny. Google zasygnalizował już chęć agresywnego konkurowania na drugiej osi, podcinając ceny API konkurentów w przypadku Argonu, jednocześnie udostępniając modele klasy Flash do dużych obciążeń. Prawdziwe koło zamachowe RSI wzmocniłoby tę strategię, co pomaga wyjaśnić, dlaczego Google ma wszelkie powody, by opisywać ją jako już wdrożoną.

Na razie okrągły stół ma znaczenie w zakresie pozycjonowania: jeden z założycieli Google publicznie opisuje rekurencyjne samodoskonalenie nie jako scenariusz ryzyka, ale jako rzeczywistość działania firmy. To przeformułowanie – od eksperymentu myślowego do planu działania – może okazać się najbardziej godną uwagi rzeczą w cyklu startowym Gemini 4, niezależnie od tego, gdzie wylądują wyniki testów porównawczych.

---

Wyprzedź sztuczną inteligencję

Otrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.

Przeczytaj więcej aktualności o sztucznej inteligencji →