Spoluzakladatel společnosti Google Sergey Brin říká, že vývoj AI společnosti dosáhl bodu, kdy její modely aktivně pomáhají budovat své vlastní nástupce – dynamiku známou jako rekurzivní sebezdokonalování neboli RSI. Během diskuse u kulatého stolu o vytvoření nového modelu Gemini 4 od Googlu, Argon, Brin řekl, že vývoj AI se interně zrychluje a že společnost „začíná nastupovat na běžecký pás RSI“.

"A nyní naši výzkumníci a model pracují ruku v ruce na vytvoření další verze modelu," řekl Brin během kulatého stolu, o který se Google podělil ve středu. O jeho komentářích jako první informoval Business Insider. Tyto poznámky staví spoluzakladatele společnosti Google – který v programu Gemini stále více praktickou roli – přímo do nejzávažnější debaty v tomto odvětví: zda se systémy umělé inteligence brzy zdokonalí rychleji než lidští inženýři. Chcete-li pokračovat v pokrytí této debaty, sledujte naše zprávy o výzkumu AI.

Co Brin ukázal jako důkaz

Brin poukázal na kadenci verzí Flash modelu Google, které vedly k Gemini 4, jako důkaz, že smyčka zpětné vazby se již obrací. Důsledkem je, že každá generace modelů zkracuje dobu potřebnou k vytvoření dalšího modelu jako automatizovaného kódovacího, vyhodnocovacího a výzkumného nástroje.

Zdá se, že vlastní bezpečnostní dokumentace společnosti Google pro Argon podporuje části tohoto obrázku. Podle bezpečnostní zprávy modelu „agenti AI nyní fungují jako vysoce výkonní asistenti, kteří jsou autory většiny produkčního kódu a oprav chyb, ačkoli změny kódu zůstávají před odesláním podrobeny lidské kontrole.“ Jinými slovy, společnost popisuje pracovní postup, ve kterém modely produkují většinu kódu – zatímco lidé si ponechávají konečné slovo o tom, jaké lodě.

Širší debata o RSI

Společnosti Anthropic a OpenAI také uvedly, že AI může být na pokraji RSI, a zpráva společnosti Gladstone AI zveřejněná tento týden popisuje způsoby, jakými společnosti AI směřují k tomu. Podle zprávy Business Insider se většina dotázaných výzkumníků – pracujících ve společnostech včetně Anthropic, OpenAI a Google DeepMind – domnívá, že RSI začne během příštích 3 až 12 měsíců a mohla by dorazit dříve, pokud nebudou vládní zásahy.

Proč na časové ose záleží

Rekurzivní sebezdokonalování není jen dalším milníkem schopností. Pokud se modely stanou primární pracovní silou pro samotný výzkum umělé inteligence, bude obtížnější předvídat tempo pokroku a hůře řídit. To je důvod, proč RSI stála v centru varování od předních výzkumníků AI minulý měsíc, že ​​lidé mohou ztratit kontrolu nad technologií, pokud nebudou umístěny dostatečné zábradlí.

Brinovo zarámování bylo pozoruhodně věcné. Namísto toho, aby zacházel s běžeckým pásem RSI jako se vzdálenou hypotézou, popsal jej jako provozní podmínku programu vývoje modelů společnosti Google – výzkumníci a modely pracují „ruku v ruce“ na každé následující verzi.

Kontrapunkty

Ne všichni uvnitř Googlu souhlasí s tím, jak rychle se setrvačník otáčí. Zprávy ve stejném zpravodajském cyklu poznamenaly, že Google DeepMind nenalezl žádné významné zrychlení ve výzkumu a vývoji strojového učení ve svých vlastních hodnoceních, což je závěr, který se liší od znepokojenější rétoriky některých soupeřů. Mezera mezi těmito dvěma údaji – spoluzakladatel Googlu popisuje běžecký pás, který se dal do pohybu, a bezpečnostní výzkumníci Googlu neměřili žádné dramatické zrychlení – je sama o sobě obrazem toho, jak nejisté pole zůstává ohledně své vlastní trajektorie.

Existují také strukturální výhrady. Agenti, kteří tvoří většinu produkčního kódu, stále fungují pod kontrolou člověka a mnoho z toho, co se dnes považuje za „výzkum umělé inteligence automatizující AI“, zahrnuje zužování vyhledávacích prostorů, generování kandidátských řešení a provádění hodnocení – spíše pomoc s vysokým pákovým efektem než autonomní objevování.

Na co se dívat

Tři věci řeknou pozorovatelům, zda Brinova metafora běžícího pásu platí. Za prvé, kadence vydávání vlastních modelů Google, kde by kratší intervaly mezi generacemi byly nejjasnějším viditelným signálem. Zadruhé, zda ostatní hraniční laboratoře začnou kvantifikovat, kolik z jejich výzkumného a inženýrského potrubí je modelově provedeno, jak to udělala zpráva společnosti Google o bezpečnosti Argon. Za třetí, zda vlády jednají na základě zpráv jako Gladstone AI, jejíž dotazovaní výzkumníci výslovně podmínili svou časovou osu absencí zásahu.

Ekonomika na běžícím pásu

Brinovy ​​komentáře mají také přímou komerční logiku. Pokud modely smysluplně zkracují výzkumné cykly, mezní náklady každé nové generace modelu klesají a společnost, která uzavře smyčku jako první, získá kombinovanou výhodu jak ve schopnosti, tak v ceně. Google již naznačil ochotu agresivně konkurovat na druhé ose, podkopává ceny konkurenčních API s Argonem a zároveň uvolňuje modely třídy Flash pro velkoobjemové pracovní zatížení. Skutečný setrvačník RSI by tuto strategii převýšil – což pomáhá vysvětlit, proč má Google veškeré podněty k tomu, aby ji označil za již probíhající.

Prozatím je význam kulatého stolu určovat pozici: jeden ze zakladatelů Google veřejně popisuje rekurzivní sebezdokonalování nikoli jako rizikový scénář, ale jako pracovní realitu společnosti. Toto přerámování – od myšlenkového experimentu k cestovní mapě – se může ukázat jako ta nejzajímavější věc na startovacím cyklu Gemini 4, bez ohledu na to, kde se skóre benchmarku objeví.

---

Stay Ahead of AI

Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.

Přečtěte si další zprávy o AI →