Ponad 20 badaczy – w tym laureat Nagrody Nobla Geoffrey Hinton, inny pionier sztucznej inteligencji Yoshua Bengio, współzałożyciel Anthropic Jack Clark i główny naukowiec OpenAI Jakub Pachocki – ostrzegło rządy, aby przygotowały się na „eksplozję inteligencji” sztucznej inteligencji, która ich zdaniem może być najbardziej znaczącym postępem technologicznym w historii, jak podał w poniedziałek The Guardian.

Artykuł zatytułowany „Co się stanie, jeśli automatyzacja prac badawczo-rozwojowych nad sztuczną inteligencją spowoduje eksplozję inteligencji” wzywa polityków do działania, zanim nastąpi gwałtowny postęp w technologii. Autorzy opisują ten scenariusz jako „dramatyczne przyspieszenie postępu AI spowodowane sztuczną inteligencją, kompresujące postępy, które w innym przypadku zajęłoby lata, do miesięcy lub krócej”. Dla czytelników śledzących najnowsze wiadomości dotyczące badań nad sztuczną inteligencją raport jest nie tyle wart uwagi ze względu na swój alarm, ile na to, kto go podpisał: dane z różnych środowisk akademickich i konkurencyjnych laboratoriów, które wspólnie potwierdzają, że zautomatyzowane badania to scenariusz, na który decydenci są najmniej przygotowani.

Co oznaczałaby eksplozja inteligencji

Główną troską autorów jest perspektywa samodoskonalenia się systemów sztucznej inteligencji bez interwencji człowieka – jest to proces znany jako samodoskonalenie rekurencyjne, określane szerzej w artykule jako zautomatyzowane badania i rozwój sztucznej inteligencji.

W artykule argumentuje się, że gdy systemy sztucznej inteligencji osiągną poziom ekspercki w dziale badań i rozwoju sztucznej inteligencji, jeden programista będzie w stanie zapewnić siłę roboczą równoważną „milionom” czołowych badaczy. Zdaniem autorów automatyzacja badań i rozwoju w zakresie sztucznej inteligencji jest najbardziej prawdopodobnym czynnikiem wywołującym eksplozję inteligencji, ponieważ systemy sztucznej inteligencji już przyczyniają się do ulepszania własnej technologii, a ulepszone systemy, które pomagają stworzyć, można szybko wdrożyć po zbudowaniu.

„Eksplozja wywiadu może być najbardziej znaczącym rozwojem technologicznym w historii ludzkości, skracającym lata postępu do miesięcy lub krótszym, zagrażającym ludzkiej kontroli nad systemami sztucznej inteligencji i poważnie podważającym kontrolę nad władzą w obrębie państw, firm i organów rządowych oraz pomiędzy nimi” – czytamy w artykule, według „The Guardian”.

Dlaczego autorzy mówią, że okno się zamyka

Pilność raportu opiera się na twierdzeniu dotyczącym harmonogramu: systemy sztucznej inteligencji, które obecnie wydają się wadliwe, mogłyby do 2028 r. w pełni zautomatyzować projekty badawczo-rozwojowe, które obecnie zajmują zespołom ludzkim miesiące.

„Wzrost produktywności wynikający z automatyzacji prac badawczo-rozwojowych nad sztuczną inteligencją nie osiągnął jeszcze progu niezbędnego do wywołania eksplozji inteligencji, ale korzyści z nowszych systemów prawdopodobnie zbliżają się do tego progu” – piszą autorzy. „Kiedy rozpocznie się eksplozja wywiadu, okno do działania może się zamknąć”.

W artykule dodaje się, że „wstępne dowody sugerują, że możliwa jest eksplozja inteligencji sterowanej oprogramowaniem”, która może doprowadzić do „niezwykle szybkiego rozwoju wysoce wydajnych lub nadludzkich systemów sztucznej inteligencji”.

Zaznaczane przez nich ryzyko

Chociaż eksplozja inteligencji może spowodować przełomy w medycynie i szybki skok technologiczny, autorzy przedstawiają trzy główne niebezpieczeństwa:

  • Uciekające zagrożenia. Potężne systemy mogą powodować zagrożenia biologiczne i cybernetyczne, które rozwijają się szybciej niż środki potrzebne do ich zwalczania.
  • Utrata kontroli. W miarę jak ludzie będą mniej zaangażowani w prace badawczo-rozwojowe nad sztuczną inteligencją, mogą stracić możliwość kierowania i ograniczania budowanych przez siebie systemami.
  • Niestabilność strategiczna. Państwa mogłyby wykorzystać eksplozję wywiadu, aby zamienić skromną przewagę – na przykład w cyberprzestrzeni – w zdecydowaną przewagę narodową.

W raporcie szczerze stwierdza się, że skutki te są „niepewne”. Przełom technologiczny może zająć trochę czasu, jeśli chodzi o wdrożenie określonych łańcuchów dostaw specjalistycznych materiałów lub wymogów regulacyjnych, a systemy sztucznej inteligencji mogą również przyspieszyć tempo łagodzenia ryzyka.

Co powinny zrobić rządy

Autorzy twierdzą, że przygotowanie na eksplozję wywiadowczą „powinno być pilnym priorytetem, w tym na najwyższych szczeblach kierownictwa rządu” i przedstawiają zestaw kandydujących polityk:

  • Wymóg przejrzystych raportów z postępów prac badawczo-rozwojowych związanych ze sztuczną inteligencją, w tym włączania niezależnych audytorów do firm zajmujących się sztuczną inteligencją
  • Ograniczenie szybkości, z jaką system AI może ulepszyć się w danym okresie
  • Współpraca z centrami danych w celu umożliwienia wstrzymania niektórych projektów badawczo-rozwojowych AI
  • Zapewnienie, że zautomatyzowane systemy badawczo-rozwojowe w zakresie sztucznej inteligencji są w pełni odizolowane i nie mogą wymknąć się kontroli człowieka
  • Tworzenie „planów reagowania w sytuacjach awaryjnych” dla szeregu scenariuszy, jakie może wywołać eksplozja wywiadu

Propozycje rozszerzają pomysły już poruszane w polityce zachodniej sztucznej inteligencji – obowiązkowe zgłaszanie incydentów, ocena stron trzecich i zarządzanie obliczeniami – ale stosują je do konkretnego punktu końcowego: automatyzacji samych badań.

Dlaczego ci autorzy i dlaczego teraz

Sygnatariusze nadają papierowi niezwykłą wagę. Hinton i Bengio to dwaj „ojcowie chrzestni” współczesnej sztucznej inteligencji, uznawani za fundamentalne prace nad sieciami neuronowymi; obaj stali się znaczącymi głosami ostrzegającymi przed technologią, którą pomogli stworzyć. Clark jest współzałożycielem Anthropic, a Pachocki jest głównym naukowcem w OpenAI.

Ich ostrzeżenie pojawia się w związku z wymiernym ruchem przemysłu w tym kierunku. Według The Guardian, Anthropic twierdzi, że sztuczna inteligencja tworzy obecnie 80% własnego kodu, podczas gdy OpenAI wykorzystuje autonomicznych agentów sztucznej inteligencji w takich obszarach, jak szkolenie nowych modeli. Obydwa laboratoria zgodziły się również, aby niezależni ewaluatorzy ocenili swoje modele po ostrzeżeniu, że rozwój sztucznej inteligencji osiągnął punkt krytyczny z punktu widzenia bezpieczeństwa.

Inną kwestią jest to, czy rządy będą działać w tempie, jakiego oczekują autorzy. Jednak główny argument gazety – że moment budowy hamulców następuje, zanim samochód będzie ich potrzebował – jest obecnie popierany przez osoby znajdujące się najbliżej maszyny.

---

Wyprzedź sztuczną inteligencję

Otrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.

Przeczytaj więcej aktualności o sztucznej inteligencji →