Peste 20 de cercetători, printre care laureatul Nobel Geoffrey Hinton, colegul pionier al inteligenței artificiale Yoshua Bengio, co-fondatorul Anthropic Jack Clark și omul de știință șef al OpenAI, Jakub Pachocki, au avertizat guvernele să se pregătească pentru o „explozie a inteligenței artificiale” despre care spun că ar putea fi cea mai importantă dezvoltare tehnologică din istorie, a raportat luni The Guardian.

Lucrarea, intitulată „Și ce se întâmplă dacă automatizarea cercetării și dezvoltării AI declanșează o explozie de informații”, îi îndeamnă pe politicieni să acționeze înainte ca tehnologia să progreseze. Autorii săi descriu scenariul ca fiind o „accelerare dramatică a progresului AI condusă de AI, comprimând progrese care altfel ar dura ani în luni sau mai puțin”. Pentru cititorii care urmăresc cele mai recente știri despre cercetarea AI, raportul este notabil mai puțin pentru alarma sa decât pentru cine l-a semnat: cifre din mediul academic și din laboratoarele de frontieră rivale, susținând împreună că cercetarea automatizată este scenariul pentru care factorii de decizie sunt cel mai puțin pregătiți.

Ce ar însemna o explozie de informații

Preocuparea centrală a autorilor este perspectiva ca sistemele AI să se îmbunătățească singure fără intervenția umană - un proces cunoscut sub numele de auto-îmbunătățire recursivă, la care se face referire în general ca cercetare și dezvoltare automată AI.

Odată ce sistemele AI ating capacități la nivel de experți la AI R&D, susține lucrarea, un singur dezvoltator ar putea conduce o forță de muncă echivalentă cu „milioane” de cercetători umani de top. Automatizarea cercetării și dezvoltării AI este, în opinia autorilor, cel mai probabil declanșator al unei explozii de inteligență, deoarece sistemele AI contribuie deja la îmbunătățirea propriei tehnologii – iar sistemele îmbunătățite pe care le ajută să le creeze pot fi implementate rapid odată construite.

„O explozie de informații ar putea fi cea mai importantă dezvoltare tehnologică din istoria omenirii, comprimând anii de progres în luni sau mai puțin, amenințănd controlul uman asupra sistemelor AI și erodând grav controlul puterii în și între state, companii și ramuri ale guvernului”, se spune în ziar, potrivit The Guardian.

De ce autorii spun că fereastra se închide

Urgența raportului se bazează pe o afirmație cronologică: sistemele de inteligență artificială care astăzi par greșite ar putea automatiza pe deplin proiectele de cercetare și dezvoltare care necesită în prezent echipelor umane luni până în 2028.

„Câștigurile de productivitate din automatizarea cercetării și dezvoltării AI nu au atins încă pragul necesar pentru a declanșa o explozie de informații, dar câștigurile din sistemele mai noi se apropie probabil de acest prag”, scriu autorii. „Odată ce începe o explozie de informații, fereastra de acțiune se poate închide.”

Lucrarea adaugă că „dovezile preliminare sugerează că este posibilă o explozie de inteligență bazată pe software”, ceea ce ar putea duce la „dezvoltarea extrem de rapidă a sistemelor AI de înaltă capacitate sau supraumane”.

Riscurile pe care le semnalează

În timp ce o explozie de informații ar putea produce descoperiri medicale și salturi tehnologice rapide, autorii subliniază trei pericole principale:

  • Amenințări fugitive. Sistemele puternice ar putea permite amenințări biologice și cibernetice care se dezvoltă mai repede decât măsurile necesare pentru a le contracara.
  • A pierdut controlul. Pe măsură ce oamenii devin mai puțin implicați în cercetarea și dezvoltarea IA, ar putea pierde oportunitatea de a direcționa și constrânge sistemele pe care le construiesc.
  • Instabilitate strategică. Statele ar putea folosi o explozie de informații pentru a transforma un avans modest – în spațiul cibernetic, de exemplu – într-un avantaj național decisiv.

Raportul este sincer că aceste impacturi sunt „incerte”. O descoperire tehnologică ar putea dura timp pentru a implementa anumite lanțuri de aprovizionare pentru materiale specializate sau cerințe de reglementare, iar sistemele de inteligență artificială ar putea, de asemenea, să accelereze viteza cu care riscurile sunt atenuate.

Ce ar trebui să facă guvernele

Autorii spun că pregătirea pentru o explozie de informații „ar trebui să fie o prioritate urgentă, inclusiv la cele mai înalte niveluri de conducere guvernamentală”, și stabilesc un set de politici de candidat:

  • Solicitarea unor rapoarte transparente de progres privind cercetarea și dezvoltarea în domeniul IA, inclusiv încorporarea auditorilor independenți în companiile AI
  • Limitarea cât de repede se poate îmbunătăți un sistem AI într-o anumită perioadă de timp
  • Lucrul cu centrele de date pentru a permite întreruperea anumitor proiecte de cercetare și dezvoltare AI
  • Asigurarea că sistemele automate de cercetare și dezvoltare AI sunt complet izolate și nu pot scăpa de controlul uman
  • Crearea „planurilor de răspuns în caz de urgență” pentru gama de scenarii pe care le-ar putea produce o explozie de informații

Propunerile extind ideile aflate deja în mișcare prin politica occidentală de inteligență artificială – raportare obligatorie a incidentelor, evaluare terță parte și guvernare a calculelor – dar le aplică la un punct final specific: automatizarea cercetării în sine.

De ce acești autori și de ce acum

Semnatarii acordă hârtiei o greutate neobișnuită. Hinton și Bengio sunt doi dintre „nașii” inteligenței artificiale moderne, recunoscuți pentru munca de bază asupra rețelelor neuronale; ambele au devenit voci proeminente care avertizează despre tehnologia pe care au ajutat-o ​​să creeze. Clark a co-fondat Anthropic, iar Pachocki este om de știință șef la OpenAI.

Avertismentul lor aterizează pe fondul unei mișcări măsurabile a industriei în această direcție. Anthropic a spus că AI produce acum 80% din propriul cod, în timp ce OpenAI utilizează agenți AI autonomi în domenii precum antrenarea noilor modele, potrivit The Guardian. Ambele laboratoare au convenit, de asemenea, ca evaluatori independenți să-și evalueze modelele după ce au avertizat că dezvoltarea AI atinge un pas critic în ceea ce privește siguranța.

Dacă guvernele se vor mișca în ritmul pe care îl doresc autorii este o altă întrebare. Dar argumentul de bază al lucrării - că momentul de a construi frânele este înainte ca mașina să aibă nevoie de ele - este acum susținut de cei mai apropiați mașini.

---

Rămâneți înaintea AI

Obțineți cele mai recente știri, analize și descoperiri AI - toate într-un singur loc.

Citiți mai multe știri AI →