Unul dintre „nașii inteligenței artificiale” și-a emis cel mai dur avertisment de până acum: Geoffrey Hinton, informaticianul laureat al premiului Nobel ale cărui cercetări stau la baza inteligenței artificiale moderne, spune că s-ar putea dovedi că oamenilor ar fi fost mai bine să nu dezvolte niciodată tehnologia. Într-un interviu acordat The Guardian, el a avertizat, de asemenea, că AI ar putea declanșa un incident pe scară largă - cum ar fi o întrerupere temporară a sistemelor financiare sau de energie - în acest an sau viitor.
„Ar fi fost mai bine să nu o dezvoltăm niciodată” Pentru mai multe context despre această poveste, consultați Tendințe AI în curs de desfășurare.
Hinton, în vârstă de 78 de ani, a declarat pentru The Guardian că nu este un „condamnător” cu privire la tehnologia construită pe munca sa de pionierat în rețelele neuronale artificiale. El crede că AI are încă potențialul de a oferi ceea ce el a numit un „viitor minunat” și „abundență radicală”. Dar el nu a fost ambiguu în ceea ce privește dezavantajul: „s-ar putea că ar fi fost mai bine să nu-l dezvoltăm niciodată”.
Omul de știință născut în Marea Britanie a spus că într-un deceniu – și posibil mai devreme – umanitatea va ști pe ce cale se află. Fie lumea gestionează riscurile tehnologiei și împărtășește câștigurile acesteia, fie, în cuvintele lui, „nu reușim să gestionăm riscurile și... avem un decalaj uriaș între bogați și săraci, probleme culturale uriașe, șomaj masiv, doar societatea este sfâșiată”.
Un „AI Cernobîl” ar putea sosi anul acesta sau viitorul
Hinton și-a făcut comentariile înainte de proiecția unui nou lungmetraj documentar, „AI: Probably Nothing to Worry About” – un titlu, a remarcat el, care a fost sugerat de un chatbot AI. Filmul îl prezintă pe Hinton alături de fostul său coleg Google, șeful DeepMind Demis Hassabis, și este difuzat pe Channel 4 pe 12 noiembrie, la ora 22:00, în Marea Britanie.
„Simt că am o datorie”, a spus Hinton în documentar. „Am o reputație care mă face să fiu purtător de cuvânt și trebuie să pun totul pe seama asta”.
Avertismentul său s-a bazat pe un precedent concret. Hinton a spus că consideră incidentul din această vară în care agenții AI ai OpenAI au conspirat să pirateze site-ul Hugging Face ca fiind echivalentul din industrie al colapsului parțial din 1979 de la centrala nucleară Three Mile Island - un avertisment înainte de ceva mult mai rău.
„Fie mai târziu în acest an, fie anul viitor, vom vedea Chornobyl, iar asta poate fi suficient pentru ca oamenii să fie cu adevărat atenți”, a spus el, invocând dezastrul nuclear sovietic din 1986.
Prin „Chornobyl”, Hinton nu înseamnă un eveniment nuclear. Exemplele sale: un atac activat de AI asupra sistemului de generare a energiei electrice care provoacă o „cădere masivă de energie” sau un incident care distruge sistemul financiar timp de o săptămână. „Îți poți imagina ce s-ar întâmpla? Ne-am putea recupera de la asta [dar] asta i-ar face să se ridice și să ia seama”, a spus el. Întrebat cine sunt „ei”, el a răspuns: „alții lideri mondiali decât Trump”.
Hinton despre șefii AI: Altman, Musk și Zuckerberg
O parte semnificativă a criticii lui Hinton a vizat directorii care conduceau cursa de frontieră AI. El a spus The Guardian că nu are „deloc încredere” în Sam Altman, directorul executiv al producătorului ChatGPT OpenAI, considerând că este „extrem de îngrijorător” faptul că Altman conduce una dintre puținele companii de IA de frontieră din SUA care concurează în prezent cu China pentru a construi cea mai puternică IA.
„Cred că [Mark] Zuckerberg și [Elon] Musk și Sam Altman înțeleg riscurile și nu le pasă deloc. Prefer să aibă banii. Aceasta este credința mea”, a spus Hinton.
Această evaluare este în contrast puternic cu postura publică a lui Altman. The Guardian notează că Altman a insistat în septembrie că „lumea ar trebui să aibă încredere că vom face ceea ce trebuie, pentru că este ceea ce trebuie și pentru că simțim amploarea acestui lucru”. Președintele american Donald Trump, la rândul său, a declarat că „respinge total orice încercare de a construi o schemă globalistă” pentru a controla IA și dorește ca companiile de frontieră AI să se reglementeze singure, pe fondul îngrijorării că regulile obligatorii ar putea împiedica Statele Unite în competiția cu China.
O FDA pentru modele AI
În acest context, Hinton susține o linie de reglementare mai dură: un plan susținut de președintele Finlandei și de alte 32 de țări – inclusiv Singapore, Germania, Canada și Australia – care solicită testarea obligatorie a modelelor de IA de frontieră, evaluare independentă și standarde interguvernamentale comune.
El vede, de asemenea, un rol pentru Regatul Unit, al cărui prim-ministru, Andy Burnham, a declarat că va folosi președinția G20 a Marii Britanii anul viitor pentru a căuta un acord asupra „un set unic de principii și standarde globale care vizează în mare măsură deblocarea întregului potențial, protejând în același timp împotriva riscurilor”.
Modelul preferat de Hinton este în mod explicit medical. „Avem nevoie de ceva asemănător FDA americană pentru medicamente în care companiile trebuie să ofere dovezi statistice foarte bune unei autorități independente că [modelul AI] face mai mult bine decât rău înainte de a fi lansat”, a spus el. „Am descoperit cu talidomidă că eliberarea și darea în judecată a acestora nu este modalitatea corectă de a face acest lucru. Ceea ce spun marile companii de tehnologie este să o tratăm așa cum am tratat talidomida”.
„Instinctul meu este că încă deținem controlul”
Scenariile sumbre vin de la cineva cu o stare de neegalat pentru a le face. Hinton a lucrat la IA timp de aproximativ 44 de ani, a inventat conceptul de rețea neuronală în anii 1970 și a împărtășit Premiul Nobel pentru Fizică în 2024 pentru munca fundamentală în învățarea automată. El a părăsit Google în 2023 pentru a putea vorbi liber despre riscuri, avertizând la acea vreme că, dacă sistemele AI „se lasă purtate de a obține mai mult control, avem probleme”.
Rolul său a făcut comparații cu J. Robert Oppenheimer – un prieten i-a cumpărat chiar și o pălărie în stil Oppenheimer – dar el respinge analogia. „Nu am fost Oppenheimer”, a spus el, citând miile de alți oameni de știință care au contribuit la domeniul rețelelor neuronale.
Cu toată încadrarea plină de sortimente, Hinton a încheiat interviul pe o notă condiționată de speranță. „Instinctul meu este că încă deținem controlul”, a spus el. „S-ar putea foarte bine să reușim să facem ceva. Va funcționa doar dacă depunem un efort mare în asta, dar s-ar putea foarte bine să depunem un efort mare în asta”.
Dacă lumea depune acest efort este, pe propria sa cronologie, o întrebare la care primește răspunsul în acest deceniu – posibil cu mult înainte.
---
Rămâneți înaintea AIObțineți cele mai recente știri, analize și descoperiri AI - toate într-un singur loc.
Citește mai multe știri AI →
