Directorul executiv antropic, Dario Amodei, i-a avertizat pe parlamentari că tendința de accelerare către inteligența artificială open-source ar putea conduce societatea pe o cale periculoasă dacă modelele puternice sunt lansate fără garanții atente, reaprinzând una dintre cele mai controversate dezbateri din politica AI.

Amodei, care a fondat și conduce compania din spatele familiei de modele Claude, a susținut că natura unică a AI open-source, care face ca sistemele avansate să fie disponibile gratuit pentru descărcare, modificare și implementare de oricine, creează riscuri pe care software-ul convențional open-source nu le-a prezentat niciodată. Remarcile sale, raportate de Tekedia, se concentrează pe dificultatea de a controla AI capabilă odată ce aceasta a fost distribuită public. Pentru mai mult context despre această poveste, consultați [mai multe povești AI] (https://aibuzzwire.news).

Spre deosebire de software-ul tradițional, sistemele AI de ultimă oră pot genera text convingător, pot produce imagini realiste, pot scrie cod de computer și pot ajuta la sarcinile de securitate cibernetică. Amodei susține că, în mâini greșite, aceste capacități ar putea fi exploatate pentru a automatiza atacurile cibernetice, a organiza campanii sofisticate de dezinformare sau pentru a avansa cercetările biologice dăunătoare.

Problema permanenței

Unul dintre riscurile centrale pe care Amodei le-a evidențiat este că, odată ce un model puternic este lansat în mod deschis, devine efectiv imposibil de reamintit. Sistemele închise operate de companii pot fi monitorizate, corectate și restricționate atunci când apar noi vulnerabilități. Un model open-source, dimpotrivă, poate fi copiat pe termen nelimitat și redistribuit pe internet, lăsând dezvoltatorilor niciun mecanism pentru a-și limita utilizarea după lansare.

Această permanență, a avertizat Amodei, este deosebit de îngrijorătoare pe măsură ce modelele se apropie de performanța la nivel uman în sarcini din ce în ce mai complexe. El a susținut că IA avansată ar trebui supusă unor teste de siguranță robuste, implementare controlată și supraveghere reglementară adecvată înainte de a deveni accesibilă pe scară largă, în loc să fie tratată ca un software obișnuit care poate fi îmbunătățit în mod colaborativ în mod deschis.

Poziția sa reflectă o linie de falie în creștere în industrie. Susținătorii IA cu sursă deschisă susțin că accesul public stimulează concurența, democratizează progresul tehnologic și împiedică o mână de corporații să monopolizeze inteligența artificială. Dezvoltatorii din întreaga lume pot inspecta arhitectura modelului, defectele de securitate la suprafață și pot îmbunătăți sistemele în colaborare, în timp ce startup-urile, cercetătorii și instituțiile de învățământ pot construi fără a depinde de platforme proprietare costisitoare.

Riscuri specifice pe masă

Preocupările lui Amodei nu sunt abstracte. Modelele lansate în mod deschis au fost deja dezbrăcate de balustradele lor de siguranță de către cercetători folosind tehnici simple de reglare fină, o practică care a demonstrat cât de repede pot fi îndepărtate măsurile de protecție odată ce greutățile de bază sunt publice. Pe măsură ce modelele devin mai capabile în sarcini precum chimia, biologia și exploatarea software-ului, îngrijorarea este că versiunile deschise ar putea oferi capabilități puternice actorilor care nu ar trece niciodată de screening-ul pe care laboratoarele responsabile le impun clienților lor.

Dimensiunea dezinformarii a atras si ea atentie. Modelele care pot genera text, imagini și sunet realiste la scară ar putea fi îndreptate către interferența electorală, frauda financiară sau producția în masă de propagandă. Deoarece un model deschis funcționează în întregime pe propriul hardware al atacatorului, a remarcat Amodei, nu există nicio API de accelerat, niciun cont de suspendat și niciun furnizor care să tragă la răspundere odată ce daunele sunt făcute.

Un fundal competitiv

Avertismentele lui Amodei vin pe fondul unui val de modele deschise capabile de la dezvoltatorii chinezi. GLM-5.2 de la Zhipu, împreună cu alte sisteme chinezești low-cost, a atras o nouă atenție asupra cât de repede modelele deschise și disponibile în mod deschis reduc decalajul cu sistemele proprietare de frontieră de la Anthropic și OpenAI. Această presiune concurențială a intensificat dezbaterea de politică cu privire la dacă restricțiile privind lansările deschise ar avantaja firmele dominante sau ar expune societățile la utilizarea abuzivă.

Criticii poziției lui Amodei susțin că restricționarea AI open-source ar putea înrădăcina, din neatenție, marile companii de tehnologie prin limitarea inovației independente. Ei observă, de asemenea, că transparența permite frecvent cercetătorilor să identifice vulnerabilități mai rapid decât o face dezvoltarea închisă. Chiar și mulți susținători ai dezvoltării deschise recunosc, totuși, că sistemele din ce în ce mai puternice pot necesita cadre de guvernare mai puternice decât generațiile anterioare de software.

Funcția de reglementare

Discuția a devenit urgentă, deoarece guvernele din întreaga lume cântăresc noile reglementări AI. Factorii de decizie se confruntă cu un echilibru dificil: restricțiile excesive ar putea încetini creșterea economică și descoperirile științifice, în timp ce o supraveghere insuficientă ar putea expune societățile la riscuri greu de anticipat. Găsirea acestui echilibru, a sugerat Amodei, necesită colaborarea între guverne, companiile de tehnologie, cercetătorii academicieni și societatea civilă.

Mărturia sa subliniază una dintre dezbaterile definitorii ale politicii tehnologice ale deceniului. Pe măsură ce inteligența artificială devine mai capabilă, societatea trebuie să decidă cum să încurajeze inovarea, minimizând în același timp pericolele asociate cu accesul pe scară largă la sistemele transformatoare. Fie prin reglementări, standarde din industrie sau cooperare internațională, alegerile făcute în lunile următoare cu privire la IA open-source ar putea influența cine controlează tehnologia și cât de sigur este implementată, pentru anii următori.

Pentru Anthropic, poziția este în concordanță cu accentul de lungă durată al companiei pe siguranța AI și lansările controlate. Dar, având în vedere că modelele deschise avansează rapid și autoritățile de reglementare încă se străduiesc să ajungă din urmă, decalajul dintre avertismentele lui Amodei și ritmul mișcării open-source s-ar putea reduce mai repede decât o pot închide factorii de decizie.

---

Rămâneți înaintea AI

Obțineți cele mai recente știri, analize și descoperiri despre AI - toate într-un singur loc.

Citește mai multe știri AI →