Cofondatorul și CEO-ul Mistral AI, Arthur Mensch, are un răspuns direct la alarma de siguranță care se răspândește în industria inteligenței artificiale: AI este software, iar software-ul poate fi controlat.

Într-un interviu publicat de ziarul francez Le Monde pe 24 septembrie, șeful celui mai important startup AI din Europa a susținut că giganții tehnologici americani exagerează riscurile AI pentru a justifica sistemele închise, proprietare și pentru a bloca piața. Compania sa, a spus el, face un pariu opus: modele deschise, infrastructură europeană și poziția că pericolele tehnologiei sunt gestionabile prin inginerie obișnuită, mai degrabă decât prin frică extraordinară. For more context on this story, see our ongoing AI trends.

„Poate fi controlat”

Interviul Le Monde, publicat sub titlul „AI este software, poate fi controlat”, vine într-un moment în care incidentele de securitate legate de agenți au dominat ciclul știrilor AI de luni de zile. Mensch a abordat în mod direct acest climat, susținând că incidente precum breșa serverului July Hugging Face au fost folosite în dezbaterea publică de marile firme americane pentru a susține că numai modelele închise, strict restricționate, pot fi operate în siguranță.

Acea încadrare, în povestirea lui Mensch, combină eșecurile de securitate operațională cu un argument despre tehnologie în sine. Poziția sa, așa cum este rezumată în acoperirea interviului, este că sistemele AI sunt produse software care pot fi auditate, restricționate și controlate ca orice alt software și că deschiderea este mai degrabă compatibilă cu siguranța decât să se opună acesteia.

Argumentul îl pune pe Mistral în dezacord cu postura publică a mai multor rivali din SUA, care au răspuns la o serie de episoade de comportament neadecvat al agenților în acest an cu măsuri de protecție mai stricte, acces restricționat și noi cadre de dezvăluire.

Open Weights ca pariu strategic

Comentariile lui Mensch se bazează pe strategia pe care Mistral a urmat-o de la înființarea sa în 2023: lansarea de modele cu greutăți disponibile în mod deschis pe care clienții le pot descărca, ajusta, implementa pe propria infrastructură și inspectează.

În acoperirea interviului, această abordare este încadrată ca un răspuns direct la întrebarea cine controlează sistemele AI. Greutățile deschise permit examinarea independentă a ceea ce face un model, implementarea privată ține datele sensibile departe de serverele terților, iar capacitatea de a modifica un model oferă clienților o ieșire din blocarea furnizorului. Schimbul, notează criticii, este că greutățile disponibile în mod deschis pot fi folosite și de oricine, inclusiv de actori cu intenții rău intenționate, iar Mistral trebuie să concureze atât pe capacitate, cât și pe ecosistem cu alte laboratoare cu model deschis.

Compute Push din Europa și cufărul de război de 3 miliarde de euro

Interviul a atins, de asemenea, problema infrastructurii care stă la baza ambițiilor Europei în domeniul inteligenței artificiale. Mensch pledează pentru garanții de stat pentru simplificarea finanțării centrelor de date europene, un mecanism de politică menit să reducă dependența continentului de furnizorii americani de cloud pentru calculul AI.

Poziția lui Mistral de a face acest argument a fost întărită de finanțarea sa recentă. Compania a strâns 3 miliarde de euro într-o rundă de Seria D condusă de Samsung Electronics împreună cu Fondul Scaleup Europe susținut de UE, o evaluare care a plasat compania peste 21 de miliarde de euro. Separat, Mistral a încheiat un acord de miliarde de dolari cu Microsoft pentru a extinde infrastructura Azure în Europa, deși acel aranjament îl leagă pe campionul european de un hyperscaler american în termen scurt, o tensiune pe care observatorii scenei tehnologice europene nu au ratat-o.

Mensch a avertizat anterior că Europa are o fereastră limitată, de aproximativ doi ani, după estimarea sa, pentru a evita dependența permanentă de AI de Statele Unite, iar impulsul de finanțare și infrastructură este poziționat ca un răspuns direct la acel termen limită.

Retorica siguranței îndeplinește accesul pe piață

Substanța argumentului lui Mensch este pe atât de comercială, pe atât de filozofică. Dacă IA de frontieră este tratată ca un risc existențial care necesită un acces strict controlat, piața se consolidează în jurul unui număr mic de companii cu resursele necesare pentru a furniza API-uri restricționate în regimuri grele de conformitate. Dacă AI este tratată ca un software controlabil, furnizorii cu greutate deschisă pot concura în ceea ce privește prețul, confidențialitatea și personalizarea.

De aceea, dezbaterea asupra cât de periculoasă este IA a devenit, de fapt, o dezbatere asupra structurii pieței. Argumentul lui Mensch pentru Le Monde este că frica este implementată strategic și că incidentele din vară spun mai mult despre securitatea operațională a companiilor individuale decât despre controlabilitatea tehnologiei în ansamblu.

Scepticii spun că greutățile deschise fac abuzul mai greu de prevenit și că incidentele recente ale agenților din industrie, care au inclus accesări neautorizate și scurgeri de date, demonstrează că chiar și laboratoarele cu resurse bine se luptă să-și controleze sistemele. Este puțin probabil ca dezacordul să fie rezolvat printr-un singur interviu.

Ce să urmărești în continuare

Mistral a spus că intenționează să livreze un nou model deschis, iar interviul lui Mensch se adaugă la așteptările că compania intenționează să țină pasul cu laboratoarele de frontieră, rămânând în același timp deschisă. Ca și în cazul oricărei revendicări pre-lansare, testul semnificativ va ajunge atunci când modelul va fi livrat și punctele de referință independente vor putea verifica unde se află de fapt.

Deocamdată, interviul Le Monde ascutește o linie de demarcație în industrie. O tabără consideră comportamentul neadecvat recent al agentului ca o dovadă că AI are nevoie de un control mai strict și acces restricționat. Celălalt, reprezentat de cel mai important laborator de inteligență artificială din Europa, vede software controlabil ale cărui riscuri sunt reale, dar gestionabile și ale căror beneficii nu ar trebui să fie încuiate în spatele unui număr de uși închise.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →