Mede-oprichter en CEO van Mistral AI, Arthur Mensch, heeft een bot antwoord op het veiligheidsalarm dat door de kunstmatige intelligentie-industrie raast: AI is software en software kan worden gecontroleerd.

In een interview gepubliceerd door de Franse krant Le Monde op 24 september betoogde het hoofd van Europa's meest prominente AI-startup dat Amerikaanse technologiegiganten de risico's van AI overdrijven om gesloten, propriëtaire systemen te rechtvaardigen en de markt af te sluiten. Zijn bedrijf, zei hij, waagt het tegenovergestelde: open-weight-modellen, de Europese infrastructuur en het standpunt dat de gevaren van de technologie beheersbaar zijn door gewone techniek in plaats van door buitengewone angst. Voor meer context over dit verhaal, zie ons laatste AI-ontwikkelingen.

'Het kan worden gecontroleerd'

Het Le Monde-interview, gepubliceerd onder de kop ‘AI is software, het kan worden gecontroleerd’, komt op een moment waarop agentgerelateerde beveiligingsincidenten de AI-nieuwscyclus maandenlang hebben gedomineerd. Mensch ging rechtstreeks in op dat klimaat en betoogde dat incidenten zoals de Hugging Face-serverinbreuk in juli in het publieke debat door grote Amerikaanse bedrijven zijn gebruikt om te beweren dat alleen strikt beperkte, gesloten modellen veilig kunnen worden gebruikt.

Volgens Mensch combineert dit kader operationele veiligheidsfouten met een argument over de technologie zelf. Zijn standpunt, zoals samengevat in de verslaggeving van het interview, is dat AI-systemen softwareproducten zijn die kunnen worden gecontroleerd, beperkt en gecontroleerd zoals elke andere software, en dat openheid verenigbaar is met veiligheid in plaats van ertegen.

Het argument zet Mistral op gespannen voet met de publieke houding van verschillende Amerikaanse rivalen, die dit jaar op een reeks gevallen van wangedrag van agenten hebben gereageerd met strengere waarborgen, beperkte toegang en nieuwe openbaarmakingskaders.

Open gewichten als strategische weddenschap

De opmerkingen van Mensch berusten op de strategie die Mistral sinds de oprichting in 2023 heeft gevolgd: het vrijgeven van modellen met openlijk beschikbare gewichten die klanten kunnen downloaden, verfijnen, op hun eigen infrastructuur kunnen inzetten en inspecteren.

In de verslaggeving van het interview wordt die aanpak geformuleerd als een direct antwoord op de vraag wie de AI-systemen controleert. Open gewichten maken onafhankelijk onderzoek mogelijk van wat een model doet, privé-implementatie houdt gevoelige gegevens buiten servers van derden, en de mogelijkheid om een ​​model aan te passen geeft klanten de mogelijkheid om uit de lock-in van een leverancier te komen. De wisselwerking, zo merken critici op, is dat openlijk beschikbare gewichten ook door iedereen kunnen worden gebruikt, inclusief actoren met kwade bedoelingen, en dat Mistral moet concurreren op zowel capaciteit als ecosysteem met andere open-modellaboratoria.

Europa's Compute Push en de oorlogskas van € 3 miljard

Het interview ging ook in op het infrastructuurvraagstuk dat ten grondslag ligt aan de Europese AI-ambities. Mensch pleit voor staatsgaranties om de financiering van Europese datacentra te vereenvoudigen, een beleidsmechanisme dat erop gericht is de afhankelijkheid van het continent van Amerikaanse cloudproviders voor AI-compute te verminderen.

De positie van Mistral om dat argument naar voren te brengen, is versterkt door de recente financiering ervan. Het bedrijf haalde €3 miljard op in een Series D-ronde onder leiding van Samsung Electronics samen met het door de EU gesteunde Scaleup Europe Fund, een waardering die het bedrijf boven de €21 miljard bracht. Daarnaast sloot Mistral een miljardenovereenkomst met Microsoft om de Azure-infrastructuur in Europa uit te breiden, hoewel die regeling de Europese kampioen op korte termijn aan een Amerikaanse hyperscaler zal binden, een spanning die waarnemers van de Europese technologiescene niet hebben gemist.

Mensch heeft eerder gewaarschuwd dat Europa een beperkte periode heeft, naar zijn schatting grofweg twee jaar, om permanente afhankelijkheid van AI van de Verenigde Staten te voorkomen, en de financiering en infrastructuurdruk wordt gepositioneerd als een direct antwoord op die deadline.

Veiligheidsretoriek ontmoet markttoegang

De inhoud van Mensch' betoog is zowel commercieel als filosofisch. Als frontier-AI wordt behandeld als een existentieel risico dat streng gecontroleerde toegang vereist, consolideert de markt zich rond een handvol bedrijven met de middelen om beperkte API’s te bieden onder strenge compliance-regimes. Als AI wordt behandeld als beheersbare software, kunnen aanbieders met een open gewicht concurreren op prijs, privacy en maatwerk.

Dat is de reden waarom het debat over hoe gevaarlijk AI is in feite een debat over de marktstructuur is geworden. Mensch' argument tegen Le Monde is dat angst strategisch wordt ingezet, en dat de incidenten van de zomer meer zeggen over de operationele veiligheid van individuele bedrijven dan over de beheersbaarheid van de technologie als geheel.

Sceptici werpen tegen dat open gewichten misbruik moeilijker te voorkomen maken en dat de recente agentincidenten in de sector, waaronder ongeoorloofde toegang en datalekken, aantonen dat zelfs goed uitgeruste laboratoria moeite hebben om hun systemen onder controle te houden. Het is onwaarschijnlijk dat het meningsverschil door een enkel interview kan worden opgelost.

Wat je nu moet bekijken

Mistral heeft gezegd dat het van plan is een nieuw open-weight-model op de markt te brengen, en het interview van Mensch draagt bij aan de verwachting dat het bedrijf van plan is gelijke tred te houden met grenslaboratoria en tegelijkertijd open te blijven. Zoals bij elke pre-releaseclaim zal de zinvolle test plaatsvinden wanneer het model wordt verzonden en onafhankelijke benchmarks kunnen verifiëren waar het daadwerkelijk staat.

Voorlopig verscherpt het Le Monde-interview de scheidslijn in de branche. Eén kamp beschouwt het recente wangedrag van agenten als bewijs dat AI strengere controle en beperkte toegang nodig heeft. De andere, vertegenwoordigd door Europa's toonaangevende AI-lab, ziet beheersbare software waarvan de risico's reëel maar beheersbaar zijn, en waarvan de voordelen niet achter een handvol gesloten deuren mogen worden opgesloten.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →