Mistral AIs medgrundare och VD Arthur Mensch har ett rakt svar på säkerhetslarmet som sveper genom industrin för artificiell intelligens: AI är mjukvara och mjukvara kan kontrolleras.

I en intervju publicerad av den franska tidningen Le Monde den 24 september hävdade chefen för Europas mest framstående AI-startup att amerikanska teknikjättar överdriver riskerna med AI för att rättfärdiga stängda, proprietära system och låsa marknaden. Hans företag, sa han, satsar på det motsatta: modeller med öppen vikt, europeisk infrastruktur och ståndpunkten att teknikens faror är hanterbara genom vanlig ingenjörskonst snarare än extraordinär rädsla. For more context on this story, see our ongoing AI trends.

'Det kan kontrolleras'

Le Monde-intervjun, publicerad under rubriken "AI är mjukvara, den kan kontrolleras", kommer vid ett ögonblick då agentrelaterade säkerhetsincidenter har dominerat AI-nyhetscykeln i månader. Mensch tog upp det klimatet direkt och hävdade att incidenter som Juli Hugging Face-serverintrånget har beväpnats i den offentliga debatten av stora amerikanska företag för att hävda att endast hårt begränsade, slutna modeller kan användas på ett säkert sätt.

Den inramningen, enligt Menschs berättande, sammanblandar driftssäkerhetsfel med ett argument om själva tekniken. Hans ståndpunkt, som sammanfattas i bevakningen av intervjun, är att AI-system är mjukvaruprodukter som kan granskas, begränsas och kontrolleras som vilken annan programvara som helst, och att öppenhet är kompatibel med säkerhet snarare än att stå emot den.

Argumentet sätter Mistral i strid med den offentliga hållningen hos flera amerikanska rivaler, som har svarat på en rad episoder av agenters missbeteende i år med skärpta skyddsåtgärder, begränsad åtkomst och nya ramverk för avslöjande.

Öppna vikter som en strategisk satsning

Menschs kommentarer vilar på den strategi som Mistral har följt sedan grundandet 2023: släppa modeller med öppet tillgängliga vikter som kunder kan ladda ner, finjustera, distribuera på sin egen infrastruktur och inspektera.

I bevakningen av intervjun framställs det tillvägagångssättet som ett direkt svar på frågan om vem som kontrollerar AI-system. Öppna vikter tillåter oberoende granskning av vad en modell gör, privat distribution håller känslig data borta från tredje parts servrar, och möjligheten att modifiera en modell ger kunderna en utgång från leverantörslåsning. Avvägningen, konstaterar kritiker, är att öppet tillgängliga vikter också kan användas av vem som helst, inklusive skådespelare med illvilliga avsikter, och Mistral måste konkurrera på både förmåga och ekosystem med andra labb med öppen modell.

Europe's Compute Push och €3 miljarder krigskassa

Intervjun berörde också infrastrukturfrågan som ligger till grund för Europas AI-ambitioner. Mensch har förespråkat statliga garantier för att förenkla finansieringen av europeiska datacenter, en policymekanism som syftar till att minska kontinentens beroende av amerikanska molnleverantörer för AI-beräkning.

Mistrals ställning att framföra det argumentet har stärkts av dess senaste finansiering. Företaget samlade in 3 miljarder euro i en serie D-runda ledd av Samsung Electronics tillsammans med den EU-stödda Scaleup Europe Fund, en värdering som placerade bolaget över 21 miljarder euro. Separat slöt Mistral ett mångmiljardprisavtal med Microsoft för att utöka Azure-infrastrukturen i Europa, även om det arrangemanget binder Europamästaren till en amerikansk hyperscaler på kort sikt, en spänning som observatörer av den europeiska teknikscenen inte har missat.

Mensch har tidigare varnat för att Europa har ett begränsat fönster, ungefär två år enligt hans uppskattning, för att undvika permanent AI-beroende av USA, och finansieringen och infrastrukturen är placerad som ett direkt svar på den deadline.

Säkerhetsretorik möter marknadstillgång

Innehållet i Menschs argument är lika mycket kommersiellt som det är filosofiskt. Om frontier AI behandlas som en existentiell risk som kräver hårt kontrollerad åtkomst, konsolideras marknaden kring en handfull företag med resurser att tillhandahålla begränsade API:er under tunga regelverk för efterlevnad. Om AI behandlas som kontrollerbar programvara kan leverantörer med öppen vikt konkurrera om pris, integritet och anpassning.

Det är därför debatten om hur farlig AI är i praktiken har blivit en debatt om marknadsstruktur. Menschs argument till Le Monde är att rädsla sätts in strategiskt, och att sommarens incidenter säger mer om driftsäkerheten för enskilda företag än om styrbarheten av tekniken som helhet.

Skeptiker motarbetar att öppna vikter gör missbruk svårare att förebygga och att branschens senaste agentincidenter, som inkluderade obehörig åtkomst och datautsläpp, visar att till och med välresursstarka labb kämpar för att kontrollera sina system. Oenigheten kommer sannolikt inte att lösas genom någon enskild intervju.

Vad du ska titta på härnäst

Mistral har sagt att de planerar att leverera en ny modell med öppen vikt, och Menschs intervju bidrar till förväntningarna på att företaget avser att hålla jämna steg med gränslaboratorier samtidigt som de är öppna. Som med alla förhandsanspråk, kommer det meningsfulla testet att komma när modellen levereras och oberoende riktmärken kan verifiera var den faktiskt står.

För nu skärper Le Monde-intervjun en skiljelinje i branschen. Ett läger ser nyligen agenters felaktiga beteenden som bevis på att AI behöver strängare kontroll och begränsad åtkomst. Den andra, representerad av Europas ledande AI-labb, ser kontrollerbar programvara vars risker är verkliga men hanterbara, och vars fördelar inte bör låsas bakom en handfull stängda dörrar.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →