Spoluzakladatel a generální ředitel Mistral AI Arthur Mensch má na bezpečnostní poplach, který se šíří průmyslem umělé inteligence, přímou reakci: AI je software a software lze ovládat.
V rozhovoru, který zveřejnil francouzský list Le Monde 24. září, šéf nejprominentnějšího evropského startupu AI tvrdil, že američtí technologickí giganti zveličují rizika AI, aby ospravedlnili uzavřené, proprietární systémy a uzamkli trh. Jeho společnost, řekl, sází opačně: modely s otevřenou váhou, evropskou infrastrukturu a postoj, že technologická nebezpečí jsou zvládnutelná běžným inženýrstvím spíše než mimořádným strachem. For more context on this story, see our ongoing more AI stories.
'Lze to ovládat'
Rozhovor pro Le Monde, publikovaný pod titulkem „AI je software, lze jej ovládat“, přichází v okamžiku, kdy bezpečnostní incidenty související s agenty dominují cyklu zpráv o AI po celé měsíce. Mensch se k tomuto klimatu vyjádřil přímo a tvrdil, že incidenty, jako je červencové narušení serveru Hugging Face, byly ve veřejné debatě zneužity velkými americkými firmami, aby tvrdily, že bezpečně lze provozovat pouze přísně omezené, uzavřené modely.
Toto rámování, v Menschově vyprávění, spojuje selhání provozní bezpečnosti s argumentem o technologii samotné. Jeho postoj, jak je shrnut v pokrytí rozhovoru, je, že systémy umělé inteligence jsou softwarové produkty, které lze auditovat, omezovat a kontrolovat jako jakýkoli jiný software, a že otevřenost je s bezpečností spíše kompatibilní, než proti ní.
Tento argument staví Mistral do rozporu s veřejným postojem několika amerických rivalů, kteří letos reagovali na řadu epizod špatného chování agentů zpřísněnými ochrannými opatřeními, omezeným přístupem a novými rámce pro zveřejňování.
Otevřené váhy jako strategická sázka
Komentáře společnosti Mensch se týkají strategie, kterou Mistral sleduje od svého založení v roce 2023: vydávání modelů s volně dostupnými závažími, které si zákazníci mohou stáhnout, vyladit, nasadit na vlastní infrastrukturu a zkontrolovat.
V pokrytí rozhovoru je tento přístup koncipován jako přímá odpověď na otázku, kdo ovládá systémy umělé inteligence. Otevřené váhy umožňují nezávislé zkoumání toho, co model dělá, soukromé nasazení chrání citlivá data mimo servery třetích stran a možnost upravit model umožňuje zákazníkům opustit uzamčení dodavatele. Kompromisem, poznamenávají kritici, je, že otevřeně dostupné váhy může také použít kdokoli, včetně herců se zlými úmysly, a Mistral musí konkurovat jak schopnostmi, tak ekosystémem s ostatními laboratořemi s otevřeným modelem.
European Compute Push a 3 miliardy eur War Chest
Rozhovor se také dotkl otázky infrastruktury, která je základem evropských ambicí v oblasti umělé inteligence. Mensch obhajuje státní záruky pro zjednodušení financování evropských datových center, politický mechanismus zaměřený na snížení závislosti kontinentu na amerických cloudových poskytovatelích pro výpočet AI.
Pozice Mistralu, který tento argument předložil, byla posílena jeho nedávným financováním. Společnost získala 3 miliardy EUR v kole série D vedeném společností Samsung Electronics spolu s fondem Scaleup Europe podporovaným EU, což je ocenění, které společnost převyšuje 21 miliard EUR. Samostatně Mistral uzavřel s Microsoftem multimiliardovou dohodu o rozšíření infrastruktury Azure v Evropě, ačkoli toto uspořádání spojuje evropského šampióna s americkým hyperscalerem v blízké budoucnosti, což je napětí, které pozorovatelům evropské technologické scény neuniklo.
Mensch již dříve varoval, že Evropa má omezené okno, podle jeho odhadu zhruba dva roky, aby se vyhnula trvalé závislosti AI na Spojených státech, a finanční a infrastrukturní tlak je umístěn jako přímá reakce na tento termín.
Bezpečnostní rétorika se setkává s přístupem na trh
Podstata Menschova argumentu je stejně komerční jako filozofická. Pokud je hraniční umělá inteligence považována za existenční riziko vyžadující přísně kontrolovaný přístup, trh se konsoliduje kolem hrstky společností se zdroji k poskytování omezených API v rámci přísných režimů dodržování předpisů. Pokud je umělá inteligence považována za ovladatelný software, mohou poskytovatelé otevřené váhy soutěžit v ceně, soukromí a přizpůsobení.
To je důvod, proč se debata o tom, jak nebezpečná je AI, stala ve skutečnosti debatou o struktuře trhu. Menschův argument pro Le Monde je, že strach je nasazován strategicky a letní incidenty vypovídají více o provozní bezpečnosti jednotlivých společností než o ovladatelnosti technologie jako celku.
Skeptici namítají, že otevřené váhy znesnadňují předcházení zneužití a že nedávné incidenty agentů v tomto odvětví, které zahrnovaly neoprávněné přístupy a úniky dat, ukazují, že i dobře vybavené laboratoře mají potíže s kontrolou svých systémů. Je nepravděpodobné, že by se neshoda urovnala jediným pohovorem.
Na co se podívat dále
Mistral řekl, že plánuje dodat nový model s otevřenou váhou, a Menschův rozhovor přidává k očekávání, že společnost hodlá držet krok s hraničními laboratořemi a přitom zůstat otevřená. Stejně jako u jakéhokoli nároku před vydáním, smysluplný test dorazí, až bude model odeslán a nezávislé srovnávací testy mohou ověřit, kde skutečně stojí.
Rozhovor v Le Monde prozatím vyostřuje dělicí čáru v oboru. Jeden tábor vidí nedávné špatné chování agentů jako důkaz, že AI potřebuje přísnější kontrolu a omezený přístup. Druhý, zastoupený přední evropskou laboratoří pro umělou inteligenci, vidí ovladatelný software, jehož rizika jsou reálná, ale zvládnutelná a jehož výhody by neměly být zavřeny za hrstkou zavřených dveří.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
