Współzałożyciel i dyrektor generalny Mistral AI, Arthur Mensch, bez ogródek odpowiada na alarm bezpieczeństwa rozprzestrzeniający się w branży sztucznej inteligencji: sztuczna inteligencja to oprogramowanie, a oprogramowaniem można sterować.
W wywiadzie opublikowanym 24 września przez francuską gazetę Le Monde szef najważniejszego w Europie startupu AI przekonywał, że amerykańscy giganci technologiczni wyolbrzymiają ryzyko związane ze sztuczną inteligencją, aby usprawiedliwić zamknięte, zastrzeżone systemy i zablokować rynek. Powiedział, że jego firma stawia na odwrotne założenie: modele o otwartej wadze, europejska infrastruktura i stanowisko, że zagrożenia związane z technologią można pokonać za pomocą zwykłej inżynierii, a nie nadzwyczajnego strachu. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.
„Można to kontrolować”
Wywiad dla Le Monde, opublikowany pod tytułem „Sztuczna inteligencja to oprogramowanie, można je kontrolować” pojawia się w momencie, gdy incydenty związane z bezpieczeństwem związane z agentami dominują od miesięcy w cyklach informacyjnych dotyczących sztucznej inteligencji. Mensch bezpośrednio odniósł się do tej sytuacji, utrzymując, że incydenty takie jak lipcowe naruszenie serwera Hugging Face zostały wykorzystane w debacie publicznej przez duże amerykańskie firmy do argumentowania, że tylko ściśle ograniczone, zamknięte modele mogą być bezpiecznie obsługiwane.
Według Menscha takie podejście łączy błędy w zakresie bezpieczeństwa operacyjnego z argumentem dotyczącym samej technologii. Jego stanowisko, jak podsumowano w relacji wywiadu, jest takie, że systemy sztucznej inteligencji to oprogramowanie, które można kontrolować, ograniczać i kontrolować jak każde inne oprogramowanie, oraz że otwartość jest zgodna z bezpieczeństwem, a nie przeciwna.
Argument ten stoi w sprzeczności z postawą publiczną kilku amerykańskich rywali, którzy w tym roku zareagowali na serię incydentów niewłaściwego zachowania agentów zaostrzonymi zabezpieczeniami, ograniczonym dostępem i nowymi ramami ujawniania informacji.
Otwarte ciężary jako zakład strategiczny
Komentarze Menscha opierają się na strategii, którą Mistral realizuje od chwili swojego powstania w 2023 r.: wypuszczanie modeli z ogólnodostępnymi ciężarami, które klienci mogą pobrać, dostroić, wdrożyć we własnej infrastrukturze i sprawdzić.
W relacji wywiadu podejście to przedstawiono jako bezpośrednią odpowiedź na pytanie, kto kontroluje systemy sztucznej inteligencji. Otwarte wagi umożliwiają niezależne badanie działania modelu, wdrożenie prywatne chroni poufne dane przed serwerami innych firm, a możliwość modyfikowania modelu pozwala klientom uwolnić się od uzależnienia od dostawcy. Krytycy zauważają, że kompromis polega na tym, że ogólnodostępne ciężarki mogą być również wykorzystywane przez każdego, w tym przez podmioty mające złe zamiary, a Mistral musi konkurować zarówno pod względem możliwości, jak i ekosystemu z innymi laboratoriami modelu otwartego.
Europejskie wsparcie obliczeniowe i skrzynia wojenna o wartości 3 miliardów euro
W wywiadzie poruszono także kwestię infrastruktury, która leży u podstaw europejskich ambicji w zakresie sztucznej inteligencji. Mensch opowiada się za gwarancjami państwowymi w celu uproszczenia finansowania europejskich centrów danych, co stanowi mechanizm polityczny mający na celu zmniejszenie zależności kontynentu od amerykańskich dostawców usług w chmurze w zakresie obliczeń AI.
Stanowisko Mistral opierające się na tej argumentacji zostało wzmocnione dzięki niedawnemu finansowaniu. Firma zebrała 3 miliardy euro w rundzie serii D prowadzonej przez Samsung Electronics wraz ze wspieranym przez UE funduszem Scaleup Europe Fund, a wycena ta plasuje firmę na poziomie ponad 21 miliardów euro. Niezależnie od tego Mistral zawarł wielomiliardową umowę z Microsoftem na rozbudowę infrastruktury Azure w Europie, choć umowa ta wiąże europejskiego mistrza z amerykańskim hiperskalerem w najbliższej przyszłości, a jest to napięcie, którego nie przeoczą obserwatorzy europejskiej sceny technologicznej.
Mensch ostrzegał już wcześniej, że Europa ma ograniczone okno, według jego szacunków około dwóch lat, na uniknięcie trwałej zależności od sztucznej inteligencji od Stanów Zjednoczonych, a naciski na finansowanie i infrastrukturę postrzega się jako bezpośrednią reakcję na ten termin.
Retoryka bezpieczeństwa spotyka się z dostępem do rynku
Treść argumentacji Menscha jest w równym stopniu komercyjna, co filozoficzna. Jeśli graniczna sztuczna inteligencja będzie traktowana jako ryzyko egzystencjalne wymagające ściśle kontrolowanego dostępu, rynek konsoliduje się wokół kilku firm posiadających zasoby umożliwiające dostarczanie ograniczonych interfejsów API w ramach rygorystycznych systemów zgodności. Jeśli sztuczną inteligencję potraktuje się jako oprogramowanie, które można kontrolować, dostawcy rozwiązań open-weight mogą konkurować ceną, prywatnością i dostosowywaniem.
Dlatego debata na temat tego, jak niebezpieczna jest sztuczna inteligencja, stała się w rzeczywistości debatą na temat struktury rynku. Mensch argumentuje dla Le Monde, że strach jest wykorzystywany strategicznie i że letnie incydenty mówią więcej o bezpieczeństwie operacyjnym poszczególnych firm niż o możliwości kontrolowania technologii jako całości.
Sceptycy twierdzą, że otwarte wagi utrudniają zapobieganie nadużyciom i że niedawne incydenty z agentami w branży, które obejmowały nieautoryzowany dostęp i wycieki danych, pokazują, że nawet laboratoria posiadające duże zasoby mają trudności z kontrolowaniem swoich systemów. Jest mało prawdopodobne, aby spór został rozstrzygnięty w drodze pojedynczego wywiadu.
Co obejrzeć dalej
Mistral powiedział, że planuje wprowadzić na rynek nowy model o otwartej wadze, a wywiad z Menschem pogłębia oczekiwania, że firma zamierza dotrzymać kroku pionierskim laboratoriom, pozostając jednocześnie otwarta. Podobnie jak w przypadku wszelkich roszczeń przedpremierowych, znaczący test nastąpi, gdy statki modelowe i niezależne testy porównawcze będą w stanie zweryfikować, na czym faktycznie stoi.
Na razie wywiad dla „Le Monde” zaostrza linię podziału w branży. Jeden z obozów postrzega niedawne niewłaściwe zachowanie agentów jako dowód na to, że sztuczna inteligencja potrzebuje ściślejszej kontroli i ograniczonego dostępu. Drugi, reprezentowany przez wiodące europejskie laboratorium sztucznej inteligencji, widzi kontrolowalne oprogramowanie, którego ryzyko jest realne, ale możliwe do zarządzania, a którego korzyści nie powinny być zamknięte za garstką zamkniętych drzwi.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
