Співзасновник і генеральний директор Mistral AI Артур Менш різко відповів на тривогу безпеки, яка охопила індустрію штучного інтелекту: ШІ — це програмне забезпечення, і програмним забезпеченням можна керувати.
В інтерв’ю, опублікованому французькою газетою Le Monde 24 вересня, керівник найвідомішого європейського стартапу зі штучним інтелектом стверджував, що американські технологічні гіганти перебільшують ризики штучного інтелекту, щоб виправдати закриті власні системи та заблокувати ринок. Його компанія, за його словами, робить протилежну ставку: відкриті моделі, європейська інфраструктура та позиція, що небезпеки технології можна впорати за допомогою звичайної техніки, а не надзвичайного страху. For more context on this story, see our ongoing latest AI developments.
«Це можна контролювати»
Інтерв’ю Le Monde, опубліковане під заголовком «ШІ — це програмне забезпечення, ним можна керувати», сталося в той момент, коли інциденти безпеки, пов’язані з агентами, домінували в циклі новин ШІ протягом місяців. Менш напряму звернувся до цього клімату, стверджуючи, що такі інциденти, як липневий злом сервера Hugging Face, були використані в публічних дебатах великими американськими компаніями, щоб стверджувати, що лише жорстко обмежені закриті моделі можуть працювати безпечно.
За словами Менша, це обґрунтування поєднує збої в системі безпеки з аргументом про саму технологію. Його позиція, підсумована в інтерв’ю, полягає в тому, що системи ШІ є програмними продуктами, які можна перевіряти, обмежувати та контролювати, як будь-яке інше програмне забезпечення, і що відкритість сумісна з безпекою, а не протилежна їй.
Аргумент суперечить Mistral публічній позиції кількох американських конкурентів, які відреагували на низку епізодів неналежної поведінки агентів цього року посиленням гарантій, обмеженням доступу та новими рамками розкриття інформації.
Відкриті ваги як стратегічна ставка
Коментарі Менша спираються на стратегію, яку Mistral дотримується з моменту свого заснування в 2023 році: випуск моделей із відкрито доступними вагами, які клієнти можуть завантажувати, налаштовувати, розгортати у власній інфраструктурі та перевіряти.
В інтерв’ю цей підхід розглядається як пряма відповідь на питання про те, хто контролює системи ШІ. Відкриті ваги дозволяють незалежно досліджувати, що робить модель, приватне розгортання зберігає конфіденційні дані від сторонніх серверів, а можливість модифікувати модель дає клієнтам вихід із блокування постачальника. Компроміс, відзначають критики, полягає в тому, що відкрито доступні ваги також можуть використовуватися будь-ким, включаючи акторів зі злими намірами, і Mistral має конкурувати як за можливостями, так і за екосистемою з іншими лабораторіями відкритої моделі.
Обчислювальний поштовх Європи та військова скриня вартістю 3 мільярди євро
Інтерв’ю також торкнулося питання інфраструктури, яке лежить в основі європейських амбіцій ШІ. Менш виступає за державні гарантії для спрощення фінансування європейських центрів обробки даних, політичного механізму, спрямованого на зменшення залежності континенту від американських хмарних провайдерів для обчислень ШІ.
Позиція Mistral щодо такого аргументу була посилена недавнім фінансуванням. Компанія залучила 3 мільярди євро в рамках раунду серії D під керівництвом Samsung Electronics разом із фондом Scaleup Europe Fund, який підтримується ЄС, оцінка компанії перевищила 21 мільярд євро. Окремо Mistral уклав багатомільярдну угоду з Microsoft щодо розширення інфраструктури Azure у Європі, хоча ця домовленість пов’язує європейського чемпіона з гіпермасштабувальником у США в найближчій перспективі, напруженість, яку спостерігачі європейської технологічної сцени не пропустили.
Менш раніше попереджав, що Європа має обмежене вікно, приблизно два роки, за його оцінками, щоб уникнути постійної залежності штучного інтелекту від Сполучених Штатів, і поштовх до фінансування та інфраструктури позиціонується як пряма відповідь на цей термін.
Риторика безпеки зустрічається з доступом до ринку
Суть аргументації Менша настільки ж комерційна, як і філософська. Якщо передовий штучний інтелект розглядати як екзистенціальний ризик, що вимагає суворо контрольованого доступу, ринок консолідується навколо кількох компаній, які мають ресурси для надання обмежених API у режимах суворої відповідності. Якщо штучний інтелект розглядати як кероване програмне забезпечення, відкриті постачальники можуть конкурувати за ціною, конфіденційністю та налаштуваннями.
Ось чому дебати про те, наскільки небезпечний штучний інтелект, по суті, перетворилися на дебати про структуру ринку. Аргумент Менша для Le Monde полягає в тому, що страх використовується стратегічно, і що літні інциденти говорять більше про операційну безпеку окремих компаній, ніж про контрольованість технології в цілому.
Скептики заперечують, що відкриті ваги ускладнюють запобігання зловживанням і що нещодавні інциденти з агентами в галузі, які включали несанкціонований доступ і розлив даних, демонструють, що навіть добре забезпечені лабораторії намагаються контролювати свої системи. Розбіжності навряд чи можна вирішити за допомогою однієї бесіди.
Що подивитись далі
Компанія Mistral заявила, що планує випустити нову відкриту модель, а інтерв’ю Менша підтверджує очікування, що компанія має намір йти в ногу з передовими лабораторіями, залишаючись відкритою. Як і у випадку з будь-якою попередньою заявою, значущий тест надійде, коли модель буде надіслано, а незалежні тести зможуть перевірити, де вона насправді.
На даний момент інтерв'ю Le Monde загострює лінію розмежування в галузі. Один із таборів вважає нещодавню неналежну поведінку агента доказом того, що ШІ потребує суворішого контролю та обмеженого доступу. Інший, представлений провідною європейською лабораторією штучного інтелекту, бачить кероване програмне забезпечення, ризики якого реальні, але керовані, і чиї переваги не повинні бути закриті за жменькою закритих дверей.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
