Соучредитель и генеральный директор Mistral AI Артур Менш резко ответил на тревогу безопасности, охватившую индустрию искусственного интеллекта: ИИ — это программное обеспечение, а программным обеспечением можно управлять.
В интервью, опубликованном французской газетой Le Monde 24 сентября, глава самого известного в Европе стартапа в области ИИ заявил, что американские технологические гиганты преувеличивают риски ИИ, чтобы оправдать закрытые, проприетарные системы и заблокировать рынок. Его компания, по его словам, делает противоположную ставку: модели с открытым весом, европейскую инфраструктуру и позицию, согласно которой с опасностями технологии можно справиться с помощью обычных инженерных разработок, а не чрезвычайного страха. Подробнее об этой истории — в нашем больше статей об ИИ.
«Этим можно управлять»
Интервью Le Monde, опубликованное под заголовком «ИИ — это программное обеспечение, им можно управлять», появилось в тот момент, когда инциденты безопасности, связанные с агентами, доминировали в цикле новостей об ИИ в течение нескольких месяцев. Менш напрямую обратился к этой ситуации, заявив, что такие инциденты, как июльское взлом сервера Hugging Face, были использованы в публичных дебатах крупными американскими фирмами, утверждающими, что только строго ограниченные, закрытые модели могут работать безопасно.
Такая формулировка, по словам Менша, объединяет провалы операционной безопасности с спорами о самой технологии. Его позиция, изложенная в интервью, заключается в том, что системы искусственного интеллекта — это программные продукты, которые можно проверять, ограничивать и контролировать, как и любое другое программное обеспечение, и что открытость совместима с безопасностью, а не противоречит ей.
Этот аргумент ставит Mistral в противоречие с публичной позицией нескольких американских конкурентов, которые в этом году отреагировали на ряд эпизодов неправомерного поведения агентов ужесточением мер безопасности, ограничением доступа и новыми механизмами раскрытия информации.
Открытые веса как стратегическая ставка
Комментарии Менша основаны на стратегии, которую Mistral придерживается с момента своего основания в 2023 году: выпуск моделей с общедоступными весами, которые клиенты могут загрузить, настроить, развернуть в своей собственной инфраструктуре и проверить.
В интервью этот подход сформулирован как прямой ответ на вопрос о том, кто контролирует системы ИИ. Открытые веса позволяют независимо проверять, что делает модель, частное развертывание защищает конфиденциальные данные от сторонних серверов, а возможность изменять модель дает клиентам возможность выйти из-под привязки к поставщику. Критики отмечают, что компромисс заключается в том, что общедоступные веса также могут использоваться кем угодно, в том числе злоумышленниками, и Mistral должен конкурировать как по возможностям, так и по экосистеме с другими лабораториями открытой модели.
Европейское вычислительное развитие и военный бюджет в 3 миллиарда евро
В интервью также был затронут вопрос инфраструктуры, лежащий в основе амбиций Европы в области искусственного интеллекта. Менш выступает за государственные гарантии для упрощения финансирования европейских центров обработки данных — политического механизма, направленного на снижение зависимости континента от американских облачных провайдеров для вычислений с использованием ИИ.
Позиция Mistral по этому аргументу была подкреплена недавним финансированием. Компания привлекла 3 миллиарда евро в рамках раунда серии D, проводимого Samsung Electronics совместно с поддерживаемым ЕС фондом Scaleup Europe, и такая оценка позволила компании превысить 21 миллиард евро. Кроме того, Mistral заключила многомиллиардную сделку с Microsoft о расширении инфраструктуры Azure в Европе, хотя эта договоренность связывает европейского чемпиона с американским гиперскейлером в ближайшем будущем, и наблюдатели европейской технологической сцены не упустили эту напряженность.
Менш ранее предупреждал, что у Европы есть ограниченное окно, примерно два года, по его оценке, чтобы избежать постоянной зависимости ИИ от Соединенных Штатов, и усилия по финансированию и развитию инфраструктуры позиционируются как прямой ответ на этот крайний срок.
Риторика безопасности соответствует доступу к рынку
Сущность аргументации Менша настолько же коммерческая, насколько и философская. Если передовой искусственный интеллект рассматривается как экзистенциальный риск, требующий жесткого контроля доступа, рынок консолидируется вокруг горстки компаний, обладающих ресурсами для предоставления ограниченных API в соответствии с жесткими режимами соответствия. Если ИИ рассматривать как управляемое программное обеспечение, поставщики открытого доступа смогут конкурировать по цене, конфиденциальности и настройке.
Вот почему дебаты о том, насколько опасен ИИ, по сути, превратились в дебаты о структуре рынка. Аргумент Менша в интервью Le Monde заключается в том, что страх используется стратегически и что летние инциденты говорят больше об операционной безопасности отдельных компаний, чем о управляемости технологии в целом.
Скептики возражают, что открытые веса усложняют предотвращение злоупотреблений и что недавние инциденты с агентами в отрасли, включая несанкционированный доступ и утечку данных, демонстрируют, что даже лаборатории с хорошими ресурсами с трудом контролируют свои системы. Разногласия вряд ли удастся разрешить в ходе одного-единственного собеседования.
Что посмотреть дальше
Mistral заявила, что планирует выпустить новую модель с открытым весом, и интервью Менша усиливает ожидания того, что компания намерена идти в ногу с передовыми лабораториями, оставаясь при этом открытой. Как и в случае с любым предварительным заявлением, значимое испытание произойдет, когда модель будет выпущена, а независимые тесты смогут подтвердить ее фактическое состояние.
На данный момент интервью Le Monde обостряет разделительную линию в отрасли. Один лагерь рассматривает недавнее неправомерное поведение агентов как свидетельство того, что ИИ нуждается в более строгом контроле и ограничении доступа. Другая, представленная ведущей европейской лабораторией искусственного интеллекта, видит контролируемое программное обеспечение, риски которого реальны, но управляемы, и чьи преимущества не должны скрываться за горсткой закрытых дверей.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
