Исполнительный директор Anthropic Дарио Амодей предупредил законодателей, что усиливающаяся тенденция к созданию искусственного интеллекта с открытым исходным кодом может привести общество по опасному пути, если мощные модели будут выпущены без тщательных мер безопасности, что вновь разожжет одну из самых спорных дебатов в политике в области ИИ.
Амодей, который основал и возглавляет компанию, разрабатывающую семейство моделей Claude, утверждает, что уникальная природа искусственного интеллекта с открытым исходным кодом, которая делает передовые системы бесплатными для загрузки, изменения и развертывания, создает риски, которые обычное программное обеспечение с открытым исходным кодом никогда не представляло. Его замечания, о которых сообщает Tekedia, сосредоточены на сложности контроля над способным ИИ после его публичного распространения. Дополнительную информацию об этой истории можно найти в наших текущих других историях об искусственном интеллекте.
В отличие от традиционного программного обеспечения, передовые системы искусственного интеллекта могут генерировать убедительный текст, создавать реалистичные изображения, писать компьютерный код и помогать в решении задач кибербезопасности. Амодей утверждает, что в чужих руках эти возможности могут быть использованы для автоматизации кибератак, проведения сложных кампаний по дезинформации или продвижения вредных биологических исследований.
Проблема постоянства
Один из главных рисков, которые подчеркнул Амодей, заключается в том, что как только мощная модель будет опубликована открыто, ее станет практически невозможно отозвать. Закрытые системы, управляемые компаниями, можно отслеживать, исправлять и ограничивать при появлении новых уязвимостей. Модель с открытым исходным кодом, напротив, можно копировать бесконечно и распространять в Интернете, в результате чего у разработчиков не остается механизма, ограничивающего ее использование после выпуска.
Такое постоянство, предупредил Амодей, особенно тревожит, поскольку модели приближаются к человеческому уровню при выполнении все более сложных задач. Он утверждал, что передовой ИИ должен подвергаться тщательному тестированию на безопасность, контролируемому развертыванию и соответствующему нормативному надзору, прежде чем он станет широко доступным, а не рассматриваться как обычное программное обеспечение, которое можно улучшать совместно и открыто.
Его позиция отражает растущую линию разломов в отрасли. Сторонники ИИ с открытым исходным кодом утверждают, что публичный доступ стимулирует конкуренцию, демократизирует технологический прогресс и не позволяет горстке корпораций монополизировать искусственный интеллект. Разработчики со всего мира могут проверять архитектуру модели, выявлять недостатки безопасности и совместно улучшать системы, а стартапы, исследователи и образовательные учреждения могут создавать системы, не полагаясь на дорогие проприетарные платформы.
Конкретные риски в таблице
Обеспокоенность Амодея не абстрактна. Открыто выпущенные модели уже были лишены своих защитных ограждений исследователями, использующими простые методы точной настройки, практика, которая продемонстрировала, как быстро можно снять защитные меры, как только основные веса станут общедоступными. Поскольку модели становятся все более способными решать такие задачи, как химия, биология и эксплуатация программного обеспечения, возникает беспокойство, что открытые версии могут предоставить мощные возможности субъектам, которые никогда не пройдут проверку, которую ответственные лаборатории навязывают своим клиентам.
Аспект дезинформации также привлек внимание. Модели, способные генерировать реалистичный текст, изображения и аудио в большом масштабе, могут быть использованы для вмешательства в выборы, финансового мошенничества или массового производства пропаганды. Поскольку открытая модель работает полностью на собственном оборудовании злоумышленника, отметил Амодей, здесь нет API, который можно было бы регулировать, нет учетной записи, которую нужно приостановить, и нет провайдера, который мог бы привлечь к ответственности после нанесения ущерба.
Конкурентный фон
Предупреждения Amodei прозвучали на фоне всплеска работоспособных открытых моделей от китайских разработчиков. GLM-5.2 от Zhipu, наряду с другими недорогими китайскими системами, привлек новое внимание к тому, как быстро открытые и общедоступные модели сокращают разрыв с передовыми запатентованными системами от Anthropic и OpenAI. Это конкурентное давление усилило политические дебаты о том, принесут ли ограничения на открытые выпуски преимуществ доминирующим фирмам или подвергнут общества риску злоупотреблений.
Критики позиции Amodei утверждают, что ограничение ИИ с открытым исходным кодом может непреднамеренно укрепить позиции крупных технологических компаний, ограничивая независимые инновации. Они также отмечают, что прозрачность часто позволяет исследователям выявлять уязвимости быстрее, чем закрытая разработка. Однако даже многие сторонники открытой разработки признают, что более мощные системы могут потребовать более сильных структур управления, чем предыдущие поколения программного обеспечения.
Регуляторный канат
Дискуссия приобрела актуальность, поскольку правительства всего мира обдумывают новые правила в области ИИ. Политики сталкиваются с трудным балансом: чрезмерные ограничения могут замедлить экономический рост и научные открытия, в то время как недостаточный надзор может подвергнуть общества рискам, которые трудно предвидеть. Для достижения этого баланса, предположил Амодей, необходимо сотрудничество между правительствами, технологическими компаниями, академическими исследователями и гражданским обществом.
Его показания подчеркивают один из определяющих споров десятилетия о технологической политике. По мере того, как искусственный интеллект становится более способным, общество должно решить, как поощрять инновации, сводя при этом к минимуму опасности, связанные с широким доступом к преобразующим системам. Будь то регулирование, отраслевые стандарты или международное сотрудничество, выбор, сделанный в ближайшие месяцы в отношении искусственного интеллекта с открытым исходным кодом, может определить, кто будет контролировать технологию и насколько безопасно ее развертывать на долгие годы вперед.
Позиция Anthropic соответствует давнему акценту компании на безопасности ИИ и контролируемых выпусках. Но поскольку открытые модели быстро развиваются, а регулирующие органы все еще пытаются их догнать, разрыв между предупреждениями Амодеи и темпами движения за открытый исходный код может сокращаться быстрее, чем политики смогут его закрыть.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
