Научно-консультативная группа ООН выступила с резким предупреждением о том, что искусственный интеллект развивается быстрее, чем нормативная и научная база, необходимая для управления им, что повышает вероятность катастрофического вреда, если этот пробел не будет срочно устранен.
Выводы комиссии, о которых сообщило агентство Reuters 1 июля 2026 года, подчеркивают растущее противоречие между головокружительными темпами развития ИИ и более медленным миром управления и надзора. Многие издания, в том числе The Times of Israel, Arab News и MSN, подтвердили эту оценку, согласно которой ИИ рассматривается как один из наиболее серьезных новых рисков для глобальной стабильности. Чтобы получить всестороннее освещение этих разработок, следите за нашими [последними разработками в области ИИ] (https://aibuzzwire.news) на сайте AI Buzz Wire.
ИИ опережает науку и политику
Основная идея комиссии заключается в том, что возможности ИИ расширяются со скоростью, превосходящей не только нормативные возможности, но и научное понимание, необходимое для оценки их безопасности. Предупреждение примечательно тем, что проблема рассматривается как системная: дело не только в том, что отдельные компании движутся слишком быстро, но и в том, что вся экосистема оценки, тестирования и надзора структурно отстает.
По сообщению Technology Org и MSN, комиссия предупредила, что системы искусственного интеллекта развертываются в условиях, когда их поведение не до конца понятно даже их создателям. Это создает то, что эксперты назвали «окном уязвимости» — период, когда используются мощные системы, но инструментов для прогнозирования или сдерживания режимов их сбоев еще не существует.
Оценка повторяет опасения, высказанные исследователями и экспертами по политике, которые утверждают, что нынешние методы тестирования, включая «красную команду» и контрольные оценки, недостаточны для выявления новых режимов сбоев во все более эффективных системах. Вмешательство комиссии ООН придает институциональный вес тому, что в основном представляло собой академические дебаты.
Глобальный Юг исключен из управления ИИ
Параллельная обеспокоенность, поднятая группой экспертов и усиленная в репортажах Arab News, заключается в исключении развивающихся стран из дискуссий, формирующих управление ИИ. Группа предупредила, что политика в области ИИ почти полностью разрабатывается богатыми странами и компаниями со штаб-квартирами в них, в результате чего глобальный Юг остается без значимого представительства в решениях, которые повлияют на их экономику, безопасность и общество.
Этот пробел в управлении имеет практические последствия. Странам, где нет отечественной индустрии искусственного интеллекта, может не хватать технических знаний для оценки импортированных систем, регулирования их использования или переговоров о справедливых условиях с компаниями, которые их поставляют. Группа призвала к более широкому включению развивающихся стран в международные форумы по управлению ИИ, утверждая, что нынешняя концентрация полномочий по принятию решений в руках горстки стран несправедлива и опасна.
Предупреждение прозвучало в то время, когда несколько стран Глобального Юга начали разрабатывать свои собственные стратегии в области искусственного интеллекта, часто имея ограниченные ресурсы и опыт. Призыв комиссии к включению отражает признание того, что риски ИИ — от экономических потрясений до автоматизированной дезинформации — не признают национальных границ.
Что означает «катастрофический риск» на практике
Использование Группой термина «катастрофический вред» имеет большое значение. В литературе по безопасности ИИ катастрофические риски обычно относятся к последствиям, связанным с крупномасштабными экономическими потрясениями, появлением оружия массового уничтожения, эрозией демократических институтов посредством автоматизированной пропаганды или сбоем критически важных инфраструктурных систем, которые зависят от ИИ.
Комиссия не уточнила, какой из этих рисков она считает наиболее вероятным. Однако широта предупреждения — охватывающего все — от научной честности до национальной безопасности — предполагает точку зрения, что совокупный профиль рисков ИИ растет быстрее, чем отдельные риски можно оценить и смягчить.
Оценка согласуется с растущим объемом исследований, проводимых такими учреждениями, как Центр безопасности искусственного интеллекта, Институт будущего человечества и различные правительственные консультативные органы. Что отличает вмешательство комиссии ООН, так это его глобальный масштаб и призыв к скоординированным международным действиям, а не разрозненные национальные правила, которые до сих пор доминировали в политическом ландшафте.
Нормативно-правовая база
Предупреждение прозвучало в момент усиления регуляторной активности. В Соединенных Штатах Белый дом активизировал усилия по установлению стандартов моделей ИИ, включая новые меры исполнительной власти, регулирующие выпуск передовых моделей. Закон Европейского Союза об искусственном интеллекте продолжает вводиться поэтапно, и в настоящее время действуют положения, касающиеся систем искусственного интеллекта высокого риска. Китай внедрил собственный набор правил в области искусственного интеллекта, ориентированный на контроль контента и алгоритмическую прозрачность.
Однако оценка комиссии предполагает, что даже эти усилия, какими бы значительными они ни были, остаются скорее реактивными, чем проактивными. Правила написаны с учетом уже существующих возможностей, в то время как следующее поколение систем уже находится в разработке. В этом структурном отставании, как предупредила комиссия, таится наибольшая опасность.
Будьте впереди ИИ
Чтобы узнать последние новости о политике, управлении и глобальных рисках в области ИИ, посетите AI Buzz Wire.
Читать больше новостей об искусственном интеллекте →
