Директор Центра стандартов и инноваций в области искусственного интеллекта Министерства торговли подал в отставку после примерно трех месяцев работы, оставив ключевую часть аппарата надзора за искусственным интеллектом федерального правительства без своего руководителя в момент обострения дебатов о том, как регулировать пограничные модели.

Об уходе впервые сообщило издание Axios, которое охарактеризовало его как сенсацию с участием главы так называемого агентства по безопасности искусственного интеллекта администрации Трампа. The Hill, CNBC, Reuters и CyberScoop последовали подтверждениям: The Hill сообщила, что «руководитель отдела безопасности ИИ Министерства торговли» ушел в отставку, а CNBC заявила, что «глава агентства по безопасности ИИ при администрации Трампа уходит в отставку после 3 месяцев работы». CyberScoop сообщил, что «директор отдела стандартов коммерческого искусственного интеллекта» уволился «через три месяца».

Чем занимается офис

Центр стандартов и инноваций ИИ, известный под аббревиатурой CASI, находится в Министерстве торговли, и ему поручено сформировать федеральный подход к стандартам ИИ — техническим критериям и основам безопасности, которые определяют, как передовые модели тестируются, сравниваются и, при необходимости, ограничиваются. Это делает его лидерство значимым: кто бы ни руководил офисом, он помогает определить критерий, по которому правительство оценивает, достаточно ли безопасна система искусственного интеллекта для развертывания.

Отставка всего через три месяца необычна для должности такого значения. Хотя конкретные причины не были подробно описаны в первоначальных отчетах, краткость срока пребывания в должности сама по себе является сигналом, предполагающим либо внутренние разногласия по поводу направления политики США в области искусственного интеллекта, либо трудности с привлечением и удержанием высокопоставленных технических специалистов, желающих ориентироваться в глубоко политизированной сфере надзора.

Надзор в Flux

Уход происходит на фоне более широкого изменения в том, как Вашингтон пытается управлять ИИ. Всего днем ​​ранее Белый дом, как сообщалось, рассматривал возможность создания независимого регулятора в стиле FINRA для контроля за передовыми моделями искусственного интеллекта. Это предложение само по себе вызвало сопротивление со стороны некоторых представителей технологической отрасли. Сообщалось, что в тот же день, когда была отставка, администрация возобновила усилия по ограничению китайских моделей искусственного интеллекта по соображениям кибербезопасности, а законодатели оказывали давление на министра торговли Говарда Лютника, чтобы тот запретил использование китайских чипов памяти в союзных цепочках поставок.

Эта группа историй рисует картину политического механизма искусственного интеллекта, находящегося в условиях одновременного расширения и напряжения. Правительство пытается одновременно создать новый регулирующий орган, контролировать иностранные модели, ограничить использование иностранных чипов и укомплектовать персоналом технический офис, призванный поддерживать все это - даже несмотря на то, что лидер этой последней попытки уходит за дверь через четверть после вступления в должность.

Почему стабильность руководства важна для безопасности ИИ

Эффективный надзор за ИИ зависит от институциональной памяти. Установление стандартов — это медленная техническая работа, которая вознаграждает за преемственность: людям, пишущим тесты, нужно время, чтобы понять модели, построить отношения с лабораториями и завоевать доверие как отрасли, так и общественности. Частая смена руководителей разрушает все три. Это также дает преимущество контролируемым компаниям, которые могут переждать сменный состав регулирующих органов.

Отставка также усложняет способность правительства выступать в качестве нейтрального арбитра в гонке стандартов. В условиях, когда китайские лаборатории выпускают передовые модели с открытым весом, а американские компании агрессивно лоббируют форму регулирования, технический отдел, которому поручено сортировать конкурирующие претензии, теперь ищет новое руководство.

Не следует недооценивать сложность выполнения этой роли. Работа по стандартизации находится на стыке инженерии, права и политики, и небольшой круг людей, квалифицированных для ее руководства, должен ориентироваться в конкурирующих требованиях со стороны передовых лабораторий, мелких разработчиков, агентств национальной безопасности и групп гражданского общества. Короткий, громкий срок пребывания в должности рискует отпугнуть следующего кандидата, который может резонно задаться вопросом, дает ли эта должность достаточный авторитет и взлетную полосу для достижения чего-то долговременного. Каждый такой цикл отодвигает Соединенные Штаты все дальше от того стабильного и заслуживающего доверия надзора, который стремятся создать другие правительства.

Общая картина

Этот выход соответствует модели нестабильности, которая омрачает усилия США по управлению искусственным интеллектом. Смена руководства, изменение мандатов и напряженность между теми, кто хочет агрессивных ограничений, и теми, кто опасается чрезмерного вмешательства, неоднократно замедляли способность правительства идти в ногу с технологиями, за которыми оно призвано следить. Каждое громкое отступление усиливает мнение — справедливое или нет — о том, что федеральный аппарат надзора за ИИ все еще находит свою опору.

Для компаний, создающих передовые модели, немедленным эффектом может стать неопределенность регулирования, а не облегчение ситуации. Офис без подтвержденного лидера склонен откладывать решения, а не ослаблять их, в результате чего фирмы не уверены в том, какие стандарты будут применяться и когда. А для общественности ставки очевидны: качество стандартов искусственного интеллекта определяет, будут ли системы, все более вплетенные в медицину, финансы и информацию, тщательно тестироваться или штамповаться.

Будьте впереди ИИ

Форма регулирования ИИ решается прямо сейчас, в офисах, которые большинство людей никогда не видят. Чтобы получить четкое и достоверное освещение политики и людей, управляющих искусственным интеллектом, посетите нашу домашнюю страницу aibuzzwire.news.

Читать больше новостей об искусственном интеллекте →