Министерство обороны выпустило новое руководство для персонала, заключающего контракты и программы, призванного гарантировать, что системы искусственного интеллекта, которые закупает Пентагон, соответствуют принципам закупок администрации Трампа «поиск истины» и «идеологическая нейтральность», сообщила в понедельник Федеральная сеть новостей.
Директива, изданная Джоном Тенальей, главным директором Пентагона по оборонному ценообразованию, контрактной политике и политике закупок, является наиболее конкретным шагом министерства по реализации программы президента Дональда Трампа по «предотвращению пробуждения ИИ» в федеральном правительстве. Подробнее об этой истории — в нашем последние разработки в ИИ.
От исполнительного распоряжения к договорному языку
Руководство вытекает непосредственно из указа Трампа, подписанного в июле, который требует от федеральных агентств гарантировать, что приобретаемые ими крупные языковые модели являются «нейтральными, беспартийными инструментами, которые не манипулируют ответами в пользу таких идеологических догм, как [разнообразие, равенство и инклюзивность]». В этом приказе Трамп заявил, что федеральные агентства «обязаны не приобретать модели, которые приносят в жертву правдивость и точность ради идеологических программ».
Позже Административно-бюджетное управление опубликовало записку, в которой были рассмотрены вопросы, возникшие после опубликования указа. Новый документ Пентагона превращает эти мандаты высокого уровня в механизм оборонных закупок: шаблоны, которые проводят чиновников через различные этапы покупки систем ИИ и проверки соблюдения подрядчиками принципов «непредвзятого ИИ» министерства.
В частности, шаблоны включают в себя памятку, которая поможет агентствам выбрать соответствующие требования к прозрачности и документации для закупок, стандартизированные формулировки предложений, сообщающие компаниям, какую документацию они должны предоставить для демонстрации соответствия, а также формальные формулировки контракта, которые могут быть включены в техническое задание или отчет о результатах работы, сообщает Federal News Network.
Руководство, а не мандат — на данный момент
Теналья тщательно определил юридический вес документа. Хотя соблюдение основного указа и меморандума OMB является обязательным, новый документ предназначен «исключительно в качестве руководства», обеспечивая «стандартизированный подход к документированию, обеспечению и обеспечению соблюдения объективных принципов ИИ», написал он.
«Признавая, что закупки ИИ сильно различаются по сложности и риску, компоненты Министерства обороны и необходимые действия имеют возможность пересматривать, адаптировать или дополнять этот язык по мере необходимости, чтобы он соответствовал конкретным потребностям и контексту их индивидуальных требований», — написал Теналья в записке.
Эта гибкость может оказаться полезной. Измерение того, является ли модель ИИ «беспристрастной» — и документирование этого определения в файле контракта — гораздо более запутанная задача, чем проверка сертификации кибербезопасности, и поставщики, скорее всего, будут отвергать требования к документации, касающиеся дизайна модели.
Часть более масштабного проекта по коммерциализации оборонного ИИ
Указания поступили по мере того, как министр обороны Пит Хегсет продолжает усилия по внедрению коммерческого искусственного интеллекта в министерство. Ранее в этом году Пентагон опубликовал стратегию искусственного интеллекта, направленную на превращение ведомства в «боевые силы, ориентированные прежде всего на искусственный интеллект», при этом Хегсет заявил, что ведомство будет вкладывать значительные средства в вычислительную инфраструктуру искусственного интеллекта, от центров обработки данных до систем на тактическом переднем крае.
Законодатели действуют параллельно. Член палаты представителей Джимми Патронис (республиканец от Флориды) стремится закрепить указ Трампа в виде закона. «Президент и его команда издали разумный указ, который предписывает федеральным агентствам использовать только те инструменты ИИ, которые говорят правду», — сказал Патронис, утверждая, что есть «примеры за примерами, когда инструменты ИИ сходят с рельсов, потому что основополагающее программирование смещается влево».
Что это значит для поставщиков ИИ
Для компаний, занимающихся ИИ, в том числе передовых лабораторий, которые сейчас стремятся к публичному размещению предложений, руководство сигнализирует о том, что идеологическая нейтральность документации становится де-факто требованием для оборонного рынка США, одного из самых быстрорастущих сегментов клиентов для коммерческого ИИ. Поставщики, которые могут создавать контрольные журналы обучения и поведения своих моделей, могут обнаружить, что дверь открыта; те, кто не может этого сделать, могут обнаружить, что федеральные закупки все чаще закрываются.
Практический эффект заключается в том, что «непредвзятый ИИ» переходит от политической риторики к письменным требованиям в контрактах с крупнейшими в мире покупателями технологий — и все остальные агентства наблюдают за тем, как работают шаблоны Пентагона.
Что на самом деле придется производить поставщикам
В соответствии с шаблонами бремя доказательства ложится на поставщика. Компаниям, претендующим на контракты с использованием искусственного интеллекта, необходимо будет предоставить документацию, подтверждающую, что их модели соответствуют принципам «непредвзятого искусственного интеллекта», что фактически создает новую категорию документации по приобретению наряду с аккредитацией безопасности и аттестацией цепочки поставок. Специалисты по закупкам, в свою очередь, получают стандартизированные формулировки, которые они могут использовать в предложениях, не создавая их с нуля, что, по словам экспертов по закупкам, обычно и превращает политику в практику.
Руководство также появилось по мере того, как Пентагон нормализует использование коммерческих чат-ботов для своих сотрудников, развернув настроенные правительством версии коммерческих помощников искусственного интеллекта для военнослужащих. Включение в эти контракты формулировок идеологической нейтральности расширяет политический стандарт на системы, используемые для всего: от планирования логистики до рутинной административной работы.
Тестовый пример для остального правительства
Другие агентства теперь стоят перед выбором: полностью принять шаблоны Пентагона, написать свои собственные или ждать действий Конгресса. Стремление Патрониса кодифицировать исполнительный указ разрешило бы эту двусмысленность посредством закона — и сделало бы будущую администрацию гораздо труднее отменить требования нейтралитета.
Критики приказа утверждают, что измерение идеологической нейтральности в языковых моделях чревато с научной точки зрения и может ограничить законное поведение моделей, включая точные описания спорных тем. Сторонники возражают, что стандарты закупок уже обычно налагают требования к контенту для поставщиков и что разработчики моделей по-прежнему могут продавать где-либо еще.
В любом случае направление движения ясно. Крупнейший правительственный покупатель технологий изложил в письменной форме «беспристрастный ИИ», а оборонные подрядчики, надеющиеся продать системы ИИ Пентагону, теперь должны выполнить новый контрольный список, который начинается с документации и потенциально заканчивается спорами по контракту, если развернутая модель не проходит тест на нейтральность.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
