Міністерство оборони опублікувало нові вказівки для контрактного та програмного персоналу, спрямовані на те, щоб системи штучного інтелекту, які купує Пентагон, відповідали принципам закупівель «пошуку правди» та «ідеологічної нейтральності» адміністрації Трампа, повідомляє Федеральна мережа новин у понеділок.
Директива, опублікована Джоном Теналією, головним директором Пентагону з політики ціноутворення, укладання контрактів і закупівель, є найбільш конкретним кроком департаменту щодо виконання плану президента Дональда Трампа щодо «запобігання неактивному штучному інтелекту» у федеральному уряді. For more context on this story, see our ongoing breaking AI news.
Від розпорядження до контрактної мови
Керівництво випливає безпосередньо з указу Трампа, підписаного в липні, який вимагає від федеральних агенцій гарантувати, що великі мовні моделі, які вони купують, є «нейтральними, незаангажованими інструментами, які не маніпулюють реакціями на користь ідеологічних догм, таких як [різноманітність, справедливість та залучення]». У цьому наказі Трамп заявив, що федеральні агентства «зобов’язані не розробляти моделі, які приносять в жертву правдивість і точність ідеологічним програмам».
Пізніше Адміністративно-бюджетне управління опублікувало меморандум, у якому розглядалися питання, які виникли після публікації розпорядження. Новий документ Пентагону перетворює ці мандати високого рівня на механізм оборонних закупівель: шаблони, які проводять чиновників через різні етапи купівлі систем штучного інтелекту та перевірки дотримання підрядниками принципів «неупередженого штучного інтелекту» департаменту.
Зокрема, шаблони включають пам’ятку, яка допомагає агентствам вибрати відповідні вимоги до прозорості та документації для закупівлі, стандартизовану мову тендеру, яка повідомляє компаніям, яку документацію вони повинні надати, щоб продемонструвати відповідність, і офіційну мову контракту, яка може бути включена в заяву про роботу або заяву про результати роботи, повідомляє Federal News Network.
Керівництво, а не доручення — поки що
Тенагліа ретельно сформулював юридичну вагу документа. Хоча дотримання базового виконавчого наказу та меморандуму OMB є обов’язковим, новий документ призначений «тільки як керівництво», забезпечуючи «стандартизований підхід до документування, запиту та дотримання неупереджених принципів ШІ», – написав він.
«Визнаючи, що закупівлі штучного інтелекту дуже відрізняються за складністю та ризиками, компоненти Міністерства оборони та необхідні заходи мають можливість переглядати, адаптувати або доповнювати цю мову, якщо це необхідно, щоб відповідати конкретним потребам і контексту їхніх індивідуальних вимог», — написав Тенаглія в записці.
Ця гнучкість може виявитися наслідком. Вимірювання того, чи є модель штучного інтелекту «неупередженою» — і документування цього визначення для файлу контракту — набагато складніше завдання, ніж перевірка сертифікації кібербезпеки, і постачальники, швидше за все, відмовлятимуться від вимог документації, що стосуються дизайну моделі.
Частина більшого поштовху до комерціалізації оборонного ШІ
Ці вказівки надходять, коли міністр оборони Піт Хегсет продовжує намагатися залучити комерційний штучний інтелект у міністерство. На початку цього року Пентагон оприлюднив стратегію штучного інтелекту, спрямовану на перетворення департаменту на «першу бойову силу ШІ», і Хегсет заявив, що департамент інвестуватиме значні кошти в обчислювальну інфраструктуру ШІ, від центрів обробки даних до систем на тактичному краї.
Паралельно рухаються законодавці. Конгресмен Джиммі Патроніс (R-Fla.) прагне кодифікувати указ Трампа як закон. «Президент і його команда видали розумний виконавчий наказ, який наказує федеральним агентствам використовувати лише ті інструменти штучного інтелекту, які говорять правду», — сказав Патроніс, стверджуючи, що є «приклади за прикладами того, що інструменти штучного інтелекту збиваються з рейок, оскільки базове програмування політично ліворуч».
Що це означає для постачальників ШІ
Для компаній штучного інтелекту, включно з передовими лабораторіями, які зараз поспішають до публічних пропозицій, керівництво сигналізує про те, що документація щодо ідеологічної нейтральності стає де-факто вимогою для оборонного ринку США, одного з сегментів споживачів комерційного штучного інтелекту, який найшвидше зростає. Постачальники, які можуть створювати журнали аудиту для навчання та поведінки своїх моделей, можуть відкрити двері; ті, хто не може, можуть виявити, що федеральні закупівлі все більше закриті.
Практичний ефект полягає в тому, що «неупереджений штучний інтелект» переходить від політичної риторики до письмової вимоги в контрактах найбільших у світі покупців технологій — і всі інші агентства спостерігають за ефективністю шаблонів Пентагону.
Що постачальники насправді повинні будуть виробляти
Відповідно до шаблонів, тягар доведення перекладається на постачальника. Компанії, які беруть участь у торгах на контракти з інтенсивним штучним інтелектом, повинні будуть надати документацію, яка підтверджує, що їхні моделі відповідають принципам «неупередженого штучного інтелекту», що фактично створює нову категорію документації щодо придбання разом із акредитаціями безпеки та атестаціями ланцюга постачання. Співробітники контрактів, у свою чергу, отримують стандартизовану мову, яку вони можуть використовувати в тендерах, не створюючи проектів з нуля, що, на думку експертів із закупівель, зазвичай перетворює політику на практику.
Рекомендації також надходять, коли Пентагон нормалізує комерційні чат-боти для своєї робочої сили, випустивши налаштовані урядом версії комерційних помічників ШІ для персоналу оборони. Вбудовування мови ідеологічного нейтралітету в ці контракти поширює політичний стандарт на системи, які використовуються для всього, від планування логістики до рутинної адміністративної роботи.
Тестовий приклад для решти уряду
Інші агентства тепер стоять перед вибором: прийняти шаблони Пентагону оптом, написати свої власні або чекати, поки Конгрес прийме рішення. Прагнення Патроніса кодифікувати виконавчий наказ вирішило б цю неоднозначність за допомогою статуту — і значно ускладнило б скасування вимог нейтралітету майбутній адміністрації.
Критики наказу стверджують, що вимірювання ідеологічної нейтральності в мовних моделях важко з наукової точки зору і може завадити законній поведінці моделі, включаючи точні описи суперечливих тем. Прихильники заперечують, що стандарти закупівель уже регулярно накладають вимоги до вмісту для постачальників і що розробники моделей можуть вільно продавати в інших місцях.
У будь-якому випадку напрямок руху зрозумілий. Найбільший урядовий покупець технологій письмово написав «неупереджений штучний інтелект», і оборонні підрядники, які сподіваються продати системи штучного інтелекту Пентагону, тепер мають виконати новий контрольний список — той, який починається з документації та закінчується, потенційно, контрактними суперечками, якщо розгорнута модель не пройде тест на нейтральність.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
