Офіс Пентагону, якому доручено координувати відповідальне та етичне використання штучного інтелекту, має суттєву нестачу персоналу, за словами вищого наглядового органу федерального уряду. Ця нестача заважає провідній етичній структурі департаменту з питань штучного інтелекту, навіть якщо військові прагнуть стати «штучним інтелектом першим» у бойових діях.
Нестача персоналу в Головному управлінні цифрового та штучного інтелекту завадила йому повністю реалізувати ініціативу Пентагону щодо відповідального штучного інтелекту, йдеться у звіті урядового відділу звітності від 14 жовтня, про який повідомляє у вівторок Stars and Stripes. Відкриття стає очевидним у той момент, коли ШІ приймає рішення в обороні переміщується з лабораторії на поле бою, що призводить до конкретних наслідків кадрового розриву.
Три з десяти вакансій зайняті, і вакансії можуть залишатися відкритими
Відповідальний штучний інтелект – це інтегрована етична основа Міністерства оборони, яка регулює розробку, розгортання та функціонування можливостей ШІ як у бойових, так і в небойових системах. CDAO є головним офісом із впровадження та інтеграції штучного інтелекту в департаменті, включно з системою відповідального штучного інтелекту, завдяки чому рівень його персоналу є прямим показником потужності функції нагляду.
GAO виявив, що станом на лютий лише три з 10 офіційних посад були заповнені. Представники оборонного відомства повідомили наглядовому органу, що посади, які залишилися, навряд чи будуть заповнені, це визнання свідчить про те, що нестача є не тимчасовою затримкою найму, а структурною умовою наглядового мандату офісу.
Стратегія «ШІ перш за все», яка випереджає власні гарантії
Розкриття штатної інформації незграбно стоїть поряд зі стратегічним напрямком департаменту. У січні міністр оборони Піт Хегсет випустив стратегію штучного інтелекту, яка, згідно зі звітом GAO, знову наголошує на прискоренні інтеграції та впровадження штучного інтелекту. Стратегія, зазначається у звіті, «наголошувала на воєнних умовах, закликаючи Міністерство оборони стати «штучним інтелектом першим» бойовими силами в усіх компонентах».
Контраст різкий: прискорення мандату для штучного інтелекту в бойових системах під наглядом офісу, який працює на 30 відсотків від його дозволеної чисельності. Швидкий розвиток штучного інтелекту кинув виклик керівним органам у всьому світі, оскільки технологія випереджає традиційний законодавчий нагляд і людський нагляд — і власний сторожовий пес Пентагону тепер документує цю прогалину всередині найбільшої у світі військової бюрократії. Щоб дізнатися більше про політику та управління AI, відвідайте нашу домашню сторінку новин AI.
Ставки: націлювання, огорожі та відмова, яка змінила політику
Наслідки недогляду не є гіпотетичними. Минулого місяця Bloomberg повідомило, а Stars and Stripes повторив, що програмне забезпечення з підтримкою штучного інтелекту, яке використовується для вибору цілей, сприяло нападу США на початкову школу ракетою Tomahawk 28 лютого, у перший день війни в Ірані, під час якої загинуло понад 100 дітей.
Боротьба військових за управління штучним інтелектом також торкнулася приватного сектора. У лютому міністр оборони Піт Хегсет і президент Дональд Трамп натиснули на Anthropic, щоб вона зняла захисні огорожі в моделі Claude, замовленої урядом, що запобігає використанню системи для повністю автономної зброї та масового спостереження. Коли Anthropic відмовився, адміністрація визнала фірму ризиком для національної безпеки та заборонила державним установам використовувати Claude — протистояння, яке AI Buzz Wire висвітлювало через суди, включаючи рішення апеляційного суду, яке підтвердило чорний список.
Що означає біг на 30% на практиці
Офіс нагляду на трьох із десяти санкціонованих посад — це не бюрократичний апарат із заборгованістю — це структура, яка працює на частку своєї запланованої потужності. Ініціатива «Відповідальний штучний інтелект» залежить від CDAO для перетворення етичних принципів у процеси перевірки, яких повинні дотримуватися фактичні програми зброї та комунікацій, і кожне незаповнене місце означає роботу, яка або не виконується, або потрапляє до решти персоналу, розтягнутого по портфоліо.
Оскільки представники Міністерства оборони повідомили GAO, що вакансії навряд чи будуть заповнені, це обмеження виглядає скоріше тривалим, ніж циклічним. Програми продовжуватимуть використовувати можливості штучного інтелекту, а практичний тягар застосування етичних принципів зосереджуватиметься на все меншій і меншій групі людей.
Людська етика як остання лінія захисту
Військові юристи стверджують, що кадрова прогалина залишає людське судження єдиною значущою перевіркою. «Прийняття військових рішень має ґрунтуватися на людській етиці, і простий наказ комп’ютеру виконати щось може бути дуже швидким способом зробити це, але це може не бути етичною, моральною чи легітимною юридичною методологією для досягнення того, що ми намагаємося зробити», — сказав Шон Тіммонс, адвокат, який спеціалізується на військовому праві у фірмі Tully Rinckey, по телефону у вівторок, згідно з Stars and смуги.
Деякі лідери індустрії штучного інтелекту закликають уповільнити темпи розвитку штучного інтелекту, попереджаючи, що втрата контролю над автономними агентами штучного інтелекту може становити загрозу існуванню — попередження, які мають особливу вагу, коли застосовуються до автономної зброї. Висновки GAO свідчать про те, що на даний момент найшвидше зростаючий компонент військової потужності США випереджає людську інфраструктуру, призначену для управління нею.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
