Американські військові ледь не сіли на абордаж китайського корабля через доповідь розвідки про штучний інтелект

Згідно з ексклюзивом CNN, опублікованим у четвер, американські військові підійшли небезпечно близько до перехоплення китайського судна на основі звіту розвідки, який був створений за допомогою чат-бота штучного інтелекту та виявився абсолютно неправдивим.

Цей епізод, описаний CNN чотирма джерелами, обізнаними з цією справою, почався на початку цієї весни — у розпал війни з Іраном — коли в армії США поширилося повідомлення про те, що китайський корабель на Близькому Сході перевозив компоненти програми ядерної зброї. Звіт негайно викликав сигнал тривоги, і військові почали діяти, плануючи перехопити судно. Щоб регулярно висвітлювати такі історії, як ця, стежте за новинами штучного інтелекту, як вони розвиваються.

Літаки в повітрі, посадка готова

За словами двох джерел CNN, на борт корабля готувалися озброєні військовослужбовці США. За словами джерела, військові літаки вже були в повітрі.

Лише незадовго до запланованої операції чиновники глибше дослідили звіт, складений аналітиком командування спеціальних операцій, і виявили, що він був створений за допомогою штучного інтелекту, а чат-бот, який використовував аналітик, неточно ідентифікував матеріал, який перевозив корабель. CNN повідомило, що не змогло дізнатися, що насправді був помилково ідентифікований вантаж.

Одне джерело назвало повідомлення "повністю неправдивим". Це також, за словами джерела, «майже почалася війна», оскільки будь-яка операція США проти китайського судна могла ризикувати перерости у збройний конфлікт між двома країнами.

Як був створений неправдивий звіт

Аналітик запитав чат-бота про звіти розвідки щодо маніфесту корабля, які надійшли від Тихоокеанського командування спеціальних операцій США, яке базується на Гаваях. CNN повідомляє, що не ясно, чи був чат-бот комерційно доступним продуктом чи інструментом уряду США.

Бот об’єднав дані відкритого джерела з розвідкою секретних сигналів у державних фондах і дійшов доленосного висновку щодо матеріалів на борту корабля. Потім аналітик використав штучний інтелект вдруге — щоб упакувати висновки в стандартний звіт розвідки, яким довіряють військові чиновники — і поширити його по всій системі.

Командування спеціальних операцій США в Тихоокеанському регіоні та Пентагон не відповіли на запит CNN про коментар.

Військова гонка за впровадження ШІ

Майже невдало трапляється в той момент, коли представники військового та розвідувального співтовариства США намагаються вплести штучний інтелект майже в усі аспекти своєї роботи — від аналізу величезних обсягів необроблених розвідувальних даних і вибору цілей для ударів до простих програм, як-от бюджетування, логістика та ланцюги поставок.

У січні міністр оборони Піт Хегсет оприлюднив «Стратегію прискорення штучного інтелекту» міністерства, спрямовану на прискорення впровадження штучного інтелекту військовими. «Ми розв’яжемо експерименти, усунемо бюрократичні бар’єри, зосередимо наші інвестиції та продемонструємо підхід до виконання, необхідний для забезпечення лідерства у військовому штучному інтелекті», — сказав Хегсет у своїй промові, оголошуючи стратегію.

Стратегія прямо закликає до демократизації доступу, наказуючи департаменту надати «провідні світові моделі ШІ Америки безпосередньо в руки наших трьох мільйонів цивільного та військового персоналу на всіх рівнях класифікації».

Немає єдиного набору правил

Але ці зусилля є децентралізованими, повідомили CNN кілька американських чиновників, і різні частини уряду використовують різні інструменти відповідно до різних наказів і стандартів безпеки. Немає єдиного набору стандартів щодо того, як США перевіряють інформацію, отриману за допомогою цих інструментів, і надійність різних систем сильно відрізняється.

«Внутрішні інструменти — це здебільшого просто копії комерційних речей, які носять губну помаду», — сказав CNN колишній високопоставлений чиновник США, знайомий із системами штучного інтелекту, які використовують військові та розвідувальні аналітики.

Націлювання штучного інтелекту «збільшується» з невеликими вказівками

Джерела повідомили, що військові швидко звертаються до штучного інтелекту, щоб допомогти з цілевказуванням — сферою, яка несе в собі очевидний ризик фатальних помилок. «Штучний інтелект у націлюванні — це безперечно те, що набирає обертів, і немає реальних вказівок щодо того, як наявність людини в циклі запобігатиме жертвам серед цивільного населення або братовбивству», — повідомило CNN інше джерело, знайоме з поточною політикою військових.

Аналітики давно попереджають, що штучний інтелект може сприяти катастрофічному прорахунку, якщо національні держави покладаються на неякісні або спотворені дані — саме такий прорахунок міг би змусити Сполучені Штати обстріляти китайський корабель на основі неточної інформації.

За даними CNN, такий вид галюцинації, що стоїть за помилковим повідомленням корабля, не був поодиноким випадком у розвідувальній спільноті з тих пір, як ці інструменти почали поширюватися в уряді.

«ШІ дозволяє швидше дійти до поганої ідеї»

Протягом кількох тижнів вашингтонські політики інтенсивно обговорювали штучний інтелект після серії жахливих попереджень із Кремнієвої долини щодо можливості того, що штучний інтелект може звільнитися від людських обмежень. Але епізод з китайським кораблем підкреслює інший і більш безпосередній ризик: люди приймають катастрофічні рішення на основі неточної або оманливої ​​інформації, створеної системами ШІ.

Декілька джерел повідомили CNN, що особливо молоді аналітики — ті, хто володіють цими інструментами — частіше довірятимуть їм безкритично, і що штучний інтелект посилив тиск на аналітиків, щоб вони виробляли та поширювали інформацію швидше, відкриваючи двері для помилок.

«ШІ дозволяє швидше дійти до поганої ідеї», — сказало одне з джерел.

Цей епізод, ймовірно, підживить і без того бурхливу дискусію щодо того, як швидко американські військові повинні включати штучний інтелект у свої найбільш чутливі робочі процеси та які кроки перевірки мають бути обов’язковими, перш ніж звіти за допомогою штучного інтелекту зможуть перемістити війська, літаки та озброєний персонал до потенційної бойової операції. На даний момент деталі свідчать про те, що існуючі гарантії є клаптиками — і що в цьому випадку різниця між звичайним звітом розвідки та міжнародним інцидентом зводилася до чиновників, які випадково перевірили ще раз.

Будьте попереду ШІ

Щоб дізнатися більше про політику щодо штучного інтелекту, національну безпеку та моделі, що формують те й інше, читайте більше новин щодо штучного інтелекту.