OpenAI заявив у четвер, що заборонив дві таємні операції впливу — одну з Росії та одну з Ірану — які використовували ChatGPT для управління складними «фальшивими» організаціями, призначеними для відмивання геополітичної пропаганди в реальні ЗМІ. Компанія заявила, що кампанія з російського походження є найбільш далекосяжною операцією впливу, яку вона зірвала з тих пір, як два з половиною роки тому почала публікувати звіти про загрози.
Розголошення, опубліковане на веб-сайті OpenAI, є останнім записом у низці звітів про те, як державні актори зловживають комерційними моделями ШІ. Це також підкреслює, як ми зазначали в нашому останньому найважливішому огляді новин про штучний інтелект, закономірність, яку OpenAI спостерігав у 30 таємних операціях, які він викрив з початку 2024 року: кампанії, які успішно розміщують свій вміст у справжніх публікаціях, охоплюють набагато більшу аудиторію, ніж ті, що покладаються на фальшиві акаунти в соціальних мережах.
Перша категорія 5: Операція «Темний Кларк»
Російська операція, яку OpenAI назвала «Dark Clark», була зосереджена на самозваній дослідницькій організації в Латинській Америці під назвою «Центр соціальних досліджень» (SRC). За даними OpenAI, оператори контролювали аналітичний центр через сфабриковану особу на ім’я «Мія Кларк», тоді як місцеві співробітники в Латинській Америці проводили інтерв’ю та готували дослідницькі статті, не знаючи, що вони працюють на російську групу.
Використовуючи шкалу прориву — міру потенційного охоплення операції впливу від 1 до 6, розроблену в Брукінгсі — OpenAI оцінив Дарка Кларка за категорією 5, що є найвищим рейтингом, який він присвоїв будь-якій операції з початку звітування. Кампанія з іранського походження досягла категорії 4.
Велика частина використання ChatGPT операторів потрапила у внутрішні звіти невідомому обробнику, повідомляє OpenAI, описуючи кампанії з очорнення України, підриву вербування в українські збройні сили та втручання у внутрішню політику в Аргентині та Болівії. Оператори здебільшого підказували російською мовою та покладалися на VPN для доступу до сервісу, який блокує трафік із Росії.
Дослідники OpenAI підтвердили кілька заявлених кампаній операції через відкриті джерела. Один із них стосувався підроблених електронних листів, які нібито надійшли від регіонального управління освіти Ліми, вказуючи школам у столиці Перу проводити заходи на честь Степана Бандери — суперечливого українського націоналістичного діяча — у День національного розмаїття. Перуанські та польські ЗМІ висвітлювали подальшу полеміку, а польський член Європейського парламенту був цитований у висвітленні цього. В Еквадорі оператори використовували фальшиву адресу електронної пошти, щоб обманом змусити школи взяти клятву вірності президенту Даніелю Нобоа та колишньому голові Blackwater Еріку Прінсу; цей трюк викликав висвітлення в ЗМІ та публічне спростування з боку міністра освіти Еквадору.
Операція також розповсюдила сфабриковані аудіозаписи, у тому числі один, приписуваний працівнику болівійської державної водопровідної компанії EPSAS, який стверджував, що уряд припинить постачання до Ла-Пасу, а інший приписується консулу України в Еквадорі. Фактчекери в обох країнах спростували ці заяви. Дослідники з відкритим кодом раніше пов’язували подібну діяльність з «Політологією» або «La Compania», організаціями, які описуються як наступники операції покійного Євгена Пригожина, і власні звіти операторів стверджували про кампанії, націлені на президента Аргентини Хав’єра Мілея, які збігаються з публічною звітністю.
Сім фальшивих журналістів: Операція «Підробні публікації»
Іранська операція пішла іншим шляхом у медіа-екосистему. Його оператори, які запропонували ChatGPT перською мовою, використовували модель для вдосконалення довгих англомовних статей про американо-іранський конфлікт, а потім передали їх редакторам малих і середніх інтернет-магазинів за допомогою семи сфабрикованих журналістських персонажів: Ервіна Б. Хоскінса, Ноа Ламінгтона, Софії Гонсалес, Майкла Гаррісона, Еріки Фойзьє, Дженні Вільямс і Еліс Джонсон.
OpenAI виявив майже 100 статей, опублікованих або синдикованих під цими підписами в приблизно дюжині видань по всьому світу, більшість зосереджених на міжнародних справах і Близькому Сході. Операція також викликала серію коментарів у соціальних мережах, хоча OpenAI заявив, що вони не викликали реального залучення, і зазначив, що оператори використовували оманливі розрахунки у своїх внутрішніх звітах, щоб роздути свій очевидний вплив на соціальні мережі. Компанія заявила, що ця діяльність, здавалося, узгоджується з комерційним актором, який проводить найняту кампанію впливу, і що вона поділилася інформацією з відповідними органами.
Старе ремесло, нові інструменти
OpenAI пише, що найбільше вражає дослідників те, наскільки обидві операції нагадували кампанії впливу з епохи до ШІ. Фальшиві журналісти мають сімейну схожість з «Еліс Донован», фіктивною репортеркою, яка виступає за російську військову розвідку, чиї статті з’являлися в західних виданнях у 2016 та 2017 роках. Мимовільний місцевий персонал SRC повторює «PeaceData», фейковий сайт новин, який залучив справжніх журналістів у 2020 році.
ШІ не винайшов ці методи — він зробив їх дешевшими, швидшими та плавнішими. Оператори використовували моделі, щоб адаптувати фейки до місцевої лексики та інституційного стилю, перекладати сценарії на регіональні іспанські варіанти та створювати відточені електронні листи для редакторів. Але OpenAI стверджував, що таємний характер фальшивих операцій також робить їх вразливими до викриття: і Еліс Донован, і PeaceData припинили роботу після публічного оприлюднення.
Уважно читайте докази
OpenAI обережно застеріг від власних висновків. Оператори регулярно вимагали причетності до подій, до яких вони не мали відношення, а деякі фейки, про які вони повідомляли, не можна було знайти у відкритих джерелах. Те, що OpenAI вдалося перевірити — шляхом перевірки фактів, офіційних спростувань і опублікованих статей, що відповідають описам операторів — свідчить про справжнє проникнення в ЗМІ та політичний дискурс принаймні в чотирьох країнах.
Для індустрії штучного інтелекту звіт є нагадуванням про те, що найефективніші способи використання моделей у дезінформації часто є найменш помітними: складання внутрішніх звітів, уточнення презентацій, шліфування перекладів. Суб’єктами, які найкраще можуть виявити ці кампанії, як показали попередні випадки OpenAI, часто є платформи, власні інструменти яких використовуються для їх запуску.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
