Співробітників невеликого урядового офісу США, відповідального за перевірку безпеки прикордонних моделей штучного інтелекту, нещодавно попросили неофіційно звітувати в офісі Білого дому, повідомило в суботу агентство Associated Press, що викликало нові занепокоєння щодо незалежності головного оцінювача безпеки ШІ в країні.
Згідно з AP, офіс, Центр просування інновацій і стандартів суперінтелекту, відомий як CAISSI і розташований у Міністерстві торгівлі, також припинив публікацію своїх досліджень. Звіт з’являється на тлі зростаючого громадського занепокоєння низкою історій про вийшли з-під контролю агентів штучного інтелекту, і в ньому описується сторожовий пес, який не має персоналу, не має лідерів і стає все більш тихим. For more context on this story, see our ongoing more AI stories.
Що робить CAISSI — і що виявила AP
CAISSI відповідає за оцінку безпеки нових пропозицій штучного інтелекту до того, як вони стануть доступними для громадськості. Ця повноваження включає оцінку того, наскільки прикордонні моделі протистоять зловживанням для кібератак та інших серйозних збитків. За даними AP, співробітників центру "нещодавно" попросили неофіційно звітувати в офісі Білого дому. Інформаційне агентство цитувало двох колишніх урядовців, які були обізнані з дискусіями, які говорили анонімно, щоб захистити нинішніх співробітників. Білий дім не відповів на конкретні запитання щодо центру.
Масштаби операції скромні. AP повідомляє, що CAISSI отримує близько 10 мільйонів доларів на рік — приблизно одну восьму того, що отримує його колега зі Сполученого Королівства, навіть незважаючи на те, що Сполучені Штати є місцем, де будується більшість передових моделей.
Неформальна домовленість про звітність – це лише останній збій у центрі. AP описує вакуум керівництва, що тягнеться місяцями: директора було найнято в квітні та звільнено за кілька днів, його заміна тривала кілька місяців до відставки, а керівник головного інституту зараз виконує обов’язки директора. На практиці це означає, що ніхто з постійним мандатом зараз не захищає незалежність центру.
Сторожовий пес, який перестав публікувати
Більш значущою зміною, на думку AP, є те, що центр більше не робить. У серпні Конгрес запитав, чому CAISSI припинив оприлюднювати звіти про те, як системи штучного інтелекту виконують тести безпеки. Тестування перед розгортанням функціонує як публічна перевірка розробників моделей, лише якщо його результати є видимими за межами лабораторії — а наразі це не так.
Зсув виник не на порожньому місці. У жовтні агентство Reuters, посилаючись на звіт The Information, показало, що адміністрація планує перевести трьох високопоставлених чиновників CAISSI до Білого дому. Офіційний представник Білого дому сказав тоді The Information, що проблеми координації з Commerce свідчать про необхідність наблизити керівництво центру до прийняття рішень ШІ. Згідно з цим звітом, чиновники відповідатимуть Майклу Краціосу, який керує Управлінням науково-технічної політики, і Національному кібердиректору Шону Кернкроссу. Міністр торгівлі Говард Лутнік запросив їх спільно керувати центром приблизно шість місяців тому.
Прочитавши разом, нова звітність AP свідчить про те, що план реалізується на практиці — неофіційно та попереду будь-якої офіційної реструктуризації.
Проблеми незалежності в обох напрямках
Критики, яких цитує AP, стурбовані тим, що рішення, що стосуються кібербезпеки та ризику біологічної зброї, можуть бути політизовані або що висновки можуть бути пом’якшені відповідно до технологічної галузі. Амос То з Центру правосуддя Бреннана сказав AP, що такі рішення мають величезне суспільне значення та повинні бути пояснені публічно. Керолайн Сігел Сінгх з Федерації американських вчених описала такі центри, як CAISSI, як потужні установи, які можуть різко покращити життя або зробити навпаки.
Є контраргумент, і в АП його не відкидають. Оцінка здатності моделі допомагати писати зловмисне програмне забезпечення є питанням національної безпеки, і адміністрація, яка хоче бачити, хто бачить ці результати, має аргументи, які можна захистити. Труднощі інституційні: арбітр, який підпорядковується одному зі спонсорів команди, не в змозі назвати гру прямолінійною, а центр припинив публікувати звіти, які інакше демонстрували б його незалежність.
Чому це важливо для будівельників і покупців
Для компаній, які будують на передових моделях, практичний ризик, визначений у звітності, не є забороною — це невизначеність. Якщо оцінки залишаються в таємниці та надходять до експортного контролю та державних закупівель, лабораторія може втратити контракт або ринок на основі висновку, який вона ніколи не бачить або оскаржує. Цей ризик поширюватиметься через ланцюжок постачання до наступних продуктів без будь-якого попередження.
Слід звернути увагу на дві речі. Перше – чи призначає адміністрація постійного директора центру і хто його обирає. По-друге, чи захоче Конгрес, який уже тиснув на центр через його мовчання щодо опублікованих звітів, записати незалежність центру в закон. Поки не станеться жодного з цих випадків, американський рефері з безпеки штучного інтелекту працює з бюджетом у 10 мільйонів доларів, без постійного керівника та лінією звітності, яка проходить до Білого дому.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
