Виконавчий директор OpenAI Сем Альтман особисто проінформує Раду Безпеки ООН наступного тижня під час щорічної зустрічі світових лідерів у Нью-Йорку на Генеральній Асамблеї ООН, повідомляє Reuters у п’ятницю з посиланням на представника OpenAI.

Брифінг відбудеться на відкритому засіданні Ради Безпеки з питань штучного інтелекту та міжнародної безпеки, запланованому на середу, коли орган із 15 членів збирається під час тижня високого рівня Генеральної Асамблеї. Сесія була скликана Францією, яка головує в Раді у вересні, і проходитиме під головуванням міністра Європи та закордонних справ Франції Жан-Ноеля Барро. For more context on this story, see our ongoing breaking AI news.

"Сем Альтман особисто проінформує відкрите засідання Ради Безпеки ООН наступного тижня", - сказав Reuters представник OpenAI.

Що очікується від Альтмана

За даними Reuters, очікується, що зауваження Альтмана будуть зосереджені на необхідності міжнародної координації та спільних стандартів безпеки, а також на кроках, які OpenAI вживає, щоб гарантувати, що люди в усьому світі отримають користь від ШІ.

Ця поява ставить найвидатнішого у світі керівника штучного інтелекту перед органом, відповідальним за підтримання міжнародного миру та безпеки, у той момент, коли уряди все частіше розглядають передовий штучний інтелект не просто як економічну можливість, а як технологію, яка має прямі наслідки для національної та міжнародної безпеки.

Антропік також може бути в кімнаті

Дипломати повідомили Reuters, що вони також очікують присутності на зустрічі високого рівня від Anthropic, хоча ця участь не була підтверджена. Anthropic не відразу відповів на запит про коментар.

Будь-яка поява Anthropic викликала б особливий резонанс, враховуючи високу позицію компанії щодо передових ризиків штучного інтелекту в останні місяці, включно з її закликами до скоординованого уповільнення розробки все більш потужних систем. Засідання Ради Безпеки відбулося лише через кілька тижнів після того, як кілька лідерів індустрії штучного інтелекту закликали до скоординованого уповільнення, попереджаючи, що штучний інтелект незабаром може покращитися сам по собі та вийти з-під контролю людини.

Франція вимагає терміновості

У концептуальній записці, розповсюдженій серед членів ради та з якою ознайомилося Reuters, Франція підкреслила «терміновість дій для сприяння безпечному та відповідальному розвитку штучного інтелекту на користь міжнародної спільноти в цілому».

У записці вказується на ризик неправильного використання штучного інтелекту для зловмисних цілей і зазначено, що мета зустрічі – дати учасникам можливість представити свій аналіз ризиків, пов’язаних із втратою контролю або використанням новітніх моделей штучного інтелекту для розробки, сприяння та проведення дій, що впливають на міжнародний мир і безпеку.

Рада повертається до знайомої теми

Рада Безпеки зверталася до AI раніше. У 2023 році вона вперше зібралася щодо ризиків штучного інтелекту, коли Китай попередив, що ця технологія не повинна стати «конем-втікачем», а Сполучені Штати застерегли від її використання для цензури або репресій щодо людей. Сесія в середу є значним загостренням цієї взаємодії: якщо на попередніх зустрічах лунали загальні застереження, наступного тижня буде включати брифінг у прямому ефірі від генерального директора компанії, продукти якої знаходяться в центрі буму ШІ.

Альтман, зі свого боку, попереджав про передові ризики ШІ ще задовго до поточної хвилі комерційного успіху. У есе 2015 року під назвою «Машинний інтелект, частина 1» він писав, що «розвиток надлюдського машинного інтелекту є, мабуть, найбільшою загрозою для подальшого існування людства» — ця лінія передує появі OpenAI і неминуче буде відновлена ​​під час його виступу в раді.

Чому це важливо

Символізм брифінгу важко переоцінити. Керівник технологічної компанії, виступаючи перед Радою Безпеки, показує, наскільки ШІ просунувся в порядку денному міжнародної безпеки, поряд з розповсюдженням ядерної зброї та кібервійною. Це також відображає зміну в самій дискусії: після двох років, коли домінували аргументи про авторське право, робочі місця та дезінформацію, скликаюча сила ООН прямо вказується на передовий ризик — втрата контролю, зловмисне використання та відсутність спільних міжнародних стандартів.

Що з цього виходить – інше питання. Рада Безпеки не має регуляторних повноважень щодо розробки ШІ, а її резолюції щодо нових технологій історично не були обов’язковими. Але ця зустріч дає урядам можливість визначити позиції — і дає компаніям ШІ аудиторію міністрів закордонних справ і глав держав, з якою не може зрівнятися жоден випуск продукту. У зв’язку з тим, що Франція наполягає на терміновості, і очікується, що в ній будуть представлені обидві провідні американські лабораторії штучного інтелекту, сесія в середу цілком може відзначити момент, коли управління штучним інтелектом стало постійним пунктом порядку денного дипломатії глобальної безпеки.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →