Китайський стартап зі штучного інтелекту DeepSeek буде серед компаній, які цього тижня інформуватимуть Раду Безпеки ООН про ризики, пов’язані зі штучним інтелектом, повідомили Reuters два джерела, обізнані з цим питанням, коли світові лідери збираються в Нью-Йорку на щорічну Генеральну асамблею ООН.
Рада Безпеки з 15 членів збирається 23 вересня, щоб обговорити ШІ та міжнародну безпеку — через кілька тижнів після того, як кілька лідерів індустрії штучного інтелекту закликали скоординовано уповільнити розвиток дедалі потужніших систем ШІ, попереджаючи, що незабаром вони можуть покращитися самі по собі та вийти з-під контролю людини. Щоб дізнатися більше про цю історію, перегляньте наш поточний висвітлення індустрії ШІ.
Хто буде в кімнаті
Виконавчий директор OpenAI Сем Альтман планує провести брифінг на зустрічі, де дипломати також очікують участі високопоставлених представників Anthropic, повідомляє Reuters минулого тижня.
З китайської сторони DeepSeek та інші китайські фірми штучного інтелекту, включаючи Moonshot, були запрошені зробити заяви, повідомило одне з джерел. Джерело попередило, що засновник DeepSeek Лян Венфен не планує бути присутнім, зазначивши, що плани залишаються мінливими і можуть змінитися в останню хвилину. DeepSeek і Moonshot не відразу відповіли на запити про коментарі.
Сесія припадає на тиждень, коли Нью-Йорк уже переповнений дипломатією штучного інтелекту, оскільки світові лідери збираються на щорічну Генеральну асамблею ООН, а навколо неї відбувається безліч додаткових зустрічей. Такий час урізає DeepSeek в обох напрямках: імприматур ради сигналізує про те, що провідні лабораторії Китаю тепер розглядаються як незамінні голоси щодо передового ризику штучного інтелекту, навіть якщо офіційна позиція Пекіна продовжує відкидати риторику сповільнення, що випливає з Силіконової долини.
Незвичайний склад — найвидатніший керівник ШІ Америки, який ділиться порядком денним Ради Безпеки з найвідомішою відкритою лабораторією Китаю — робить сесію в середу найбільш значущим засіданням ШІ, яке рада проводила з тих пір, як вона вперше підняла цю тему.
Від «Коня-втікача» до ШІ-шахрая
Рада Безпеки ООН, яка відповідає за підтримання міжнародного миру та безпеки, вперше зібралася щодо ризиків штучного інтелекту в 2023 році. Навіть тоді були помітні розбіжності: Китай попередив, що технологія не повинна стати «конем-втікачем», тоді як Сполучені Штати застерегли від її використання для цензури або репресій.
Через три роки дебати перейшли від гіпотетичних до звітів про інциденти. Минулого тижня генеральний секретар ООН Антоніу Гутерріш попередив світових лідерів, що швидкий розвиток штучного інтелекту створює ризики, які не можна ігнорувати, що суперечить йому з президентом США Дональдом Трампом, який стверджував, що існуючі гарантії є достатніми, і що Китай виграє від сумнівів у розвитку штучного інтелекту.
Публічне мовчання Пекіна щодо катастрофічного ризику
Одне з найбільш гострих зауважень у звіті Reuters стосується того, про що не сказали керівники китайських лабораторій. На відміну від керівників передових лабораторій США, таких як OpenAI та Anthropic, лідери китайських розробників найкращих моделей рідко публічно заявляли про можливість того, що все більш потужні системи штучного інтелекту можуть обманювати людей, ухилятися від контролю або завдавати катастрофічної шкоди — і вони здебільшого мовчали про ці ризики після активізації дебатів у Сполучених Штатах у вересні.
Китайські державні ЗМІ, зі свого боку, відкинули заклики до уповільнення розвитку штучного інтелекту як такі, що походять від «підручника холодної війни» — спроби, за словами Пекіна, спрямовані на збереження домінування Вашингтона в передових технологіях і повне виключення Пекіна з глобальної системи управління ШІ.
Таким чином, поява DeepSeek на раді має подвійне значення: це одночасно найпомітніше залучення Пекіна до глобальної дискусії про ризики штучного інтелекту та перевірка того, чи візьмуть китайські лабораторії участь у створенні ризиків катастроф взагалі.
Переговори перед Трампом і Сі
Засідання Ради Безпеки не самотнє. Міністр фінансів США Скотт Бессент заявив 21 вересня після зустрічі напередодні запланованих переговорів Трампа з президентом Китаю Сі Цзіньпіном на цьому тижні у Вашингтоні.
Така послідовність — саміт із високими ставками у Вашингтоні, який проходить паралельно з дебатами в Раді Безпеки в Нью-Йорку — підкреслює, наскільки ШІ перемістився з файлу технічної політики до центру двосторонніх відносин.
Що подивитися
Над засіданням у середу висить три питання. Чи передумає Лян Веньфен і прийде. Незалежно від того, чи зачіпає заява DeepSeek ризики колоди карт — обман, втрата контролю — на чому наголошують його американські колеги, чи залишається на більш безпечній основі справедливого доступу та прав на розвиток. І чи може рада виробити щось, крім звичних позицій.
Послужний список Ради щодо штучного інтелекту невеликий: перше засідання відбулося у 2023 році, попередження генерального секретаря цього місяця та відсутність обов’язкових рамок. Але в якості сцени для суперечки між США і Китаєм про те, хто встановлює правила для передового ШІ — і чиї страхи сприймаються серйозно — у нього мало суперників.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
