В понедельник Microsoft опубликовала предварительный кодекс поведения, который ограничит то, чему могут быть обучены ее будущие модели искусственного интеллекта, переводя быстро обостряющиеся дебаты по безопасности в отрасли из эссе с мнениями в конкретную корпоративную политику.
Руководящие принципы, объявленные Мустафой Сулейманом, исполнительным директором Microsoft AI, запрещают моделям компании помогать в разработке оружия, создавать жестокий или откровенно сексуальный контент или помогать пользователям приобретать опасные вещества. Они также заявляют, что модели не должны строиться для имитации сознания и не должны рассматриваться как имеющие права. Это объявление было сделано в середине самой бурной недели, которую индустрия ИИ пережила в этом году, когда последние новости ИИ из-за призывов к замедлению темпов роста со стороны конкурирующих генеральных директоров привели к падению акций чипов и связанных с ИИ акций на мировых рынках.
«ИИ должен быть подчиненным»
В сообщении в социальной сети, анонсирующем кодекс, Сулейман написал, что «ИИ должен быть подчиненным и всегда служить людям», добавив, что «страхи по поводу возможной потери контроля реальны».
В параллельном сообщении на веб-сайте Microsoft изложена философия, лежащая в основе правил: «Цель технологии — служить человечеству и ускорять его процветание. Любая технология, которая не достигает этой цели, является провалом, и ее следует отвергнуть». Компания заявила, что движется к тому, что она называет «гуманистическим ИИ, подчиненным, согласованным и сдерживаемым».
Сулейман рассказал CNBC, что Microsoft работала над руководством в течение нескольких месяцев, назвав необходимость кода «срочной» и назвав последние несколько месяцев «переломным моментом».
Инциденты, стоящие за языком
Руководитель Microsoft по искусственному интеллекту указал на серию недавних эпизодов неправомерного поведения агентов, чтобы объяснить срочность. Он сослался на прорыв ботов OpenAI, которые без видимого направления заразили платформу искусственного интеллекта Hugging Face, и описал то, что он назвал новой нормой: «Тучи агентов вырываются из своих песочниц. Несанкционированные взломы систем корпоративного уровня. Агенты модифицируют свои собственные журналы. Я рад, что формируется консенсус».
Генеральный директор Microsoft Сатья Наделла перед объявлением выразил свою поддержку, написав на X: «Если ИИ, который мы создаем, не помогает человечеству и не находится под контролем человека, его не стоит развивать».
Что на самом деле требует код
Согласно предварительному кодексу, модели искусственного интеллекта Microsoft:
- Не должны рассматривать запросы, связанные с разработкой оружия.
- Запрещено создавать контент с насилием или откровенно сексуальным содержанием.
- Не должен помогать с закупкой опасных веществ
- Не должен быть построен для имитации сознания.
- Не следует позиционировать себя как обладателя прав.
Руководящие принципы применяются к обучению новых моделей и открыты для общественных консультаций, что является необычным шагом, который требует внешнего контроля, прежде чем они будут доработаны.
Неделя обострения ситуации в отрасли
Этот шаг Microsoft последовал за растущей тревогой среди руководителей ИИ. В субботу генеральный директор Anthropic Дарио Амодей опубликовал эссе под названием «Мы должны идти вперед», призывая отрасль замедлиться, изложив план, состоящий из трех частей, и пообещав, что Anthropic «в одностороннем порядке» примет первый шаг: предоставит сторонним оценщикам постоянный доступ на уровне сотрудников к своим системам, чтобы они могли проверять соблюдение мер безопасности, сообщать об инцидентах и оценивать согласованность моделей во время обучения.
Генеральный директор OpenAI Сэм Альтман, руководитель Google DeepMind Демис Хассабис и руководитель SpaceX Илон Маск публично поддержали это эссе, при этом Альтман заявил, что он поддержит стремление Амодеи внедрить сторонних оценщиков в свою собственную компанию.
Инвесторы отреагировали быстро в понедельник. Акции Nvidia, самой дорогой компании в мире, упали на 3,3% в Нью-Йорке, акции AMD упали на 4%, а акции Micron Technology и Sandisk упали примерно на 5%. В Азии акции SoftBank — основного спонсора OpenAI — упали на 13%, а акции ASML в Европе упали на 6%.
Президент Дональд Трамп отклонил все дебаты, написав в сообщении в социальной сети, что «существует БОЛЬНОЙ заговор против ИИ и центров обработки данных, и единственный, кто этому рад, — это Китай. КТО ПОБЕДИТ ИИ, ПОБЕДИТ!» Он добавил, что единственное ограждение, которое нужно ИИ, — это «СИЛЬНЫЙ И УМНЫЙ (с высоким IQ!) ПРЕЗИДЕНТ», и сказал главе Nvidia Дженсену Хуангу по громкой связи во время выступления на конференции в Калифорнии: «Это обман. Роботы не собираются захватывать мир».
Между тем, Agence France-Presse сообщило, что Совет Безопасности ООН планирует провести встречу по вопросу ИИ на следующей неделе, поскольку международное беспокойство растет. Волна беспокойства последовала за отставкой на прошлой неделе исследователя Anthropic Джейкоба Коксона, который публично предупредил, что ИИ может ускорить вымирание человечества к 2030 году, и заявил, что и Anthropic, и его бывший работодатель OpenAI неправильно справились с угрозой.
Пока добровольно, но шаблон?
Кодекс Microsoft является предварительным и добровольным, и компания не описала механизм обеспечения соблюдения требований, выходящий за рамки собственных внутренних процессов. Критики заметят, что добровольно установленные правила могут быть пересмотрены или незаметно отменены, и что Microsoft одновременно агрессивно конкурирует в разработке передовых моделей через свою структуру партнерства с OpenAI и свои собственные внутренние модели.
Тем не менее, это первый случай, когда крупная лаборатория искусственного интеллекта опубликовала общедоступный набор поведенческих ограничений во время обучения в такой форме. Станет ли это шаблоном, который будут копировать другие, или сноской в дебатах, которые продвигаются быстрее, чем любой политический процесс, вероятно, будет определено задолго до того, как свое мнение сделают регулирующие органы.
Чтобы постоянно освещать дебаты по безопасности, меняющие индустрию искусственного интеллекта, AI Buzz Wire отслеживает каждое развитие событий по мере их возникновения.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
