OpenAI в течение нескольких недель тесно сотрудничает с конкурентами Anthropic и Google DeepMind, чтобы разработать систему безопасности искусственного интеллекта, подтвердил во вторник старший руководитель, раскрыв необычную степень сотрудничества между компаниями, которые жестко конкурируют практически во всем остальном.
Крис Лихейн, глобальный руководитель отдела политики OpenAI, сообщил журналистам на брифинге для прессы в Вашингтоне, что три лаборатории координируют инициативы по безопасности. «Лучше попытаться работать вместе, чтобы уделять приоритетное внимание безопасности», — сказал Лихейн, согласно отчету Bloomberg о брифинге. Его комментарии прозвучали через несколько дней после серии громких предупреждений о вымирании от исследователей, покидающих крупнейшие лаборатории отрасли. Подробнее об этой истории — в нашем новости об ИИ.
Что на самом деле охватывает сотрудничество
Лихейн не уточнил конкретный характер работы, но раскрытие информации последовало за примечательным публичным позиционированием крупнейших имен отрасли. В субботу генеральный директор Anthropic Дарио Амодей опубликовал эссе, призывающее индустрию искусственного интеллекта сотрудничать в замедлении темпов разработки передовых моделей, чтобы избежать того, что он назвал «катастрофическими рисками».
Призыв получил неожиданную поддержку среди всех конкурентов: Сэм Альтман из OpenAI, Демис Хассабис из Google и Илон Маск поддержали это мнение. Альтман пошел еще дальше, заявив, что OpenAI будет готова присоединиться к инициативе Anthropic по внедрению сторонних оценщиков в свои команды разработчиков для мониторинга безопасности ИИ изнутри. Тем временем соучредитель Anthropic Джек Кларк заявил NPR, что замедление ИИ — это, по сути, «проблема коллективных действий», которую ни одна лаборатория не может решить в одиночку.
Однако не все в OpenAI считают дебаты о темпах неотложными. Финансовый директор Сара Фрайар рассказала CNBC, что ее не беспокоит замедление развития искусственного интеллекта — напоминание о том, что компания одновременно привлекает инвесторов с оценкой, превышающей триллион долларов.
Антимонопольная тень на сотрудничество
Любая координация между доминирующими лабораториями искусственного интеллекта сталкивается с очевидной юридической проблемой: антимонопольным законодательством США. Эксперты по правовым вопросам предупреждают, что соглашения между конкурентами об ограничении возможностей их продукции могут быть истолкованы как «ограничение выпуска», что является нарушением Закона Шермана.
Это беспокойство уже переместилось на Капитолийский холм. Сенаторы Джим Бэнкс от Индианы и Адам Шифф от Калифорнии предложили закон — Закон о сотрудничестве в области состязательных угроз и рисков безопасности — который позволит лабораториям искусственного интеллекта действовать в целях безопасности, даже если в противном случае эти действия могут вызвать антимонопольные проблемы. В эссе Амодеи утверждается, что правительству следует рассмотреть возможность предоставления компаниям отказа от сотрудничества в области безопасности, хотя Лихейн заявил журналистам, что считает такой шаг ненужным.
Дженсен Хуанг из Nvidia высказался еще более резко. Выступая на Dreamforce во вторник, он назвал предложение Anthropic об отказе от антимонопольного законодательства «совершенно ненужным», как сообщает CNBC, подчеркнув углубляющийся раскол между лабораториями, призывающими к сдержанности, и гигантом аппаратного обеспечения, призывающим к ускорению.
«Картель под другим названием»
Критики сотрудничества были резкими. Исполнительный директор Cohere Эйдан Гомес написал в своем блоге в ответ на эссе Амодеи, что призывы к безопасности выглядят как попытка ведущих лабораторий искусственного интеллекта замаскировать антиконкурентную схему, которая сохранит их лидерство в разработке передовых моделей, позволяя «доминирующим на рынке» лабораториям определять правила для всех остальных.
«Вновь используя страх под предлогом защиты общества, эти олигополии теперь требуют изменить правила конкуренции и разрешить им диктовать условия всем остальным», — написал Гомес, назвав соглашение «волком в овечьей шкуре, картелем под другим именем».
Президент Дональд Трамп категорически отверг призыв Амодеи к замедлению, заявив в сообщении на Truth Social, что любое замедление позволит Китаю обогнать Соединенные Штаты в гонке ИИ. Дэвид Сакс, главный советник Белого дома по ИИ, заявил, что опасения, что ИИ может представлять реальную угрозу, преувеличены.
Аналитики CNBC заметили, что в дебатах по поводу безопасности и регулирования ИИ в настоящее время полностью сформировались два лагеря: один призывает замедлить темпы развития, прежде чем что-то пойдет не так, а другой, состоящий из Nvidia, Белого дома и сторонников открытой модели, утверждает, что колебания представляют собой большую опасность.
Наступление OpenAI на Капитолийский холм
Заявления Лехана прозвучали во время брифинга для СМИ в Вашингтоне, где он должен был встретиться с законодателями. Согласно публичным заявлениям компании и отчетам Reuters и Politico, OpenAI поддерживает два двухпартийных законопроекта.
Первым из них является Закон FRONTIER, который призывает к созданию федеральной системы безопасности ИИ и потребует от лабораторий ИИ представлять новые модели на проверку независимым оценщикам. OpenAI также поддерживает меру, которая потребует независимого аудита моделей ИИ, сообщает CBS News. Второе предложение, которое все еще находится в стадии разработки, разрабатывается лидером сенатского большинства Джоном Тьюном совместно с сенатором-республиканцем Тедом Крузом и сенатором-демократом Эми Клобушар. По данным Reuters, этот законопроект даст министру торговли право подвергать новые модели проверке безопасности перед их выпуском. OpenAI отдельно одобрила двухпартийные планы по борьбе с биологическими угрозами ИИ, сообщает Politico.
Сближение поразительно: одни и те же компании, предупреждающие о безудержном ИИ, добровольно участвуют в независимых аудитах, в то время как их критики предупреждают, что само сотрудничество может представлять большую опасность. То, как Конгресс заправляет эту иголку – обеспечивая сотрудничество в области безопасности без лицензирования картеля – может определять политику в области ИИ на долгие годы.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
