Цього тижня в Moscone Center у Сан-Франциско відбулися незвичайні публічні розбіжності: лідери Nvidia, Anthropic і OpenAI, з’явившись на одній сцені за кілька годин один від одного на конференції Salesforce Dreamforce, виклали різко різні відповіді на питання про те, як швидко слід дозволити ШІ розвиватися.
Генеральний директор Nvidia Дженсен Хуанг сказав керівнику Salesforce Марку Беніоффу, що співвідношення швидкості та безпеки є неправильним. "Це хибний вибір", - сказав Хуан, повідомляє CNBC. «Ти точно міг би мати обидва одночасно». For more context on this story, see our ongoing breaking AI news.
Його позиція прямо відрізнялася від тієї, яку раніше в той же день висловив генеральний директор Anthropic Даріо Амодей, а пізніше генеральний директор OpenAI Сем Альтман, під час дебатів, які за тиждень перемістилися з дослідницьких блогів на основні доповіді на конференції у Вашингтоні.
Amodei Slowdown Pitch отримує основну платформу
Амодей з’явився першим, приєднавшись до Беніоффа для щорічної основної доповіді Salesforce перед аудиторією з приблизно 12 000 людей. Поява відбулася після есе, опублікованого Amodei на вихідних, закликаючи галузь уповільнити темпи розробки моделей, пропозиція, за його словами, може зменшити швидкість покращення можливостей без «жертви комерційною перевагою чи лідерством Сполучених Штатів у ШІ».
Як повідомляє CNBC, Амодей назвав добровільну стриманість тестом на лідерство в галузі. «Я вважаю, що це спосіб вести галузь вперед, показувати приклад, казати, що кожен завжди може бути кращим», — сказав він Беніоффу.
Це есе швидко залучило громадську підтримку з боку інших керівників галузі, включаючи Сема Альтмана з OpenAI, генерального директора SpaceX Ілона Маска та керівника Google DeepMind Деміса Хассабіса. Це сталося через кілька днів після того, як галузеві дослідники висловили тривогу щодо потенціалу штучного інтелекту завдати катастрофічної шкоди, що додало нової актуальності аргументу про уповільнення.
Хуан: Ринкові сили, а не нові закони
Хуан, чия компанія стала найдорожчою у світі завдяки продажу обладнання, яке тренує та запускає передові моделі, відкинув як передумову компромісу, так і ідею нового регулювання. Він стверджував, що вже існують ринкові сили, які дисциплінують безрозсудну поведінку, і саме розробники моделей повинні діяти відповідально зі своїми продуктами.
«Біжи якомога швидше», — сказав Хуан Беніоффу. «Але якщо в будь-який момент часу ви відчуваєте, що компанія вийшла з-під контролю або продукт не буде безпечним, зробіть паузу і переконайтеся, що ви все зробили правильно».
Відмінність має значення: Хуан не стверджує, що компанії ніколи не повинні зупинятися, лише те, що рішення має залишатися за кожною компанією, а не примусово виконуватись через закони чи узгоджені угоди про темпи в галузі. Днем раніше, на саміті All-In в Лос-Анджелесі, Хуан зателефонував президенту Дональду Трампу по гучномовному зв’язку, який висловив занепокоєння щодо людей, які намагаються перешкодити будівництву центру обробки даних зі штучним інтелектом. «Ми не допустимо цього, сер», — відповів Хуан.
Альтман: «Безпека не повинна мати кваліфікаторів»
Черга Альтмана на сцені Dreamforce настала пізніше того ж дня, і він розташувався ближче до Амодея, ніж до Хуанга. Під час бесіди біля каміна з Беніоффом Альтман сказав, що безпека та моніторинг мають стояти перед можливостями, враховуючи потужність сучасних моделей.
Він націлився на компанії, які обумовлюють свої зобов'язання щодо безпеки поведінкою конкурентів. «У вас є компанії, які говорять щось на кшталт: «Ми будемо нести відповідальність, лише якщо відповідатимуть інші компанії», — сказав Альтман, додавши, що коли люди запитують, що компанія зробить, щоб бути безпечною «незважаючи ні на що», відповідь не повинна залишати місця для умов. «Це не повинно бути ніяких кваліфікаторів».
Беніофф сидить посередині
Беніофф, який приймає всіх трьох керівників, відмовився вибрати сторону щодо темпів. «Якщо вони відчувають, що їм слід уповільнити, то вони повинні уповільнити. Якщо вони відчувають, що повинні прискорити, вони повинні прискорити», — сказав він журналістам, перш ніж додати, що компанії «слід нести відповідальність».
Конференція також показала, наскільки заплутаними стали ділові відносини. У вівторок Salesforce і Nvidia анонсували нову модель аргументації для платформи Salesforce Agentforce, побудовану на одній із відкритих моделей Nemotron від Nvidia. Наприкінці серпня Salesforce і Anthropic розширили своє стратегічне партнерство та представили «Claudeforce», який дозволяє продавцям отримувати доступ до даних Salesforce з Claude.
Чому розділення має значення
Обміни Dreamforce викристалізували те, що стало центральною лінією розлому в дебатах щодо управління штучним інтелектом: чи потрібно скоординувати обмеження та потенційно кодифікувати їх чи залишити на тиск конкурентів та індивідуальне корпоративне судження.
Пропозиція Amodei залишається добровільною, але її схвалення генеральними директорами OpenAI, DeepMind і xAI знаменує собою перший випадок, коли лідери великих передових лабораторій публічно виступили за уповільнення. Контраргумент Хуанга, наданий найдорожчою компанією світу, дає прикриття керівникам і політикам, які стверджують, що обов’язкова обережність дасть перевагу конкурентам, особливо в Китаї.
Президент Трамп виступив проти нових правил штучного інтелекту, позиція, яка підриває власні заклики галузі до уповільнення, як зазначив CNBC у відповідному аналізі. Це залишає будь-яку добровільну угоду про темпи без механізму примусового виконання, який, як кажуть прихильники безпеки, їй потрібен, і поки що дискусія тримається на корпоративних системах честі.
У зв’язку з тим, що дослідники публічно попереджають про катастрофічні ризики, а лідери найбільших компаній у галузі зараз відкрито не погоджуються на сцені, питання темпу, ймовірно, домінуватиме в наступному політичному циклі у Вашингтоні – незалежно від того, що ринок вирішить робити тим часом.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
