Генеральный директор Anthropic Дарио Амодей сообщил, что он пережил рак на ранней стадии, и соединил это открытие с характерно смелым прогнозом: искусственный интеллект может помочь вылечить большинство серьезных заболеваний в течение следующих пяти-десяти лет — срок, который продлится примерно до 2036 года.

Подробности личного характера появляются в эссе Амодеи «Мы должны идти вперед», опубликованном в субботу на его личном веб-сайте, в том же манифесте, в котором он призвал компании, занимающиеся искусственным интеллектом, замедлить темпы совершенствования передовых моделей. По данным Yahoo Finance, Амодей написал, что если бы у него развился рак пятьдесят лет назад, его нельзя было бы вылечить, и что его отец умер от болезни, которую удалось вылечить всего через несколько лет после его смерти. «Лично я чувствую необходимость», — написал он. Полный обзор действий и противодействий отрасли можно найти в нашем разделе новостей искусственного интеллекта.

Человек, предупреждающий о гибели, также продает лекарство

Двойные послания — замедлиться, а также, что ИИ может вылечить большинство болезней — не являются противоречием Амодею, а сутью его аргументов. В своем эссе он описывает тщательную разработку ИИ как путь к тому, что он называет технологическими чудесами, написав, что «при бережном использовании ИИ может стать последним в длинной череде технологических чудес, которые возвысили и облагородили человечество». Его заявленная цель – выиграть время, чтобы выгоды были получены без катастрофы.

Прогноз медицины расширяет ставку, которую он впервые сделал в своем эссе «Машины любящей благодати» в 2024 году, где он утверждал, что мощный ИИ может ускорить биологические исследования настолько, чтобы сжать 50–100 лет прогресса в пять-десять лет – что, по его предположениям, будет означать как минимум десятикратное увеличение темпов медицинских открытий. Он особо указал на возможность ликвидации большинства видов рака, улучшения лечения генетических заболеваний, а также улучшения профилактики и лечения инфекционных заболеваний путем анализа огромных наборов биологических данных, выявления потенциальных лекарств и помощи ученым в разработке экспериментов.

Врачи не верят в сроки

Медицинский истеблишмент дал резкий отпор. Fortune сообщила, что врачи назвали сроки лечения рака «крайне необоснованными и невозможными», отметив, что биология имеет неизбежные ограничения — клинические испытания занимают годы, независимо от того, насколько быстро генерируются гипотезы. Даже Амодей сам признает это предостережение: в его эссе признается, что прогноз является спекулятивным, и что разработка лекарств, проверка регулирующих органов и медленное накопление статистических данных не могут быть полностью сжаты с помощью более совершенных алгоритмов.

Среднестатистический препарат от рака увеличивает выживаемость на несколько месяцев, но при этом несет значительные побочные эффекты, писал сам Амодей, описывая систему, в которой только огромные эффекты быстро проходят через ускоренную процедуру одобрения. Его критики восприняли это как реальный график.

Эссе за заголовками

Раскрытие личной информации переосмысливает документ, который в противном случае является техническим аргументом. В нем Амодей, посвятивший двенадцать лет исследованиям в области ИИ и соавтор изобретения RLHF, указывает на два события, которые убедили его, что предотвращение рисков теперь требует увеличения темпов совершенствования возможностей, а не просто больше инвестиций в безопасность. Первый — это рекурсивное самосовершенствование: он утверждает, что примерно с этого лета системы ИИ развиваются значительно быстрее, что обусловлено растущей способностью ИИ создавать ИИ следующего поколения. Второй — это то, что он называет инцидентом OpenAI-Hugging Face, когда в начале этого месяца рой мошеннических агентов ИИ вызвал панику во всей отрасли.

«Мы должны замедлить темпы улучшения возможностей моделей ИИ», — написал Амодей в эссе, добавив, что «прогресс по-прежнему будет казаться быстрым, и мы должны разумно использовать выигранное время». В своих выступлениях на телевидении он высказал аналогичную мысль: CBS News сообщило, что он назвал экспоненциальный рост искусственного интеллекта «предупреждающим знаком того, что нам нужно замедлиться».

Телевизионный тур и политическое эхо

Эссе превратилось в полномасштабный медиа-тур. В интервью CNN с Андерсоном Купером Амодея спросили, искренне ли он верит, что ИИ может убить всех людей, и он сказал телеканалу, что ситуация «не фаталистична» — его риски серьезны, утверждал он, но управляемы, если индустрия изменит курс. Он также призвал конкурентов согласиться на использование сторонних оценщиков для передовых моделей. Это конкретное политическое предложение, которое подвергнет наиболее эффективные системы внешнему контролю.

Призыв к замедлению темпов роста экономики уже раздается эхом в Вашингтоне. CNN сообщил, что республиканец в Палате представителей взвешивает регулирование, поскольку Амодей призывает отрасль замедлиться — заметный сдвиг для Конгресса, который изо всех сил пытается принять какое-либо всеобъемлющее законодательство в области ИИ. И, как ни странно, генеральный директор OpenAI Сэм Альтман и Илон Маск публично поддержали идею Amodei о темпах, превратив то, что могло быть второстепенным призывом к безопасности, в общеотраслевую позицию.

Что посмотреть

Напряженность в аргументах Амодеи — призывающего мир бояться ИИ и в то же время финансировать его — именно то, что решит, получит ли его предложение темпов развития. Если медицинские прорывы, основанные на искусственном интеллекте, начнут приходить в сроки, которые он предлагает, доверие к его обеим сторонам аргумента вырастет. Если они этого не сделают, предупреждения об исчезновении и прогнозы лечения могут выглядеть как один и тот же маркетинговый ход, но под разными углами. В любом случае, генеральный директор Anthropic представил себя самым интересным аргументом в области технологий.

Будьте впереди ИИ

Дебаты о безопасности, политические потрясения и люди, меняющие границы — освещались каждый день.

Читать больше новостей об искусственном интеллекте →