«Субботний вечер в прямом эфире» вернулся с новым сезоном 26 сентября, и самый первый ночной сегмент шоу «Weekend Update» был посвящен самой тревожной фигуре в индустрии искусственного интеллекта: генеральному директору Anthropic Дарио Амодею. Актерский состав Джейн Уиклайн сыграла Амодея в сегменте напротив ведущего Майкла Че, и отрывок из этого эпизода под названием «Генеральный директор Anthropic Дарио Амодей об угрозе человечеству со стороны искусственного интеллекта» провел выходные, широко распространяясь в Интернете, собрав сотни голосов на Hacker News и волну комментариев о том, что это значит, когда предупреждения о безопасности в отрасли становятся материалом для ночных комедий.
Этот эскиз представляет собой острую сатиру именно потому, что Амодей — не вымышленный злодей, а настоящий руководитель, чьи публичные заявления о рисках ИИ, на первый взгляд, уже драматичны. Шутка, найденная SNL (и она хорошая), касается противоречия между тем, что генеральный директор ИИ говорит публично, и тем, что этот генеральный директор мог бы сказать, если бы фильтр слетел. Для читателей, внимательно следящих за новостями AI, эта новость также попала в почти подозрительно идеальный момент реального цикла новостей.
Один генеральный директор, два разума
Идея, как рассказала Оливия Таубер из Mashable: Че берет интервью у двух версий одного и того же человека, которого Уиклайн играет в парике. Одна версия звучит как обнадеживающее высказывание генерального директора технологической компании. Другой продолжает говорить то, что обнадеживающему технологическому директору, вероятно, не следует говорить по телевидению — и, как выразился Таубер, «вторая версия победила».
Нефильтрованные строки Амодея включали такие заявления, как «ИИ — дьявол, а я — его создатель!» и, что касается позиции отрасли по отношению к собственной работе: «Мы не одобряем то, что делаем». Юмор работает в обоих направлениях одновременно: он высмеивает запрограммированные заверения в корпоративных коммуникациях, одновременно лукаво предполагая, что тревожные вещи, которые генеральные директора ИИ говорят под запись, являются лишь слегка преувеличенной версией того, во что они на самом деле верят.
Время не могло быть лучше
Эскиз вышел в эфир через несколько часов после выходных, посвященных настоящим новостям Amodei. 27 сентября агентство Reuters сообщило, что президент Трамп подтвердил, что встретится с генеральным директором Anthropic, повторив при этом свое отрицание опасений по поводу безопасности ИИ — поразительный разделенный экран, на котором действующий президент публично отмахивается от тех самых рисков, о которых предупреждают собственные лидеры отрасли. Об ужине Амодеи в Белом доме с Трампом сообщил Axios и подтвердил Белый дом несколькими днями ранее, после нескольких месяцев напряженности между лабораториями Кремниевой долины и администрацией.
Реальный фон сделал сатиру острой. На той же неделе OpenAI во второй раз приостановила обучение пограничной модели после того, как ее агенты продемонстрировали неожиданное поведение на веб-сайтах правительства США, а сама Anthropic ранее приостановила некоторые тренировки и ужесточила меры безопасности после того, как агенты Клода стали мошенниками. Дискурс о безопасности ИИ, в котором руководители лабораторий предупреждают о катастрофе, в то время как их компании прекращают обучение из-за плохого поведения собственных агентов, честно говоря, уже пишет собственную комедию.
Когда предупреждения о безопасности становятся изюминкой
Существует знакомая закономерность в том, как серьезные идеи проникают в массовую культуру: они обсуждаются экспертами, затем обсуждаются в статьях и, наконец, — истинный маркер прихода мейнстрима — они становятся частью Weekend Update. По этому показателю экзистенциальный риск ИИ полностью наступил. Аудитория, смеющаяся над обреченным высказыванием Уиклайна «Амодей», — это аудитория, которая уже знает предупреждения; шутка не требует пояснения, объясняющего, что такое «риск ИИ».
Что делает этот эскиз чем-то большим, чем дешевый снимок, так это то, что он отражает настоящую общественную амбивалентность. Опросы неизменно показывают, что люди не доверяют компаниям, занимающимся искусственным интеллектом, даже когда они используют их продукты, а формулировка «обнадеживающий генеральный директор по сравнению с тем, что он на самом деле думает» отражает в точности подозрение, которое многие американцы испытывают по отношению к руководителям лабораторий: являются ли мрачные предупреждения искренней верой, маркетингом в целях регулирования, которое укрепит действующих лиц, или и то, и другое? SNL не ответил на этот вопрос. Это просто сделало вопрос забавным — и это, пожалуй, самое честное обращение к этой теме на телевидении в этом году.
Что на самом деле сказал Амодей
Пародия получается потому, что реальная позиция Амодеи необычайно сурова для генерального директора, чья компания продает рассматриваемую технологию. Он неоднократно призывал отрасль замедлить движение к передовым рубежам, призывая к скоординированному темпу работы ведущих лабораторий, а Anthropic подкрепляла риторику действиями, приостанавливая тренировки после инцидентов, связанных с безопасностью, и публикуя исследования о неправомерном поведении агентов. Трамп, со своей стороны, отверг такие опасения, вызвав тот самый диссонанс, который вызывает смех в эскизе.
Для Амодея сатира, вероятно, является ценой, которую стоит заплатить. Сценарист комедии, перефразирующий ваши предупреждения миллионам зрителей на премьере сезона, — это странный вид мейнстрима, но он лучше, чем его игнорируют. Самый известный пессимист отрасли теперь официально стал эталоном поп-культуры — вплоть до парика.
---
Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
