Через несколько часов после того, как генеральный директор Anthropic Дарио Амодей опубликовал свое эссе «Мы должны идти вперед», призывая правительства замедлить гонку ИИ, резкий ответ начал подниматься на Hacker News и в конечном итоге стал одной из самых популярных историй дня. Ее аргумент, изложенный в открытом письме писателем и разработчиком Джейкобом Голдом, обезоруживающе прост: если Амодей искренен в своем стремлении замедлить ИИ, то есть один закон, к которому он мог бы призвать, чтобы это действительно помогло — и ни один другой руководитель лаборатории не смог бы его предложить. Требовать, чтобы каждая модель ИИ, которую компания предлагает общественности, была выпущена в виде открытых весов.
«Я верю, что вы искренни», — начинается письмо, обращаясь непосредственно к Амодею, — «поэтому я прошу вас призвать к принятию другого закона, такого, который действительно замедлит ход событий, даже если это потребует реальных жертв с вашей стороны». Письмо затронуло именно то, что оно касается самой сильной версии аргумента Амодеи, а не отвергает ее, и потому что оно оказывается в центре самых важных политических дебатов в области ИИ сегодня, дебатов, за которыми мы ежедневно следим в нашем [освещении политики в области ИИ] (https://aibuzzwire.news).
Что предложил Амодей и почему Голд говорит, что это не сработает
В своем эссе Амодей обязал Anthropic привлечь сторонних оценщиков и попросил правительства потребовать от всех остальных передовых компаний выполнять это обязательство. Сэм Альтман согласился в течение нескольких часов: «Я согласен с Дарио в том, что нам нужно идти вперед», — сказал он, согласно Politico, при этом OpenAI также соответствует обязательствам оценщика. На первый взгляд, это беспрецедентное совпадение: руководители двух самых ценных лабораторий искусственного интеллекта в мире публично просят, чтобы их работу замедлили.
В письме Голда утверждается, что именно этот консенсус должен вызвать подозрения у наблюдателей. «Каждое постановление, о котором вы просили, заканчивается захватом», — предупреждает он. Встроенные оценщики, пороговые значения вычислений, отраслевая координация с отказом от антимонопольного законодательства — «Все это пишется с помощью современных пограничных лабораторий, потому что никто другой не понимает технические детали настолько хорошо, чтобы написать это». Как только такие правила станут законом, каждый инцидент добавляет правило, и ни одно из них никогда не будет удалено, и гиганты смогут позволить себе команды по соблюдению требований, которые не допустят более мелких претендентов. «Вместо того, чтобы замедлять вас, — говорится в письме Амодею, — оно защищает ваше положение и прибыль».
Противоположное предложение по открытым весам
Альтернативные эскизы Голда намеренно прямолинейны. Любая модель ИИ, которую компания предлагает публике, должна будет поставляться с опубликованным весом. Внутренние и исследовательские модели останутся нетронутыми, а правительства сохранят доступ к неизданным системам, но Anthropic придется опубликовать вес своей следующей передовой модели в день ее выпуска, а OpenAI придется сделать то же самое. «В этом нет ничего, от чего можно было бы играть или уклоняться, — заключает письмо, — даже вам».
Механизм является скорее финансовым, чем бюрократическим. Как объясняет Голд, финансирование разработки передовой модели зависит от оценок, которые предполагают, что веса остаются собственностью компании. Мандат переворачивает это предположение: если каждый публичный выпуск является открытым, конкурентное преимущество переходит к тому, кто обучает лучшую модель, а не к тому, кто продает доступ к ней, премия, заложенная в частные оценки, снижается, и деньги, доступные для следующего цикла обучения, сокращаются — «в каждой лаборатории одновременно, без какого-либо решения регулирующего органа». По сути, это аргумент в пользу того, что ожидания рынка в отношении закрытых моделей являются двигателем гонки, и что устранение ожиданий уничтожает двигатель.
Почему именно Амодей
Доводы в письме о том, почему Амодей - единственный человек, который мог сделать это предложение, основаны на его послужном списке, и это особенно уважительно. Голд считает, что он покинул OpenAI в конце 2020 года и основал Anthropic, «когда безопасный карьерный шаг должен был остаться», годами выступал за регулирование своей собственной отрасли и продвигал экспортный контроль, который сужает его собственный рынок. Он отмечает, что Anthropic структурировала себя как Корпорацию общественного блага с юридической миссией — «ответственное развитие и поддержание передового искусственного интеллекта на благо человечества в долгосрочной перспективе» — что позволило бы ее руководству поглотить финансовый удар, который может нанести такой закон. В собственном эссе Амодеи, как отмечает Голд, говорится, что Anthropic выступает за регулирование, «даже когда это заставляет нас обвинять в шумихе, «думеризме» или регулирующем захвате».
Скептики заметят очевидные контраргументы, и письмо не дает на них полного ответа: открытые веса облегчают неправильное использование, а также затрудняют прогресс, мандат на открытые веса столкнется с ожесточенным сопротивлением со стороны инвесторов всех лабораторий, а критики более ранних позиций Amodei по китайским открытым моделям услышат в этом предложении отголоски старых споров. Но основная проблема письма не зависит от принятой политики. Это зависит от напряженности, которую она прямо называет: лаборатория, которая просит правительства замедлить ход всех остальных, в то время как ее собственная оценка зависит от того, чтобы оставаться впереди, еще не просила ничего, что ей чего-то стоило бы.
Дебаты, которые теперь неизбежны
Ответит ли Амодей, почти не имеет значения. В течение одного дня передовые лаборатории перешли от конкуренции по возможностям к соглашению о необходимости темпов, а реакция общественности перешла от вопросов, опасен ли ИИ, к вопросу, можно ли верить людям, предупреждающим о нем. Письмо Голда — несколько сотен слов политических подробностей, заключенных вокруг одного неудобного вопроса — стало самым резким выражением этого скептицизма, и его вирусность предполагает, что дебаты о темпах будут вестись не только в Вашингтоне, но и публично, на таких платформах, как Hacker News, где сообщество открытых весов уже много лет выдвигает вариации этого аргумента.
Будьте впереди ИИ
Регулирование, открытые веса и борьба за скорость ИИ — без ажиотажа.
Читать больше новостей об искусственном интеллекте →
