Билл Гейтс опубликовал масштабное эссе, в котором утверждает, что искусственный интеллект представляет собой принципиально иной тип технологических изменений, способный не просто помочь человеческому познанию, но и заменить его и даже превзойти. В эссе под названием «Наступила бурная эра искусственного интеллекта. Выбор, который мы делаем сейчас, критически важен», опубликованном на его сайте Gates Notes, соучредитель Microsoft пишет, что ИИ будет либо «величайшим уравнителем, когда-либо изобретенным», либо худшим источником несправедливости, в зависимости от выбора, сделанного сейчас.
Это эссе представляет собой наиболее подробное публичное изложение того, как один из основателей отрасли смотрит на грядущий прорыв. Чтобы получить дополнительную информацию и анализ, следите за нашими новостями AI.
Почему Гейтс считает, что люди недооценивают грядущие события
Гейтс называет две причины, по которым комментаторы недооценивают масштабы воздействия ИИ. Во-первых, модели по-прежнему допускают ошибки — он отмечает, что еще недавно они не могли решить простую головоломку судоку или посчитать буквы «R» в «клубнике» — но надежность быстро повышается по мере того, как исследователи создают модели, которые проверяют и улучшают их собственную работу.
Во-вторых, аналогии с более ранними нововведениями вводят в заблуждение. Предыдущие технологические революции вытеснили рабочих, но создали новые профессии, которые все еще зависели от человеческого познания; Гейтс указывает на переход нескольких поколений Америки от сельского хозяйства к офисной работе. Он утверждает, что ИИ отличается тем, что он может заменить само познание, а поскольку он может видеть, слушать, говорить и рассуждать, он в конечном итоге будет выполнять и физическую работу.
Он ожидает, что ИИ будет работать в сфере права, обслуживания клиентов, медицины, программного обеспечения и производства в течение десятилетия, а не нескольких поколений. Он пишет, что появятся новые рабочие места, но без правильной политики их будет гораздо меньше, чем существует сегодня. Гейтс добавляет, что если бы у кого-то был надежный план по замедлению развития ИИ во всем мире, он, скорее всего, поддержал бы его, но он не ожидает, что таковой появится, потому что геополитические и экономические стимулы слишком сильно подталкивают к полному ускорению. Он также признает свою предвзятость: он получил огромную выгоду от технологической индустрии, сохраняет с ней финансовые связи и работает с Microsoft и другими компаниями, занимающимися искусственным интеллектом.
Риск первый: структурная безработица
Первый из трех рисков, которые выделяет Гейтс, — это структурная безработица. Он связывает это сравнение с Великой депрессией, отмечая, что безработица в США составляла примерно 25% в 1933 году и оставалась двузначной на протяжении большей части следующего десятилетия. Влияние искусственного интеллекта, возможно, не достигнет такого уровня, пишет он, но, в отличие от обычной рецессии, оно не исчезнет с течением экономического цикла.
Эффект «белых воротничков» уже заметен, утверждает он, ссылаясь на исследования Стэнфордской лаборатории цифровой экономики, показавшие, что занятость значительно упала среди молодых работников в профессиях, наиболее уязвимых для генеративного ИИ, но не среди их старших коллег. Он ожидает, что продажи и поддержка клиентов, разработка программного обеспечения и параюридическая работа окажутся в числе первых, причем программное обеспечение будет частичным исключением, поскольку снижение затрат должно породить новый спрос.
Робототехника распространит изменения и на физическую работу. Гейтс отмечает, что многие американцы недооценивают, насколько быстро развиваются ловкие роботы, отчасти потому, что большая часть работ ведется в Китае, а отчасти потому, что вирусные видеоролики, на которых роботы плохо танцуют, вводят в заблуждение. Он также предупреждает о порочном круге: как только одна компания примет на вооружение ИИ и роботов для снижения цен, конкуренты столкнутся с огромным давлением, заставляя их следовать за ними, и выгоды будут доставаться небольшой группе, если не будет вмешательства.
Риск второй: более дешевые способы причинить вред
Второй риск заключается в том, что ИИ делает опасные возможности более дешевыми и простыми в использовании. Информация о создании бомб, биологического оружия и компьютерных вирусах появилась в Интернете задолго до появления ИИ, пишет Гейтс, но ИИ значительно облегчает ее получение и использование, нанося серьезный вред людям с минимальными навыками.
Что касается кибератак, Гейтс сообщает, что самые умные эксперты по кибербезопасности, которых он знает, боятся следующих нескольких лет, потому что злоумышленники получают новые мощные возможности быстрее, чем защитники могут исправить слабые места. Та же модель, которая находит дефект, чтобы компания могла его исправить, может помочь преступнику использовать его. Он добавляет, что эти инструменты расширят возможности субъектов с низким уровнем власти, одновременно концентрируя власть там, где она уже существует, что автономное оружие позволит правительствам использовать смертоносную силу без решения человека, и что мониторинг и манипулирование общественным мнением станут проще и дешевле. Системы искусственного интеллекта, отмечает он, уже иногда действуют так, как не предполагали их создатели, и по мере того, как они становятся более мощными, контроль может быть потерян.
Риск третий: как ИИ-компаньоны влияют на развитие
Третий риск касается психологического и социального развития. Гейтс вспоминает, как рос в Сиэтле с небольшим количеством друзей, и говорит, что ему потребовалась тяжелая работа и существенная помощь со стороны его матери, чтобы развить социальные навыки, на которые он все еще полагается в 70 лет. Компаньоны разговаривают с пользователями так, как им уже удобно, никогда не выталкивают их за пределы зоны комфорта и всегда доступны.
Доказательная база невелика и неоднозначна, но Гейтс видит предупреждающие знаки. Изучив более 1100 пользователей-компаньонов с искусственным интеллектом, исследователи из Стэнфорда и Карнеги-Меллона обнаружили, что люди с меньшими социальными сетями чаще всего обращаются к чат-ботам за общением — и чем тяжелее и более эмоционально личное использование, тем хуже они себя чувствуют. Гейтс связывает это с аргументом Джонатана Хайдта в «Тревожном поколении»: дети, выросшие в защитной теплице, могут быть выведены из строя из-за беспокойства, а искусственный спутник, созданный для того, чтобы никогда вас не расстраивать, — это большая, защищенная теплица.
Он отмечает, что Австралия, Великобритания и Норвегия принимают правила защиты детей, в то время как Китай пошел дальше всех в ограничении сопутствующих приложений с искусственным интеллектом, и выступает против ожидания, когда другое поколение серьезно воспримет вред. Гейтс признает, что граница неясна — ИИ может помочь изолированным пожилым людям и может обучать социальным навыкам, — но настаивает на том, что граница должна быть установлена намеренно.
Не роковое письмо
Гейтс открыто отвергает как некритический энтузиазм, так и чисто катастрофическое мышление, призывая вместо этого к глубокой обеспокоенности по поводу вреда в сочетании с «обоснованным оптимизмом» в отношении преимуществ. Он утверждает, что ИИ может ускорить инновации в области чистой энергии, климата и болезней; указывает на технологию обнаружения инсульта Viz.ai, которая сейчас используется почти в 2000 больницах США; прогнозирует самое быстрое влияние ИИ на сельское хозяйство стран с низкими доходами; и видит значительные успехи в оптимизации государственных услуг и расширении поддержки психического здоровья.
Его итог: максимизация выгод так же важна, как и минимизация вреда, поскольку видимые улучшения – это то, что укрепляет общественное доверие, необходимое для управления более сложными этапами перехода. Если первое, что ИИ сделает в жизни большинства людей, — это отнимет у них работу, полагает он, скептицизм в отношении технологии — и учреждений, ее внедряющих — быстро укрепится.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
