Билл Гейтс призвал федеральных законодателей и правоохранительных органов США регулировать развитие искусственного интеллекта, заявив в телеинтервью, вышедшем в воскресенье, что оставленная без контроля технология может стать причиной «миллиарда смертей» — и настаивая на том, что «никто не думает, что саморегулирования достаточно».

Соучредитель Microsoft сделал это заявление в интервью Кристен Велкер, ведущей программы NBC Meet the Press. «Вам нужно, чтобы правоохранительные органы и политики включились в дискуссию о том, как выглядят меры безопасности и мониторинг», — сказал Гейтс, согласно The Guardian. «И это должно быть обязательной вещью». Подробнее об этой истории — в нашем последние разработки в ИИ.

Предупреждение об искусственном интеллекте

Самые резкие высказывания миллиардера-филантропа прозвучали, когда он описал, что может случиться, если передовые инструменты искусственного интеллекта окажутся не в тех руках. По его словам, ИИ, используемый злонамеренно, будет «определенно достаточно мощным, чтобы управлять событиями, которые, как вы знаете, станут причиной миллиарда смертей».

«Никогда не было более мощного оружия, чем объединение людей со злыми намерениями, использующих новейшие инструменты искусственного интеллекта», — добавил Гейтс. Его комментарии перекликаются с предупреждениями расширяющегося круга технологических и политических деятелей, которые опасаются, что передовые системы могут ускорить катастрофические последствия, в том числе посредством биологического оружия и ядерного конфликта.

Гейтс рассматривал регулирование как управляемые затраты, а не как тормоз прогресса. «Это потребует некоторых накладных расходов для отрасли, но не приведет к резкому замедлению их деятельности», — сказал он.

Часть устойчивой кампании

Интервью — не изолированное предупреждение. Это следует за эссе Гейтса объемом около 6000 слов, опубликованным в конце августа, в котором изложены его опасения по поводу ИИ и потенциально смертельных рисков, которые, по его мнению, он представляет для человечества в целом. Многие наблюдатели отметили, что беседа «Meet the Press» представляет собой продолжение этого аргумента, на этот раз обращенного к основной воскресной утренней аудитории.

Гейтс не единственный среди технологических лидеров, призывающий к замедлению развития ИИ. Сэм Альтман из OpenAI и Илон Маск присоединились к нему и призвали отрасль действовать более осторожно, даже несмотря на то, что их компании стремятся выпускать более функциональные модели.

Давление на Microsoft изнутри

Вмешательство Гейтса произошло в тот момент, когда его бывшая компания столкнулась с собственными противоречиями в области искусственного интеллекта. Сотрудники и активисты Microsoft организовали кампанию, направленную на то, чтобы заставить компанию разорвать связи с израильскими военными, которые, как сообщается, использовали инструменты искусственного интеллекта в конфликте в секторе Газа, согласно эссе Guardian, опубликованному в пятницу Мохамедом Хусейном и Гранатом Ким из группы No Azure for Apartheid.

Авторы эссе также предупредили, что системы на базе искусственного интеллекта развертываются внутри самих Соединенных Штатов, указав на использование Министерством внутренней безопасности облака Microsoft Azure для поддержки наблюдения, арестов и массовых депортаций иммигрантов.

Пробел в регулировании

Призыв Гейтса оказался в политическом вакууме. В Соединенных Штатах до сих пор нет всеобъемлющей федеральной структуры, регулирующей разработку или внедрение передовых систем искусственного интеллекта, даже несмотря на то, что пограничные лаборатории поставляют все более автономных агентов, а правительства по всему миру изо всех сил стараются не отставать. В Конгрессе конкурирующие предложения застопорились из-за вопросов инноваций, ответственности и правоприменения, в результате чего агентствам пришлось применять лоскутные полномочия к технологии, которая развивается быстрее, чем процесс нормотворчества.

Что отличает аргумент Гейтса, так это его настойчивое утверждение о том, что надзор должен быть обязательным, а не добровольным. Утверждая, что «саморегулирования недостаточно», он напрямую бросает вызов преобладающей позиции самих лабораторий, большинство из которых отдают предпочтение внутренним обязательствам по безопасности, добровольным оценкам и отраслевым органам, а не обязательному законодательству.

Его формулировка о том, что соблюдение требований будет означать «небольшие накладные расходы», также примечательна тем, что исходит от человека, чье состояние было заработано в индустрии программного обеспечения. Это подрывает распространенное в отрасли утверждение о том, что значимое регулирование обязательно заморозит тот быстрый прогресс, который определил последние четыре года развития ИИ.

Более легкая заметка об использовании ИИ в личных целях

Интервью не было однозначно мрачным. Когда Уэлкер спросил, избегает ли Гейтс ИИ в своей жизни, он ответил со смехом: «Ну, я не использую его для своих личных отношений. Я не такой: «Эй, я тебе нравлюсь? Эй, я хороший парень?»

«Так что я просто никогда не пошел по этому пути, потому что мне повезло с точки зрения моей семьи, друзей и всего остального», - сказал он. «Я не общаюсь с ИИ. Он знает, что я очень серьезный человек».

Что будет дальше

Вопрос о том, повлияет ли предупреждение Гейтса на законодательство, остается открытым. Но тот факт, что один из самых известных в мире технологов публично требует, чтобы политики и правоохранительные органы взяли на себя официальную роль в надзоре за ИИ, добавляет веса дебатам, которые все чаще разворачиваются в избирательных кампаниях, в залах судов и на международных переговорах.

Поскольку опросы общественного мнения показывают обеспокоенность общественности по поводу роста ИИ, а инциденты с участием автономных агентов попадают в заголовки газет, на законодателей нарастает давление с целью превратить широкую озабоченность в выполнимые правила. Послание Гейтса к ним было простым: индустрия не будет контролировать сама себя, и цена действий намного ниже, чем риск неспособности сделать это.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →