Во вторник OpenAI объявила о своей поддержке законопроекта Сената Калифорнии № 1119, закона, который установит широкие гарантии того, как молодые люди используют искусственный интеллект, и призвала губернатора Гэвина Ньюсома подписать этот законопроект.

Одобрение появилось в публичном письме Ньюсому, автором которого является Энн О'Лири, вице-президент OpenAI по глобальной политике, а также в сообщении в блоге, опубликованном на сайте компании. В нем компания представляет SB 1119 как значимый средний путь: надежная защита для пользователей до 18 лет, не лишающая подростков доступа к инструментам, которые, по ее словам, помогают им учиться, творить и готовиться к будущему. Это заявление является последним в серии историй о политике в области ИИ, меняющих отношение правительств к самым молодым пользователям ИИ. Подробнее об этой истории — в нашем больше статей об ИИ.

Почему OpenAI принимает регулирование — во всяком случае, это

Позиционирование OpenAI основано на поразительной статистике из его собственного поста: почти девять из десяти подростков, использующих ChatGPT, обращаются к нему для обучения, получения информации, развития навыков или повышения производительности в течение конкретной недели. «Подростки — это первое поколение, растущее с искусственным интеллектом», — написали в компании, утверждая, что возможности связаны с ответственностью за разработку опыта, учитывающего особые потребности молодых людей в развитии.

Компания открыто заявляет о том, что ее позиция обусловлена ​​федеральным вакуумом. «В отсутствие федеральных действий у Калифорнии есть возможность установить строгие стандарты безопасности молодежного ИИ», — говорится в письме Ньюсому. OpenAI заявляет, что законопроект основан на обязательствах, взятых на себя генеральным директором Сэмом Альтманом в прошлом году, когда излагал принципы компании в области безопасности подростков, а также на работе компании над Законом о безопасном искусственном интеллекте для родителей и детей.

Что потребуется SB 1119

Согласно краткому изложению законопроекта OpenAI, SB 1119 потребует от компаний, занимающихся искусственным интеллектом:

  • Определите возраст пользователя перед предоставлением доступа;
  • Выявляйте и устраняйте риски безопасности, прежде чем сделать продукт доступным для молодежи;
  • Пройти независимый аудит этих усилий;
  • Защитить молодых людей от вредного контента, включая контент, направленный на членовредительство и сексуальную эксплуатацию, а также от других взаимодействий, связанных с высоким риском;
  • Дайте родителям инструменты, которые помогут их детям направлять и ограничивать их использование;
  • Подключайте молодых людей к ресурсам кризисной поддержки, когда возникают серьезные риски для безопасности; и
  • Ограничьте таргетированную рекламу и защитите личную информацию молодых людей.

Для пользователей в возрасте от 13 до 17 лет эта защита будет применяться автоматически, а не в виде дополнительных настроек, которые подростки могут отключить.

«ИИ — это не социальные сети»

Одним из наиболее важных аргументов в письме OpenAI является различие, заложенное законодателями в сам законопроект: ИИ – это не социальные сети. Вместо того, чтобы переносить правила, основанные на рекламе, созданные для таких платформ, как Instagram, на чат-ботов и инструменты обучения, SB 1119 адаптирует средства защиты для сохранения того, что OpenAI называет образовательными и критически важными для безопасности функциями, включая то, что он описывает как ответственное использование функции памяти ChatGPT, которая помогает средствам защиты распознавать закономерности с течением времени.

Критики общих возрастных ограничений предупреждают, что жесткие правила могут подтолкнуть подростков к менее регулируемым альтернативам или заблокировать доступ к действительно полезным инструментам обучения. Поддержка OpenAI предполагает, что крупнейший игрок отрасли считает, что SB 1119 обеспечивает баланс, с которым он может жить.

ChatGPT для подростков уже доступен

Одобрение законопроекта происходит не на пустом месте. OpenAI запустила ChatGPT для подростков, специальный интерфейс для молодых пользователей, который, по словам компании, автоматически помещает в защищенный режим всех, кому, по оценкам ее системы, меньше 18 лет или кто заявляет, что их возраст составляет от 13 до 17 лет. По словам компании, меры безопасности являются частью базового опыта, а не дополнительными настройками.

Детали оценки возраста имеют большее значение, чем может показаться на первый взгляд. Оценки, а не проверенные идентификаторы, определяют, какой опыт получит пользователь, и компания заявляет, что контекст предыдущих разговоров, включая память, помогает последовательно применять меры безопасности и распознавать закономерности с течением времени. Насколько хорошо эта оценка работает на практике и что происходит, когда подростки неверно указывают свой возраст, будет зависеть от того, будут ли регулирующие органы считать самоконтроль в отрасли заслуживающим доверия.

Продукт для подростков также ориентирован на обучение: по данным OpenAI, такие функции, как викторины, обучающие визуализации и режим обучения, были разработаны совместно с преподавателями и экспертами по обучению, чтобы помочь учащимся шаг за шагом решать проблемы. Компания позиционирует эти инструменты как доказательство того, что требования безопасности и полезные продукты не противоречат друг другу — аргумент, который она фактически приводит как Ньюсому, так и общественности.

Политика в Сакраменто

В своем письме OpenAI благодарит Ньюсома вместе с сенатором Стивом Падилья и членами Ассамблеи Баффи Уикс и Ребеккой Бауэр-Кахан за их лидерство в этом вопросе. Законопроект сейчас находится на рассмотрении губернатора, и кампания публичного лоббирования OpenAI, дополненная письмом, которое можно скачать, ясно дает понять, что компания хочет его подписи.

Этот шаг также происходит по мере того, как регуляторы в других странах затягивают гайки. Европейский Союз недавно объявил ChatGPT очень крупной онлайн-поисковой системой в соответствии с Законом о цифровых услугах, предоставив OpenAI до конца декабря 2026 года возможность соблюдать более строгие правила ЕС в отношении несовершеннолетних и прозрачности. Учитывая нисходящие определения Брюсселя, OpenAI, похоже, рассчитывает, что поддержка специального закона штата в Сакраменто является лучшим способом сформировать правила до того, как они будут написаны для него.

Подпишет ли Ньюсом – и последуют ли другие штаты примеру Калифорнии – будет иметь большое значение для ответа на вопрос, который Конгресс до сих пор оставил открытым: кто устанавливает правила для самых юных пользователей ИИ?

Будьте в курсе политики в области ИИ

Следите за каждым развитием событий, как оно происходит. Подробнее читайте на AI Buzz Wire →