Американская федерация учителей, Объединенная федерация учителей и Microsoft в среду объявили о «Национальном стандарте безопасности и конфиденциальности искусственного интеллекта», устанавливающем юридически осуществимую защиту для учащихся, семей и преподавателей. Это первое в своем роде соглашение, согласованное в течение нескольких месяцев в том, что профсоюзы называют вакуумом федеральных и государственных правил искусственного интеллекта для школ.

Соглашение было представлено в Нью-Йорке президентом AFT Рэнди Вайнгартеном, президентом UFT Майклом Малгрю и вице-председателем Microsoft и президентом Брэдом Смитом. Он появился вслед за недавно принятыми в государственных школах Нью-Йорка экранами и запретом на использование искусственного интеллекта и предназначен для включения непосредственно в соглашения с клиентами Microsoft школьных округов, что делает защиту осуществимой на основании контракта, а не желательными обещаниями. Дополнительную информацию об этой истории можно найти в нашем постоянном освещении политики в области искусственного интеллекта.

Что требует соглашение

По своей сути стандарт превращает общие принципы в осуществимые меры защиты, основанные на трех приоритетах.

Защита конфиденциальности. Данные учащихся и преподавателей не будут использоваться для обучения моделей ИИ, продаваться или перепрофилироваться, а отследить учащихся невозможно. Школы сохраняют контроль над тем, как данные используются, сохраняются и удаляются. Повышение безопасности. Системы искусственного интеллекта должны быть спроектированы так, чтобы избегать вредных или манипулятивных действий, защищать конфиденциальную информацию и соответствовать строгим стандартам безопасности, подотчетности и ответственного использования. При этом для того, чтобы решения, основанные на искусственном интеллекте, вступили в силу, необходим человеческий надзор. Обеспечение прозрачности и контроля. Семьи получают четкую и доступную информацию о том, как ИИ используется в классах, какие данные собираются и какие меры защиты применяются. Компании должны открыто сообщать об изменениях в продукции, рисках и средствах контроля. Важно отметить, что округа, принявшие этот стандарт, могут расторгнуть соглашения и требовать возмещения убытков от компаний, нарушающих правила, превращая то, что исторически было политическим языком, напечатанным мелким шрифтом, в договорное обязательство с реальными последствиями.

«Мы заключили жесткое, железное соглашение о конфиденциальности с реальными зубами, которое защищает студентов и их семьи, потому что никто другой, включая федеральное правительство, не взялся за реальную работу», — говорится в заявлении Вайнгартена. «Все, что меньше, чем юридически обязательные положения, — это просто список пожеланий».

Малгрю, чей UFT представляет 200 000 преподавателей Нью-Йорка, заявил, что соглашение «даёт школьным округам право расторгнуть соглашения и требовать возмещения ущерба от злоумышленников, нарушающих правила».

Смит из Microsoft сформулировал сделку как шаблон, а не как разовую сделку: «Этот стандарт устанавливает высокую планку конфиденциальности детей и безопасности искусственного интеллекта, и мы распространим это соглашение на каждый школьный округ по всей стране».

Опираясь на волну государственных и местных действий

Соглашение ограничивает месяцы эскалации активности профсоюзов в отношении экранов, искусственного интеллекта и данных учащихся. В майской речи под названием «Устройства вниз, глаза вверх, практика» Вайнгартен призвал к полному запрету экранов от детского сада до второго класса, запрету на ИИ, работающий с учениками, в начальной школе и запрету чат-ботов-компаньонов для учащихся до 16 лет.

Аналогичная структура с тех пор была принята Объединенным школьным округом Лос-Анджелеса, Объединением учителей штата Нью-Йорк и — буквально на прошлой неделе — государственными школами Нью-Йорка, что дало новому национальному стандарту множество крупных, готовых принять его.

AFT уже некоторое время движется к этой позиции: в документе 2024 года «Правила здравого смысла для использования передовых технологий в школах» установлены девять основных принципов защиты учащихся, а в прошлом году профсоюз запустил Национальную академию обучения искусственному интеллекту для обучения преподавателей использованию и неправильному использованию инструментов искусственного интеллекта.

Почему это важно

Сделка является решением проблемы нормативного пробела. Существующие законы о конфиденциальности детей, такие как FERPA и HIPAA, были написаны до появления генеративного ИИ. «HIPAA и FERPA никогда не предполагали появления искусственного интеллекта», — сказал Вайнгартен, утверждая, что в отсутствие обновленных средств защиты технологическим компаниям приходится брать на себя ответственность за продукты, которые они продают школам.

Ставки значительны для обеих сторон. AFT представляет 1,8 миллиона учителей дошкольных и 12-х классов, парапрофессионалов, преподавателей высших учебных заведений, государственных служащих, медсестер и воспитателей дошкольных учреждений, что обеспечивает стандартный непосредственный охват тысяч округов. Для Microsoft соглашение является одновременно уступкой и конкурентным оружием. Добровольное соблюдение обязательных условий конфиденциальности выгодно позиционирует компанию против конкурентов, обхаживающих рынок образования, а с учетом того, что 1,8 миллиона членов AFT и тысячи округов являются потенциальными клиентами, распространение стандарта по всей стране дает Microsoft готовый аргумент в пользу того, почему ее инструменты для обучения должны быть надежными по умолчанию.

Открытым остается вопрос о принуждении и распространении. Защита распространяется только на те округа, которые включили ее в свои контракты с Microsoft, и ни одна другая крупная компания в области образовательных технологий еще не подписала аналогичные условия. От того, столкнутся ли Google, OpenAI, Anthropic и другие с давлением, требующим соблюдения стандарта, или же законодательные органы штатов предпримут шаги по кодификации аналогичных правил, определит, станет ли объявление в среду новым базовым показателем отрасли или отличительным признаком только Microsoft.

---

Будьте впереди ИИ

Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.

Подробнее новости AI →