Американська федерація вчителів, Об’єднана федерація вчителів і Microsoft у середу оголосили про «Національний стандарт безпеки та конфіденційності штучного інтелекту», який встановлює законодавчо забезпечений захист для учнів, сімей і викладачів — першу у своєму роді угоду, яку обговорювали протягом кількох місяців у тому, що профспілки називають вакуумом федеральних і державних правил штучного інтелекту для шкіл.
Угоду оприлюднили в Нью-Йорку президент AFT Ренді Вайнгартен, президент UFT Майкл Малгрю та віце-голова та президент Microsoft Бред Сміт. Він з’явився після нещодавно прийнятих у державних школах Нью-Йорка екранів і заборони штучного інтелекту, і розроблено для безпосереднього включення в угоди Microsoft із клієнтами шкільних округів, що робить захист обов’язковим за договором, а не як бажані зобов’язання. Щоб дізнатися більше про цю історію, перегляньте нашу поточну [політику AI] (https://aibuzzwire.news).
Що вимагає Угода
За своєю суттю стандарт перетворює спільні принципи на дійсні засоби захисту, зосереджені на трьох пріоритетах.
Захист конфіденційності: Дані студентів і викладачів не використовуватимуться для навчання моделей штучного інтелекту, не продаватимуться чи не перепрофільовуватимуться, а студентів ніколи не можна буде відстежувати. Школи контролюють, як дані використовуються, зберігаються та видаляються. Підвищення безпеки: системи штучного інтелекту мають бути розроблені таким чином, щоб уникати шкідливих чи маніпуляційних подій, захищати конфіденційну інформацію та відповідати суворим стандартам безпеки, підзвітності та відповідального використання — з необхідним наглядом людини, перш ніж рішення, керовані штучним інтелектом, набудуть чинності. Забезпечення прозорості та контролю: Сім’ї отримують чітку та доступну інформацію про те, як ШІ використовується в класах, які дані збираються та які засоби захисту існують. Компанії повинні чітко повідомляти про зміни продукту, ризики та засоби контролю. Важливо те, що округи, які приймають стандарт, можуть розривати угоди та вимагати відшкодування збитків від компаній, які порушують правила, перетворюючи те, що історично було дрібним шрифтом, на договірне зобов’язання з реальними наслідками.«Ми уклали жорстку, залізну угоду про конфіденційність зі справжніми зубами, яка захищає студентів і сім’ї, тому що ніхто інший, включаючи федеральний уряд, не приступив до виконання справжньої роботи», — сказав Вайнгартен у заяві. «Все, що менше, ніж законодавчо закріплені положення, є просто списком побажань».
Малгрю, чий UFT представляє 200 000 освітян Нью-Йорка, сказав, що угода «дає шкільним округам право розірвати угоди та вимагати відшкодування збитків від зловмисників, які порушують правила».
Сміт із Microsoft сформулював угоду як шаблон, а не одноразовий: «Цей стандарт встановлює високу планку конфіденційності дітей і безпеки штучного інтелекту, і ми поширимо цю угоду на кожен шкільний округ по всій країні».
Спираючись на хвилю державних і місцевих дій
Угода обмежує місяці ескалації діяльності профспілок щодо екранів, ШІ та даних студентів. У травневій промові під назвою «Devices Down, Eyes Up, Hands-On» Вайнгартен закликав до повної заборони екранів від дитячого садка до другого класу, заборони ШІ для учнів у початковій школі та заборони соціальних чат-ботів для учнів віком до 16 років.
Подібну структуру згодом прийняли Об’єднаний шкільний округ Лос-Анджелеса, Об’єднані вчителі штату Нью-Йорк і — лише минулого тижня — державні школи міста Нью-Йорк, що дало новому національному стандарту набір великих, готових адаптаторів.
AFT вже деякий час намагається досягти цієї позиції: у 2024 році в «Опорах розуму для використання передових технологій у школах» було встановлено дев’ять основних принципів для захисту учнів, а минулого року профспілка запустила Національну академію навчання штучному інтелекту, щоб навчати викладачів використанню та неправильному використанню інструментів ШІ.
Чому це важливо
Угода є обхідним шляхом для нормативної прогалини. Існуючі закони про конфіденційність дітей, такі як FERPA та HIPAA, були написані до появи генеративного штучного інтелекту. «HIPAA та FERPA ніколи не передбачали появи штучного інтелекту», — сказав Вайнгартен, стверджуючи, що за відсутності оновлених засобів захисту технологічні компанії повинні взяти на себе відповідальність за продукти, які вони продають школам.
Ставки чималі для обох сторін. AFT представляє 1,8 мільйона вчителів від початкової до 12-го класів, парапрофесіоналів, викладачів вищих навчальних закладів, державних службовців, медсестер і вихователів раннього дитинства, що забезпечує стандартне безпосереднє охоплення в тисячах округів. Для Microsoft угода є одночасно поступкою і конкурентною зброєю. Добровільне виконання зобов’язуючих умов конфіденційності дає компанії вигідну позицію проти конкурентів, які залицяються на освітній ринок — і з 1,8 мільйонами членів AFT і тисячами округів як потенційними клієнтами, поширення стандарту по всій країні дає Microsoft готовий аргумент, чому її інструменти для класу повинні бути надійними за замовчуванням.
Відкритим питанням є виконання та поширення. Захист поширюється лише на ті округи, які включили їх у свої контракти з Microsoft, і жодна інша велика компанія з освітніх технологій ще не підписала еквівалентні умови. Чи Google, OpenAI, Anthropic та інші зіткнуться з тиском, щоб відповідати стандарту — чи законодавчі органи штатів перейдуть до кодифікації подібних правил — визначить, чи стане оголошення в середу новою галузевою базовою лінією чи відмінністю лише для Microsoft.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
