Amerykańska Federacja Nauczycieli, Zjednoczona Federacja Nauczycieli i Microsoft ogłosiły w środę „Krajowy standard bezpieczeństwa i prywatności w zakresie sztucznej inteligencji”, ustanawiający prawnie egzekwowalną ochronę uczniów, rodzin i nauczycieli. Jest to pierwsze w swoim rodzaju porozumienie negocjowane przez kilka miesięcy w ramach, jak to nazywają związki zawodowe, próżni federalnych i stanowych przepisów dotyczących sztucznej inteligencji dla szkół.
Porozumienie zostało zaprezentowane w Nowym Jorku przez prezydenta AFT Randi Weingartena, prezesa UFT Michaela Mulgrew oraz wiceprzewodniczącego i prezydenta firmy Microsoft Brada Smitha. Pojawia się tuż po nowo przyjętych ekranach i zakazie sztucznej inteligencji w szkołach publicznych w Nowym Jorku i ma zostać włączone bezpośrednio do umów z klientami Microsoft zawieranych przez okręgi szkolne, dzięki czemu zabezpieczenia będą egzekwowalne na mocy umów, a nie aspiracyjnych zobowiązań. Więcej kontekstu tej historii znajdziesz w naszych bieżących zasadach dotyczących sztucznej inteligencji.
Czego wymaga umowa
W swojej istocie standard przekształca wspólne zasady w możliwe do wyegzekwowania zabezpieczenia skupione na trzech priorytetach.
Ochrona prywatności: dane uczniów i nauczycieli nie będą wykorzystywane do uczenia modeli sztucznej inteligencji, sprzedawane lub wykorzystywane w innym celu, a uczniów nie można w żadnym wypadku śledzić. Szkoły zachowują kontrolę nad sposobem wykorzystania, przechowywania i usuwania danych. Zwiększanie bezpieczeństwa: systemy sztucznej inteligencji muszą być zaprojektowane tak, aby unikać szkodliwych lub manipulacyjnych doświadczeń, chronić poufne informacje i spełniać rygorystyczne standardy bezpieczeństwa, odpowiedzialności i odpowiedzialnego użytkowania – przy nadzorze człowieka, zanim decyzje oparte na sztucznej inteligencji zaczną obowiązywać. Zapewnienie przejrzystości i kontroli: rodziny otrzymują jasne i dostępne informacje o tym, jak sztuczna inteligencja jest wykorzystywana w klasach, jakie dane są gromadzone i jakie zabezpieczenia są stosowane. Firmy muszą jasno informować o zmianach w produktach, ryzyku i kontrolach. Co najważniejsze, okręgi, które przyjmą ten standard, mogą rozwiązać umowy i dochodzić odszkodowania od firm, które łamią zasady, zamieniając to, co w przeszłości było pisane drobnym drukiem językiem polityki, w zobowiązanie umowne z realnymi konsekwencjami.„Zawarliśmy twardą, żelazną umowę o ochronie prywatności, zawierającą prawdziwe zęby, która chroni uczniów i rodziny, ponieważ nikt inny, łącznie z rządem federalnym, nie podjął się prawdziwej pracy” – stwierdził Weingarten w oświadczeniu. „Wszystko, co nie jest prawnie wykonalne, jest po prostu listą życzeń”.
Mulgrew, którego UFT reprezentuje 200 000 nowojorskich nauczycieli, stwierdziła, że porozumienie „upoważnia okręgi szkolne do rozwiązywania porozumień i dochodzenia odszkodowania od złych aktorów, którzy łamią zasady”.
Smith z Microsoftu określił umowę jako szablon, a nie jednorazowy akt: „Ten standard stawia wysoką poprzeczkę w zakresie prywatności dzieci i bezpieczeństwa sztucznej inteligencji, dlatego rozszerzymy tę umowę na wszystkie okręgi szkolne w całym kraju”.
Budowanie na fali działań państwowych i lokalnych
Porozumienie ogranicza miesiące eskalacji działań związków zawodowych na ekranach, sztucznej inteligencji i danych uczniów. W majowym przemówieniu zatytułowanym „Devices Down, Eyes Up, Hands-On” Weingarten wezwał do całkowitego zakazu korzystania z ekranu od przedszkola do drugiej klasy, zakazu korzystania ze sztucznej inteligencji skierowanej do uczniów w szkole podstawowej oraz zakazu używania chatbotów społecznościowych dla uczniów poniżej 16 roku życia.
Podobne ramy przyjęły od tego czasu Zunifikowany Okręg Szkolny w Los Angeles, Zjednoczeni Nauczyciele Stanu Nowy Jork i – zaledwie w zeszłym tygodniu – Szkoły Publiczne Nowego Jorku, dzięki czemu nowy standard krajowy zyskał grupę dużych, gotowych do wdrożenia.
AFT od jakiegoś czasu dąży do tego stanowiska: w ramach „Zdrowego rozsądku poręczy dla korzystania z zaawansowanych technologii w szkołach” z 2024 r. ustanowiono dziewięć podstawowych zasad ochrony uczniów, a w zeszłym roku związek uruchomił Instrukcję Narodowej Akademii ds. Sztucznej Inteligencji, aby szkolić nauczycieli w zakresie używania i niewłaściwego używania narzędzi sztucznej inteligencji.
Dlaczego to ma znaczenie
Porozumienie ma na celu obejście luki regulacyjnej. Istniejące przepisy dotyczące prywatności dzieci, takie jak FERPA i HIPAA, zostały napisane przed pojawieniem się generatywnej sztucznej inteligencji. „HIPAA i FERPA nigdy nie przewidywały pojawienia się sztucznej inteligencji” – stwierdził Weingarten, argumentując, że w przypadku braku zaktualizowanych zabezpieczeń firmy technologiczne muszą wziąć odpowiedzialność za produkty, które sprzedają szkołom.
Stawka jest znaczna dla obu stron. AFT reprezentuje 1,8 miliona nauczycieli klas od przedszkola do 12, pracowników paraprofesjonalistów, wykładowców szkolnictwa wyższego, pracowników rządowych, pielęgniarek i nauczycieli edukacji wczesnoszkolnej – zapewniając standardowy natychmiastowy zasięg w tysiącach okręgów. Dla Microsoftu umowa jest jednocześnie ustępstwem i bronią konkurencyjną. Zgłoszenie się na ochotnika do przestrzegania wiążących warunków ochrony prywatności stawia firmę na korzystnej pozycji wobec rywali zabiegających o rynek edukacyjny — a przy 1,8 miliona członków AFT i tysiącach okręgów jako potencjalnych klientów rozszerzenie standardu na cały kraj daje Microsoftowi gotowy argument przemawiający za tym, dlaczego jego narzędzia do zajęć lekcyjnych powinny być zaufanym rozwiązaniem domyślnym.
Otwartą kwestią jest egzekwowanie i rozpowszechnianie. Zabezpieczenia obowiązują jedynie okręgi, które włączają je do swoich umów Microsoft, a żadna inna duża firma z branży technologii edukacyjnych nie podpisała jeszcze równoważnych warunków. To, czy Google, OpenAI, Anthropic i inne firmy staną w obliczu presji, aby dostosować się do standardu – lub czy legislatury stanowe zaczną kodyfikować podobne zasady – zadecyduje, czy środowe ogłoszenie stanie się nowym punktem odniesienia w branży, czy też wyróżnikiem dostępnym wyłącznie dla Microsoftu.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
