Amerikan Öğretmenler Federasyonu, Birleşik Öğretmenler Federasyonu ve Microsoft Çarşamba günü öğrenciler, aileler ve eğitimciler için yasal olarak uygulanabilir korumalar oluşturan bir "Ulusal Yapay Zeka Güvenliği ve Gizlilik Standardı"nı duyurdu; sendikaların okullar için federal ve eyalet yapay zeka kuralları boşluğu olarak adlandırdıkları ortamda birkaç ay boyunca müzakere edilen türünün ilk örneği bir anlaşma.

Anlaşma New York'ta AFT Başkanı Randi Weingarten, UFT Başkanı Michael Mulgrew ve Microsoft Başkan Yardımcısı ve Başkanı Brad Smith tarafından açıklandı. New York City Devlet Okulları'nın yeni kabul ettiği ekranlar ve yapay zeka yasağının hemen ardından geldi ve doğrudan okul bölgelerinin Microsoft müşteri anlaşmalarına dahil edilecek şekilde tasarlandı; korumaları arzu edilen taahhütlerden ziyade sözleşmeye dayalı olarak uygulanabilir hale getiriyor. Bu hikayeyle ilgili daha fazla bağlam için devam eden AI politika kapsamımıza bakın.

Anlaşmanın Gerektirdikleri

Standart, özünde, paylaşılan ilkeleri üç önceliğe odaklanan uygulanabilir korumalara dönüştürüyor.

Gizliliğin korunması: Öğrenci ve eğitimci verileri yapay zeka modellerini eğitmek için kullanılmayacak, satılmayacak veya başka bir amaca uygun hale getirilmeyecek ve öğrenciler hiçbir zaman izlenemeyecektir. Okullar, verilerin nasıl kullanıldığı, saklandığı ve silindiği konusunda kontrolü elinde tutar. Güvenliği artırma: Yapay zeka sistemleri, zararlı veya manipülatif deneyimlerden kaçınacak, hassas bilgileri koruyacak ve güvenlik, hesap verebilirlik ve sorumlu kullanıma yönelik sıkı standartları karşılayacak şekilde tasarlanmalıdır; yapay zeka odaklı kararlar yürürlüğe girmeden önce insan gözetimi gereklidir. Şeffaflık ve kontrol sağlama: Aileler, yapay zekanın sınıflarda nasıl kullanıldığı, hangi verilerin toplandığı ve hangi korumaların uygulandığı hakkında net ve erişilebilir bilgilere sahip olur. Şirketler ürün değişiklikleri, riskler ve kontroller hakkında açıkça iletişim kurmalıdır. En önemlisi, standardı benimseyen bölgeler anlaşmaları sona erdirebilir ve kuralları çiğneyen şirketlerden tazminat talep edebilir; bu da tarihsel olarak ince yazılı politika dilini gerçek sonuçları olan bir sözleşme yükümlülüğüne dönüştürebilir.

Weingarten yaptığı açıklamada, "Öğrencileri ve aileleri koruyan gerçek dişlerle zorlu, çelik kaplı bir gizlilik anlaşması imzaladık, çünkü federal hükümet dahil hiç kimse gerçek işi yapmak için adım atmadı." dedi. "Yasal olarak uygulanabilir hükümlerin dışında kalan her şey sadece bir istek listesidir."

UFT'si New York City'deki 200.000 eğitimciyi temsil eden Mulgrew, anlaşmanın "okul bölgelerine anlaşmaları sona erdirme ve kuralları çiğneyen kötü aktörlerden tazminat talep etme yetkisi verdiğini" söyledi.

Microsoft'tan Smith, anlaşmayı tek seferlik olmaktan ziyade bir şablon olarak çerçeveledi: "Bu standart, çocuk gizliliği ve yapay zeka güvenliği için yüksek bir çıta belirliyor ve bu anlaşmayı ülke çapındaki her okul bölgesine genişleteceğiz."

Devlet ve Yerel Eylem Dalgasından Yararlanmak

Anlaşma, ekranlar, yapay zeka ve öğrenci verileri üzerinde aylardır artan sendika faaliyetlerini sınırlıyor. Mayıs ayında yaptığı "Cihazlar Kapatıldı, Gözler Yukarı, Uygulamalı" başlıklı konuşmasında Weingarten, anaokulundan ikinci sınıfa kadar ekranın tamamen yasaklanması, ilkokulda öğrencilere yönelik yapay zekanın yasaklanması ve 16 yaşın altındaki öğrenciler için sosyal arkadaş sohbet robotlarının yasaklanması çağrısında bulundu.

Benzer bir çerçeve, o zamandan bu yana Los Angeles Birleşik Okul Bölgesi, New York Eyaleti Birleşik Öğretmenler Birliği ve (daha geçen hafta) New York City Devlet Okulları tarafından benimsenerek, yeni ulusal standarda bir dizi büyük ve hazır uygulayıcılar kazandırıldı.

AFT bir süredir bu pozisyona doğru ilerliyor: 2024 "Okullarda İleri Teknoloji Kullanımına Yönelik Sağduyulu Korumalar" öğrencileri korumaya yönelik dokuz temel ilke belirledi ve sendika geçen yıl eğitimcileri yapay zeka araçlarının kullanımı ve kötüye kullanımı konusunda eğitmek için Ulusal Yapay Zeka Eğitimi Akademisi'ni kurdu.

Neden Önemlidir

Anlaşma, mevzuat boşluğuna geçici bir çözüm niteliğinde. FERPA ve HIPAA gibi mevcut çocuk gizliliği yasaları, üretken yapay zekanın ortaya çıkmasından önce yazılmıştı. Weingarten, güncellenmiş korumaların yokluğunda teknoloji şirketlerinin okullara pazarladıkları ürünlerin sorumluluğunu üstlenmesi gerektiğini savunarak, "HIPAA ve FERPA hiçbir zaman yapay zekanın gelişini öngörmedi" dedi.

Riskler her iki taraf için de oldukça büyük. AFT, anaokulundan 12. sınıfa kadar 1,8 milyon öğretmeni, yardımcı profesyonelleri, yüksek öğrenim öğretim üyelerini, hükümet çalışanlarını, hemşireleri ve erken çocukluk eğitimcilerini temsil ediyor; bu da standardın binlerce bölgeye anında ulaşmasını sağlıyor. Microsoft için anlaşma aynı zamanda bir imtiyaz ve bir rekabet silahıdır. Bağlayıcı gizlilik şartlarına gönüllü olmak, şirketi eğitim pazarında kur yapan rakiplere karşı avantajlı bir konuma getiriyor ve potansiyel müşteri olarak 1,8 milyon AFT üyesi ve binlerce bölge ile standardı ülke çapında genişletmek, Microsoft'a sınıf araçlarının neden güvenilir varsayılan olması gerektiğine dair hazır bir argüman sağlıyor.

Açık soru, uygulama ve yayılmadır. Korumalar yalnızca bunları Microsoft sözleşmelerine dahil eden bölgeleri bağlar ve başka hiçbir büyük eğitim teknolojisi şirketi henüz eşdeğer şartları imzalamamıştır. Google, OpenAI, Anthropic ve diğerlerinin standarda uyma konusunda baskıyla karşı karşıya olup olmadığı veya eyalet yasama organlarının benzer kuralları düzenlemeye yönelik hareket edip etmediği, Çarşamba günkü duyurunun yeni bir endüstri temeli mi yoksa yalnızca Microsoft'a özgü bir farklılaştırıcı mı olacağını belirleyecek.

---

Yapay Zekanın Önünde Olun

En son AI haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →