米国教職員連盟、全米教職員連盟、マイクロソフトは水曜日、生徒、家族、教育者に対する法的強制力のある保護を確立する「国家 AI 安全性およびプライバシー基準」を発表した。この種のものとしては初めての協定で、組合が学校向けの連邦および州の AI 規則の空白地帯と呼んでいるもので、数カ月にわたって交渉されたものだ。

この合意は、AFT会長のランディ・ワインガーテン氏、UFT会長のマイケル・マルグルー氏、マイクロソフト副会長兼社長のブラッド・スミス氏によってニューヨークで発表された。これは、ニューヨーク市の公立学校で新たに導入されたスクリーンと AI の禁止に続いて登場し、学区の Microsoft 顧客契約に直接組み込まれるように設計されており、保護を願望的な誓約ではなく契約上強制できるものにしています。このストーリーの詳細については、現在進行中の AI ポリシーの報道 をご覧ください。

契約に必要なもの

この規格の中核は、共有原則を 3 つの優先事項を中心とした強制力のある保護に変えることです。

プライバシーの保護: 学生と教育者のデータは、AI モデルのトレーニングに使用されたり、販売されたり再利用されたりすることはなく、学生を追跡することはできません。学校は、データの使用、保持、削除の方法を管理します。 安全性の強化: AI システムは、有害なエクスペリエンスや操作的なエクスペリエンスを回避し、機密情報を保護し、セキュリティ、説明責任、責任ある使用に関する厳格な基準を満たすように設計する必要があります。AI 主導の意思決定が有効になる前に人間の監視が必要です。 透明性と制御の提供: 家族は、教室で AI がどのように使用されているか、どのようなデータが収集され、どのような保護が行われているかについて、明確でアクセスしやすい情報を得ることができます。企業は製品の変更、リスク、管理について明確にコミュニケーションする必要があります。重要なことは、この基準を採用した学区は、協定を破棄し、規則に違反した企業に対して損害賠償を請求できるということです。これにより、これまで細かい方針の文言であったものが、実際の結果を伴う契約上の義務に変わります。

ワインガルテン氏は声明で、「連邦政府を含め、誰も本格的な取り組みに乗り出していないため、私たちは学生と家族を守るための、真剣に戦った鉄壁のプライバシー協定を結んだ」と述べた。 「法的強制力のない条項は単なる要望リストに過ぎません。」

UFTがニューヨーク市の教育者20万人を代表するマルグルー氏は、この協定により「学区は協定を破棄し、規則を破った悪者に対して損害賠償を求めることができるようになる」と述べた。

Microsoftのスミス氏は、今回の協定は一回限りのものではなく、テンプレートとして位置づけられ、「この基準は子どものプライバシーとAIの安全性に対して高い基準を設けており、我々はこの協定を全国のすべての学区に拡大するつもりだ」と述べた。

国家と地方の行動の波に基づいて構築する

この協定は、スクリーン、AI、学生データを利用した数か月にわたる組合活動のエスカレートに上限を設けるものである。ワインガルテン氏は「デバイスを下げ、目を上げ、実践」と題した5月の講演で、幼稚園から2年生までの画面全面禁止、小学校での生徒向けAIの禁止、16歳未満の生徒に対するソーシャルコンパニオンチャットボットの禁止を求めた。

その後、同様の枠組みがロサンゼルス統一学区、ニューヨーク州統一教師会、そしてつい先週、ニューヨーク市公立学校でも採用され、新たな全国基準に既製の大規模な採用者が増えた。

AFTはしばらくの間、この立場に向けて強化を進めてきた。2024年の「学校で先端技術を使用するための常識的ガードレール」では、生徒を保護するための9つの基本原則が定められ、同組合は昨年、AIツールの使用と誤用について教育者を訓練する全米AI指導アカデミーを立ち上げた。

なぜそれが重要なのか

この協定は規制上のギャップを回避するものである。 FERPA や HIPAA などの既存の児童プライバシー法は、生成 AI が存在する前に制定されました。ワインガルテン氏は「HIPAAとFERPAはAIの出現など全く想定していなかった」と述べ、最新の保護策がない状況ではハイテク企業は学校向けに販売する製品に責任を負う必要があると主張した。

賭け金は双方にとってかなり大きい。 AFT は、就学前から 12 年生までの教師、準専門職、高等教育教員、政府職員、看護師、幼児教育者 180 万人を代表しており、数千の学区に標準の即時リーチを提供しています。 Microsoftにとって、この合意は譲歩であると同時に競争力の武器でもある。拘束力のあるプライバシー条件に自発的に従うことで、同社は教育市場に求愛するライバル社に対して有利な立場に立つことができ、180万人のAFT会員と数千の学区を潜在的な顧客として抱えており、基準を全国に拡大することで、なぜ自社の教室用ツールが信頼できるデフォルトであるべきなのかについて、マイクロソフト社に十分な議論を与えることができる。

未解決の問題は施行と普及だ。この保護は、マイクロソフトとの契約に保護を組み込んだ学区のみを拘束するものであり、他の主要な教育テクノロジー企業はまだ同等の条件に署名していません。 Google、OpenAI、Anthropicなどが標準に適合するよう圧力に直面するかどうか、あるいは州議会が同様の規則を成文化しようとするかどうかによって、水曜日の発表が新たな業界の基準となるのか、それともMicrosoftのみの差別化要因となるのかが決まるだろう。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→