マサチューセッツ州AI安全法案は120日ごとのフロンティアモデルのレビューを義務付け、AnthropicとOpenAIを分割

マサチューセッツ州は、フロンティア AI モデルが 120 日ごとに壊滅的なリスクについてレビューされることを望んでおり、これはこれまでで最も厳格な州の保護措置であり、Anthropic と OpenAI の意見は分かれています。

マサチューセッツ州の議員らは、人工知能に対する全米で最も厳格な州レベルの保護措置を創設する方向で動いており、この提案により、業界の2つの主要研究所が分裂した。Anthropicが規則を支持しているのに対し、OpenAIは規則に反対するロビー活動を行っている。

この措置は、州上院が先月可決した経済開発法案に含まれており、主要なAI研究所に対し、少なくとも120日に1回、壊滅的リスクに関する独立したレビューにフロンティアモデルを提出することを義務付けるもので、これは米国の州としては初めてのことだ。調査結果は公表されるが、州が開発を中止するためにそれを利用することはできない。法案の最終文言をめぐる争いは現在、ビーコンヒルの密室で進行中であり、これは米国の州が辺境モデルの取り締まりでどこまで取り組むのかを決定づける試金石となっている。政府がテクノロジーとどのように対峙しているかに関する定期的なレポートについては、AI 政策報道に従ってください。

マサチューセッツ州の提案で求められるもの

この法案の中核となる規定は、フロンティアAIシステムの危険性を定期的に独立してチェックすることだ。水曜日に発表されたブルームバーグの報道によると、外部組織は、開発者自身の安全ガイドラインとは関係なく、モデルの大惨事（少なくとも50人が死亡または重傷を負う、または10億ドル以上の物的損害を引き起こす出来事として定義される）の可能性を評価する権限を与えられることになる。

同州はまた、イリノイ州が既に義務付けているのと同様の年次コンプライアンス審査も実施する予定だ。しかし、定期的な評価はカリフォルニア、ニューヨーク、イリノイで採用された法律をはるかに超えており、マサチューセッツ州はフロンティアモデルを120日間の第三者による固定検査時間に置く最初の州となるだろう。

人間性: 業界は独自に宿題を採点すべきではない

連邦基準がない中で州の AI 規制を強化することを主張してきたアントロピックは、マサチューセッツ州の提案を受け入れ、これを「国内で最も明確で強力な AI 法案」と呼んでいる。

同社の米国州・地方自治体関係責任者、セサール・フェルナンデス氏は「最終的には、業界が独自の宿題を採点すべきだとは考えていない」とブルームバーグに語った。フェルナンデス氏は、テクノロジーの進歩に伴い、各州はさらに厳格な監視を導入する必要があるかもしれないと付け加えた。これは、自社製品の規制強化を主張するAI研究所からの驚くべき立場だ。

OpenAI、レビューは逆効果になると警告

ブルームバーグの報道によると、OpenAIはマサチューセッツ州議会に対し、頻繁に強制審査を行うと、議員が懸念するまさにそのリスクから保護できるサイバーセキュリティモデルのリリースが遅れることになると警告した。同社は、イリノイ州法をモデルにした統一州基準を好み、この基準では第三者による監査を年に1回のみ義務付け、研究所が独自の安全ガイドラインに従っており、必要な開示を行っているかどうかに焦点を当てている。

OpenAIの米国国家政策・パートナーシップ部門責任者ドニー・ファウラー氏は、州体制間の不一致は「安全性が高まるというわけではない。混乱を意味するだけだ」と述べた。

ファウラー氏は、イリノイ州の年次監査をブレーキランプやワイパーが機能することを確認する定期的な自動車検査に例え、マサチューセッツ州が提案した評価を数か月ごとにエンジンを分解して元に戻すことと比較した。

11 月の選挙前のロビー活動の全力疾走

両社は現在、最終文書の作成に向けてせめぎ合っている。ブルームバーグによると、アンスロピックは今年初めにボストンのロビー活動会社トレモント・ストラテジーズ・グループを雇用し、一方オープンAIはここ数週間で地元企業ベンチマーク・ストラテジーズを雇用したという。

より広範な経済開発法案には議員選挙区内のプロジェクトへの資金提供も含まれているため、11月の選挙までに可決される可能性が高いと考えられている。下院と上院の交渉担当者６人からなるグループは、ＡＩルールを含む詳細を詰めている。

交渉担当者の一人であるバリー・ファインゴールド州上院議員は、フロンティアモデルが重大な害を及ぼさないことを保証するために独立した評価が必要であると述べ、マサチューセッツ州が行動すれば他の州も追随するだろうと予測した。ファインゴールド氏はブルームバーグに対し、「われわれはソーシャルメディアで後れを取っていた。ガードレールを設置せずにあまりにも多くのことをやり過ごしてしまったが、今は巻き返しを図っているところだ」と語った。「私たちは二度と同じことをしたくないのです。」

州が連邦真空状態に突入

マサチューセッツ州の取り組みは、AIの安全性が新たな緊急性を帯びている中で行われた。ブルームバーグの報道によると、先月、OpenAI、Anthropic、Meta Platformsはそれぞれ、自社のモデルがテスト環境でサードパーティのシステムを誤ってハッキングした事例を報告した。

連邦政府の監視は依然として限られている。ドナルド・トランプ大統領はほぼ介入的なアプローチをとっており、州法を先取りする超党派のAI安全法案は議会で行き詰まっている。米国の経済成長における不釣り合いなシェアを牽引する AI ブームの一部をめぐって各州が互いに競争しながらも、現在そのギャップを埋めつつある。

マサチューセッツ州自体が業界に積極的に働きかけている。 2月に州はOpenAIとの提携を発表し、行政府全体にChatGPTを利用したアシスタントへのアクセスを許可した最初の州となった。公文書開示請求を通じて入手した電子メールによると、今春、マウラ・ヒーリー知事と彼女の経済開発長官で元ベンチャーキャピタリストのエリック・ペイリー氏は、アンスロピック社のマサチューセッツ州での拠点拡大とサイバーセキュリティーと労働力開発での提携についてダニエラ・アモデイ社長と会談したという。

ペイリー氏はあるメッセージでアンスロピックに対し、「AIがどのように人間性を向上させているかについてのより明確な例を私たち全員が共有し、あらゆる恐怖を煽る行為と戦うための前向きなインスピレーションを提供する必要がある」と述べ、監視に関する協力について同社と州議会議員を結びつけることを申し出た。

11月の再選を目指して民主党のヒーリー氏は、当初の経済開発提案にAIの保障措置を盛り込んでいなかった。同氏と下院の双方がこの条項に同意する必要があり、政権は議員らと協力して今秋に法案をまとめるとしている。