Anthropic は、フロンティア AI 研究所による米国の規制を形成するためのこれまでで最も具体的な試みの 1 つとして、最も強力な人工知能モデルの公開や使用を阻止するための連邦機構を創設する法案を米国議員の間で回覧していることを認めた。この草案は金曜日にポリティコによって初めて報じられ、アンスロピックの広報担当者はAFPに対し草案の存在を認めた。
この提案は、議会が政治的に分裂しており、ビッグテックによる大規模なロビー活動が行われている中で、まだ連邦AI法を可決しておらず、ドナルド・トランプ大統領の下でのワシントンのアプローチが主に業界の自発的な公約や大統領令に依存しており、ハイテクリーダーらが国の経済を牽引していると主張するAIブームを維持することを目的としている中で提出された。この記事の詳細については、AI ニュース速報 をご覧ください。
法案の内容
ポリティコとAFPが解説した草案によると、連邦政府は、50人以上が死亡または重傷を負う、あるいは10億ドル以上の損害が発生する差し迫った危険がある場合、モデルの発売や使用を阻止する可能性があるとしている。重要なのは、その権限には司法のチェックが伴うことだ。政府は裁判官の承認があった場合にのみ行動できる。
この組み合わせ（高い危害閾値と裁判所の承認）は、極端な提案は行政府にAI業界に対する圧倒的な権限を与えることになると主張する批評家に答えることを目的としているようだ。この件を報道した業界紙は、この法案を、政府が介入できる時期を制限しながら、米国政府に「危険な配備」を停止させる計画であると報じた。
人間が必要としているもの
同社の広報担当者はAFPに対し、この提案により「連邦政府に最も強力なモデルの危険な配備を阻止または抑止する能力が与えられる」と語った。
「フロンティアの開発者には、最も強力なモデルをテストし、その結果を一般に公開し、独立した評価に提出し、堅牢なセキュリティプログラムを維持することが求められる」と広報担当者は述べた。
これら 4 つの義務、つまりテスト、公的透明性、独立した評価、セキュリティは、Anthropic といくつかの競合他社がすでに自発的に採用している安全への取り組みを反映しています。この草案は事実上、その任意制度の一部を法令に変えることになる。
なぜ人類は今動いているのか
タイミングはさまざまな面で重要です。議会は来月の中間選挙後まで休会のため、差し迫った投票は行われないが、中間選挙終了後は立法交渉が再開される可能性があり、研究室には優先文書を用意しておこうというインセンティブがある。
AFPが草案に関する報告書で指摘したように、開発者の制御を逃れたAIエージェント（人間の常時監視なしで動作する自律型ソフトウェア）によって引き起こされた事件が最近暴露されたことを受けて、ワシントンでもセキュリティが大きな話題となっている。
人間学自体には、珍しい視点があります。パンチが伝えたAFPの報道によると、同社は2月にトランプ政権によって国防総省からの出入りを禁止され、6月には米国政府から最新鋭モデルの販売を3週間近く停止するよう強制された。 CEOのダリオ・アモデイ氏は先月、AIエージェントのグループが「インターネット全体」を制御する可能性があると警告し、業界に対し開発を遅らせるよう呼びかけた。
言い換えれば、ワシントン政府がすでにリスク源として扱ってきた企業が、自ら定めた条件に基づいて、まさにそのリスクを取り締まる法的機構を提案しているのだ。
フロンティアラボとしては珍しい立場
AI企業によるロビー活動は何も新しいことではないが、実際の法定草案を配布することは、ポジションペーパーや公開書簡を超える一歩である。それはアンスロピックに独自の規制制度の共同作成者の役割を与え、他の研究機関、市民社会団体、防衛機関が今後対応しなければならない既成のベースラインを議員に手渡すことになる。
おそらく反応は分かれるだろう。拘束力のある連邦規則を求める強硬派は、10億ドルと犠牲者50人の基準は高すぎる、裁判官の承認要件は真の緊急事態には遅すぎると批判するかもしれない。現在の自主的なアプローチを好む業界関係者は、いかなる阻止力も成文化することに反対するかもしれない。両陣営は現在、議論すべき具体的な文書を持っており、それこそまさに連邦議会の議論に欠けているものである。
次に何が起こるか
この草案にはまだ議会のスポンサーが特定されておらず、アンスロピックは草案を受け取った議員の名前を公表していない。中間選挙が終わるまで議会が開かないため、より直接的な影響は政策対話自体に及ぶ可能性がある。この法案はフロンティアラボが許容可能な監督とみなす基準点を設定しており、競合する連邦提案はこれに照らして評価されることになる。
アンスロピック社は、AFP報道での広報担当者の声明以上のことには言及しなかった。このストーリーは、草案テキストの詳細が明らかになり次第更新されます。
---
最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。
AI ニュースをもっと読む→
