フロリダ州、チャットボットが犯罪に加担したAI企業に刑事責任を提案

フロリダ州司法長官は、チャットボットが犯罪に関与するAI企業に対する刑事罰を提案し、州レベルの規制の波がエスカレートした。

フロリダ州のジェームズ・ウスマイヤー司法長官は、人工知能システムが犯罪に関与している企業に対して州検察官が刑事罰を課すことを可能にする法案を提案したとキャピトリスト紙が報じた。火曜日に発表されたこの提案は、AI開発者に製品の使用方法の責任を問うことに関して、これまでで最も積極的な法理論の1つとなるだろう。

ニューズウィークは、ロン・デサンティス知事が同様の推進の一環としてAI幹部の「刑事責任」を提起し、フロリダ州を州主導のAI規制の波の最前線に位置づけ、議会が膠着したままだと報じた。このストーリーの詳細については、現在進行中の 人工知能のアップデート をご覧ください。

提案がどのように機能するか

提案草案では、AI システムを所有、管理、配布するあらゆる企業 (システムの設計、トレーニング、導入、安全設定を実質的に管理する企業を含む) にも責任が及ぶ可能性があります。キャピトリスト紙によると、検察が取り得る罰則には、罰金、被害者への賠償、裁判所命令による会社の監視などが含まれる。

注目すべきことに、司法長官事務所は完全な立法文言を発表しておらず、企業を告発する前に検察官がどの程度の知識、意図、関与を確立する必要があるのかについても明記していない。この発表と法文との間にあるギャップが、おそらく法廷闘争に加わることになるだろう。明確な意図基準のない刑事責任は、憲法修正第 1 条と適正手続きの厳しい課題に直面することになるだろう。

「チャットボットは課金できません」

ウスマイヤーは、この提案を異常に好戦的な言葉で組み立てた。キャピトリスト紙によると、司法長官は「AIは沈黙のツールではない。AIは質問に答え、時間を選び、場所を選び、計画を手順通りに案内してくれる」と語った。「製品がそのような犯罪に加担する場合、その製品を開発した企業は傍観者ではありません。チャットボットに料金を請求することはできませんが、それを設計し、トレーニングし、サブスクリプションを集めた企業は請求することができます。」

法案の背後にある事件

この提案は、フロリダ州が今年AI企業に対して取った一連のエスカレートする訴訟に基づいている。 6月1日、州はOpenAIとCEOのサム・アルトマンを、同社がChatGPTの安全性を虚偽表示し、未成年者に対するリスクに適切に対処しなかったとして訴えた。フロリダ州は今月初め、第三者の承認なしにOpenAIの新モデル開発を中止するよう裁判所に要請したが、この要請が認められれば、州がフロンティアモデルリリースの事実上の門番となることになる。

刑事責任追及は、2件の積極的な訴追に基づいている。司法長官事務所によると、2025年4月にフロリダ州立大学で2人が死亡、6人が負傷した銃乱射事件の犯人、フェニックス・イクナー容疑者が銃器、弾薬、キャンパスのタイミング、大勢が集まる場所などの情報を求めて攻撃計画中にChatGPTを使用していたと捜査当局が判断した。

司法長官事務所によると、フロリダ州捜査当局はまた、南フロリダ大学の博士課程学生2人を殺害した容疑者がChatGPTを使用して遺体の処理や銃器の所持、隣人に銃声が聞こえるかどうかなどについて質問した疑いを受け、捜査を拡大した。

既存の執行基盤の上に構築

フロリダ州はすでにAIの一部悪用を犯罪化する動きを見せている。 3月、デサンティスはAIによる児童性的虐待素材の作成を第2級重罪とするHB 1159に署名した。フロリダ州法執行局のマーク・グラス長官は当時、捏造された虐待資料は「新たな搾取経路を生み出し」、現実の子どもや家族を壊滅させる可能性があると述べた、とキャピトリスト紙は報じた。

新しい提案では、その基盤の上に企業責任の層が追加され、AIツールの個人ユーザーからAIツールを構築して利益を得ている企業に焦点が移されることになる。

両側に線を引くガバナ

デサンティス氏は、説明責任の推進と政府の行き過ぎに対する自身の警告を組み合わせた。 News4JAXによると、ニューズウィーク紙によると、知事はAI幹部の犯罪摘発を支持しながらも、フロリダ州が「デジタルAI監視国家」になることは避けなければならないと述べた。 AI企業に対する積極的な取り締まり、AIによる監視への懐疑という二つのメッセージは、明らかに国家レベルの政治的計算を反映している。

この計算はますます一般的になっています。全国州議会会議が最近の報告書で指摘したように、議会が審議する間、各州は AI 規制の主な舞台となっており、全国の議会がチャットボット、コンパニオンアプリ、自動意思決定システムに関する独自のルールを進めています。