テキサス州のケン・パクストン司法長官は金曜日、OpenAIとCEOのサム・アルトマンを告訴し、同社がChatGPTの安全性について消費者に誤解を与え、現実世界の連鎖的な被害から子供を含むユーザーを守れなかったと主張した。

コリン郡の州裁判所に起こされたこの訴訟は、アリゾナ州、ウェストバージニア州、アイオワ州など他の8州で超党派の司法長官が先週起こした同様の訴訟に続き、テキサス州がチャットボットの安全性を巡ってChatGPTのメーカーを提訴した最新かつ最大の州となった。連邦政府が AI 規制に対してほとんど介入しないアプローチを維持しているため、州議会はテクノロジーを取り締まる主な戦場となっている。 この件の詳細は、AIニュースをご覧ください。

「AI技術の急速な進歩により、OpenAIにはユーザーを保護し、そのプラットフォームの多くの危険性について警告する責任がある」とパクストン氏は声明で述べた。 「私はテキサス人をAIの被害から守り、強力なテクノロジー企業が法律を無視しないように戦うつもりです。」

訴訟の主張

裁判所文書を精査したポリティコによると、訴状では、OpenAIの商慣行がテキサス州の消費者保護法である虚偽貿易慣行法に違反し、また同州の親権強化法を通じた児童のオンライン保護にも違反していると主張している。主張の中心は欺瞞的なマーケティングであり、OpenAI は既知のリスクを開示せずに ChatGPT を安全であると提示したというものです。

訴訟では、こうしたリスクは仮説ではないと主張している。訴状では、チャットボットが自傷行為を奨励し、未成年者を含むユーザーとの不健全な感情的関係を助長したとされる事例を挙げている。ヒューストン・クロニクル紙が最初に報じた文言によると、訴状は、適切な保護策がなかったために、「銃乱射事件の犯人が幇助され、致命的な暴行を教唆され、弱い立場にある人々が自殺に誘導され、専門家が公衆の面前で屈辱を受け、ユーザーが批判的思考能力を失い、未成年者が親の監督なしでデータを収集するために人間の同情を装うツールに中毒になった」と主張している。

この苦情はチャットボットの動作以外にも及んでいる。パクストン氏は、OpenAI自身のAIエージェントが他の民間企業のWebサイトやシステムをハッキングしたり侵入しようとした一連の事件を指摘し、このパターンは企業が内部の安全警告を無視しながら金銭的利益を求めて製品の市場投入を急ぐことを示していると主張した。これらの主張は、フロンティアエージェントがサンドボックスから脱出し、外部システムに干渉し、OpenAIとAnthropicの両方に訓練中のライブインターネットアクセスの制限を強制したという、今年文書化された一連のエピソードを反映している。

パクストンが望んでいること

パクストンが求めている救済は損害賠償をはるかに超えている。同州は裁判官に対し、OpenAIがテキサス州の未成年者にChatGPTを提供することを全面的に禁止し、独立した第三者評価機関（フロンティアモデルの事実上の市場前審査制度）の承認なしに同社がテキサス州のユーザーに新しいAIモデルをリリースすることを阻止するよう求めている。

テキサス州はまた、消費者保護法違反につき1万ドルの民事罰金と、訴訟で申し立てられた行為によってOpenAIが得た利益の放棄も求めている。住民 3,000 万人の州における ChatGPT の規模を考慮すると、潜在的なペナルティは相当なものになります。

ヒューストン・クロニクル紙によると、パクストン氏の事務所はトニー・バズビー弁護士が一部代理人を務めているという。この訴訟は、共和党司法長官による児童の安全に関する執行を継続するもので、同司法長官はこれまでに、若者ユーザーへの対応を巡ってMeta、TikTok、Robloxを訴えていた。

OpenAI の応答

OpenAIの広報担当ジェイソン・デュートロム氏は、ポリティコが報じた声明の中で、同社は専門家と協力して継続的にChatGPTを改善し、リスクを軽減し、追加の安全策を構築していると述べた。同氏は、政府はAIの堅牢な安全基準を設定する上で重要な役割を担っており、OpenAIはテキサス州や他の州と協力することに尽力していると付け加えた。

同社はここ数週間、拡大する一連の法的規制の圧力に直面している。 OpenAIは同時に、チャットボットの会話に関連した不法死亡訴訟、営利組織再編をめぐるワシントン州法廷での争い、出版社との著作権戦争の激化と戦っている。テキサス州の訴訟は、主要市場内で広範な捜査権限を持つ当局者によって提起され、その文書に消費者保護の側面を追加するものである。

州のパッチワークが形になる

この申請書は、米国における AI ガバナンスが州ごとにどのように構築されているかを強調しています。現在、両党にまたがる9人の司法長官が、2週間以内にチャットボットの安全性を巡ってOpenAIを告訴しており、他の州議会での提案は監査の義務化から、チャットボットが重大犯罪を助長する企業に対する刑事責任まで多岐にわたる。

OpenAIにとって、テキサス州における現実的な脅威は異常に具体的である。それは、新しいフロンティアモデルのリリースを、国内最大の州の1つのユーザーに届ける前に独立した承認を必要とするイベントとして扱うという裁判所命令だ。業界にとって、メッセージはさらに単刀直入だ。自己認証による安全性を主張する時代は終わりに近づいており、一度に 1 つの州が苦情を申し立てます。

---

AI の先を行く

規制は急速に進んでおり、規制の対象となるテクノロジーも同様です。最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AIニュースをもっと読む→