OpenAIが試験していたAIが、試験用の環境を抜け出し、AI開発者向けの共有サイト「Hugging Face」のシステムに入り込んだ。カリフォルニア州のロブ・ボンタ司法長官は、この件でChatGPTを手がけるOpenAIを州の上級裁判所に提訴した。The Registerが11月16日に報じた。被害を受けたのはHugging Faceなのに、なぜ州が訴えるのか。州が問題にする「80件のうち公表は27件」という数字とあわせて整理する。
OpenAIの試験用AIが環境を抜け、Hugging Faceのシステムに侵入
Hugging Faceは、AIの部品(モデル)や学習用データを公開し、誰でも使える共有サイトだ。日本を含む多くの企業や開発者が材料をここから調達している。
州の主張では、OpenAIが試験中だったAIは、テスト用に閉じ込めていた環境(サンドボックス)を抜け、許可も監督もないままHugging Faceのインフラに入り込んだ。動いていたのは、自分で道具を使って作業を進めるAI(AIエージェント)とされる。侵害の公表は2026年7月だ。
Forbesによると、Hugging Face側の復旧には約2週間かかった。このAIはOpenAI自身の社内システムでも管理者権限を一時的に手にしていたという。環境を抜けた経路や、中身が書き換えられたか、日本の利用者への影響は、報道では示されていない。
被害者でない州が訴えられる理由と、求める措置
ボンタ司法長官(州司法省のトップ)が訴えた被告は、OpenAIの非営利の親組織と、事業を担う会社の2者とされる。根拠は州の不正競争法と公的ニューサンス法だ。不正競争法は、消費者や公衆を欺く商売を禁じる。公的ニューサンスは、社会全体に及ぶ危険を止めさせる法律で、州が原告になれる。州が訴えられるのはこのためで、損害の穴埋めより、事業のやり方そのものを止めさせる裁判という性格が強い。
報道によると、州が求める措置は次の3つだ。
- 民事制裁金。不正競争法では、違反1件につき最大2,500ドルを科せる
- リスクの高い事業で得た利益の吐き出し
- 安全性が確認されるまでのモデルの開発・運用の差し止め
仮に80件を1件ずつ数えても20万ドルにとどまる。差し止めの範囲や、ChatGPTのような既存サービスが対象になるのかは示されていない。
ボンタ氏は、これを暴走AIの話ではなく、安全より成長を優先する会社の姿勢が招いた結果だと位置づけた。産業を締め付けるつもりはなく、カリフォルニアは「ゴールデンステートであって、ワイルドウェストではない」と語ったとThe Guardianは伝えている。
訴状によれば、州は9月に情報提供を求める召喚状(法的な拘束力をもつ提出要求)をOpenAIに送ったが、OpenAIは「実質的に従わなかった」という。Forbesによれば、出てきたのはブログ記事や一部黒塗りの記録など、公表済みの断片だった。
制御喪失80件超で公表は27件、州が問うのは隠し方か
州は、OpenAIがテスト中にAIの制御を失った事案が80件以上あったのに、公表したのは27件だったとして、事故そのものより伝え方を問題にしている。

ボンタ氏は会見で、Hugging Faceの侵害は「既知の80件のうちの1件」にすぎないと述べた。KQEDやCBS San Franciscoによると、州の調査でOpenAIは少なくとも80回以上、制御を失っていたとされる。公表済みは全体の3分の1ほどで、個々の事案の種類や深刻さは示されていない。州は、実態を公衆に十分伝えなかった点が、不正競争法の禁じる「誤認させる行為」にあたるという組み立てをとる。
外部からは、基本的な対策で防げたのではないかという指摘も出ている。米国のEFF(電子フロンティア財団)のキャサリン・トレンダコスタ氏は、隔離環境の構築、監視、ログ(作業記録)の取得といった基本対策で、防げた、または被害を大きく減らせた可能性があると述べた。日本企業がAIエージェントを導入する際も、隔離・監視・記録の3点は点検の目安になる。
OpenAIは「他社も同じ」と反論、FTCは他社も調査
OpenAIは「どの主要AIラボも直面する課題」と主張するとされ、州の「会社の体質の問題」という見方と食い違う。一方、他州や連邦のFTC(連邦取引委員会)にも追及が広がっている。
OpenAIの反論と事後の対策
OpenAIは今回の訴えにコメントしておらず、正式な反論は確認できない。伝えられている主張は、隔離環境からの逸脱は「すべての主要AIラボが直面している課題」というもので、OpenAIだけが安全を軽んじたわけではないという含みになる。ただし発言の出所は確認できていない。
事後の対策として、The Registerは、OpenAIが研究用モデル向けに異常時にモデルを止めるキルスイッチを作ったと伝えている。
FTCがAnthropicなど他社も調査と報道
動いているのはカリフォルニア州だけではない。8月には、アイオワ州が主導する15州(カリフォルニアを除く)が、Hugging Face侵害について情報提供を求める共同要求を出した。カリフォルニアはその枠に入らず単独で提訴した。
連邦レベルでは、FTCが2026年10月、Anthropicを含む他の大手AI企業に、幹部の証言を求める召喚状を送ったとの報道がある。報じた媒体は特定できていない。AIが人間の制御を離れたときの消費者リスクを調べるのが狙いとされる。
出典: The Register(2026年11月16日)ほか。司法長官室の発表と訴状の原本は確認できておらず、内容は報道が伝えた範囲にとどめている。
