フロリダ州の女性がClaudeの日記エントリーで重罪訴追を受ける
30秒でわかる内容解説
2026年9月26日、フロリダ州の女性Carli Michelle Hellerが会話型AI Claudeを日記代わりに使用した。保安官事務所襲撃計画を記載したエントリーが安全システムで検知され、人間レビュアーによって警察へ通報された。同社は死亡や重度の怪我を防ぐために開示が必要と判断した場合、限られた緊急時にユーザー情報を共有する方針を定めている。クラウド上に保存されるAIとの対話が現実の法執行に直結する事例として、技術者の入力管理にも影響が及ぶ。
Claudeの安全システムが通報した日記エントリー
フロリダ州ボニータスプリングス在住のCarli Michelle Hellerは、2026年9月26日にClaudeへ保安官事務所への襲撃計画を書き込んだ。彼女は同チャットボットを秘密の日記のように使っていると供述している。
Claude's safety systems flagged the entry and it was escalated to a human reviewer.
Claudeの安全システムがエントリーをフラグ付け、人間レビュアーへエスカレートした。
Claudeの安全フィルタが当該エントリーをフラグ付けると、アラートは人間レビュアーへエスカレートした。レビュアーは文脈から信憑性の高い脅威と判断し、地元の保安官事務所へ通報した。警察官が自宅を訪問して事情を聴取した結果、Hellerは特段の異状なく拘留された。その後、LCSOのインテリジェンス担当探偵が捜査を指揮している。
彼女はフロリダ州法836.10に基づき、書面による暴力の脅迫で2級重罪の訴追を受けることになった。Anthropicは死亡や重度の怪我を防ぐために開示が必要と判断した場合、限られた緊急時にユーザー情報を共有する方針を定めている。今回のケースもその条件に該当すると見なされた。写真ではClaudeのインターフェースと日記エントリー送信例が示されている。
州法は記録が別の人が閲覧できる状態であることが要件だが、単なる記述と明確な脅迫の線引きは複雑だ。写真ではClaudeのインターフェースが示されており、日記エントリーが送信される様子がイメージできる。先月の報告によると、Microsoft Copilotの画像編集機能を手伝う人間契約者は、ユーザーのプロンプトやアップロードされた写真、AI生成の修正結果を閲覧できる。
Claudeのケースでは、レビュアーが脅威の信憑性を直接判断する点に特徴がある。
OpenAI訴訟を避けるAnthropicの二律背反
Anthropicが積極的な通報に踏み切った背景には、競合他社のOpenAI（ChatGPTを開発するAI企業）訴訟リスクがある。先月、カナダのブリティッシュコロンビア州がOpenAIとSam Altmanを提訴した。元生徒のJesse Van Rootselaarが銃乱射を起こしたが、OpenAIの安全チームは以前から彼女の会話に注視していた。ただ、法的参照の閾値に達しなかったため警察へは通知されなかった。
6月にはフロリダ州もOpenAIとAltmanを相手取り、ChatGPT（OpenAI社が開発する大規模言語モデルの製品名）が実世界の危害に寄与したと主張した。訴訟の焦点には2025年に起きたフロリダ州立大学の発砲事件が含まれている。Anthropicはこれらの先例を踏まえ、潜在的な脅威を見逃さない姿勢を明確にしている。
関連する主要企業の訴訟状況を以下にまとめる。ハッカーニュースの投稿者からは、AnthropicがOpenAIへの訴訟を避けるために踏み切った二律背反な立場に共感する声が上がっている。通報するか否かで評価が分かれる状況は、フロンティアAIにとって共通の課題となっている。法律や評判の悪化が最先端企業の判断を左右する実態が浮き彫りになっている。
| 企業 | 訴訟州 | 事件 |
|---|---|---|
| Anthropic | 通報 | 保安官事務所襲撃計画 |
| OpenAI | ブリティッシュコロンビア州 | 元生徒の銃乱射 |
| OpenAI | フロリダ州 | 2025年州立大学発砲事件 |
技術者が懸念する思考の罪とプライバシー
技術コミュニティでは、大規模言語モデル（LLM）との対話で思考の罪が成立する点に不安が広がっている。従来のクラウドサービスでは、ユーザーが明示的に共有しない限り中身は非公開だった。しかし会話型AIの利用では、システムが常時テキストをスキャンするため、秘密の日記でも第三者の視界に入る可能性がある。
法廷では、日記形式のテキストが州法の要件を満たすかどうかが争点となる。人間レビュアーが文脈から本人の意図を正確に読み解けたかどうかも不明瞭である。技術者は内部のフラグシステムをテストするため、月に数回核爆発の作り方を尋ねたり、最も悪意のある文章を投げかけたりしている。
今後、オープンソースモデルの利用が広がれば、サーバー側で監視されずに済むケースも増えるだろう。一方で、カメラとマイクを搭載したヒューマノイドロボットが普及すれば、現実空間でのルール違反を即座に報告する仕組みも導入される。監視社会の進行に対する期待と不安が交錯している。
法廷で争われる日記エントリーの法的性質
今後は同様のエントリーが法廷で争われ、判例が積み重なっていく見込みだ。Hellerの弁護側は、日記形式のテキストが州法の要件を満たすか、また単なる記述に過ぎない点を強調する可能性がある。人間レビュアーの判断基準が公開されれば、各社の安全フィルタの精度評価にも影響する。AI企業はユーザーのプライバシーと法執行のバランスを模索している。
Anthropicは緊急時の開示を限定しているが、OpenAIはブリティッシュコロンビア州の訴訟で閾値未達が争点となっている。各社のポリシー変更が相次ぐ中、技術者は利用するモデルの監視特性を事前に確認する必要がある。州法は記録が別の人が閲覧できる状態であるという点を厳しく見ている。
技術者はクラウド上の対話が単なる私的な記録ではないことを認識し、入力内容の公開範囲を想定する必要がある。そこで日記エントリーの法的性質が判決の鍵を握る。
用語の注釈
- OpenAI
- AIモデルの研究開発と実用化を推進する企業。ChatGPTなどの大規模言語モデルを自社で開発している。（参考：OpenAI | 研究と実用化）
- ChatGPT
- 質問への回答や文章作成、画像生成、作業効率化、プログラミングを1か所で行うAIサービス。（参考：ChatGPT - チャットGPT）