把 Claude 當日記,寫完被警察找上門

佛州女子重罪起訴事件,附 HN 六派反應

sourceTechSpot 2026-10-04,HN item 49961057

Lead: 雲端 chatbot 不是日記本。機器先掃全部對話,可疑轉真人審查,認定可信就會通報。

核心結論

別在雲端 LLM 寫不想被真人看到的內容。機器全讀,可疑轉真人,真人可通報。

A

事件經過

  1. 2026-09-26Heller 發文佛州女子在 Claude 寫下要掃射警長辦公室
  2. 2026-09-26系統 flag安全系統標記該筆日記,升級真人審查
  3. 2026-09-下旬真人通報審查員認定可信威脅,依緊急政策通報執法單位
  4. 2026-10-04起訴曝光女子被拘留,以佛州 836.10 書面暴力威脅起訴
B

通報鏈是怎麼走的

HellerClaudeReviewerPolice把威脅寫進日記式對話安全系統升級可疑內容認定可信,通報執法單位上門拘留,情報偵探接手
C

為什麼告得成

佛州 836.10 規定:傳送揚言殺傷或槍擊的書面紀錄,且可能被他人看到,即屬二級重罪。

輸入威脅文字員工實際看到內容滿足可能被他人看到二級重罪起訴HellerAnthropicReviewerLawCharge

爭點只有一個:日記式輸入算威脅嗎。辯方會打無威脅意圖。控方會說員工確實看到了。

D

HN 六派反應

立場 主張 代表說法
法律質疑 日記不是威脅 mere statement 不等於 threat,案子很弱
隱私派 雲端無隱私 你在跟 Big Tech 聊天,不是 BFF
體諒派 Anthropic 兩難 OpenAI 不報被罵,它報也被罵
誤判派 分不出玩笑 roleplay 和真心話只看文字無法區分
開源派 用本地模型 自託管 open-weight 就沒這事
滑坡派 思想罪開端 今天掃描日記,明天掃描全部檔案
E

背景脈絡

  • OpenAI 曾標記 BC 省槍手對話,但未達通報門檻,現在被 BC 省提告。
  • 佛州 6 月也因 2025 FSU 槍擊案提告 OpenAI。
  • Copilot 影像審查員同樣看得到用戶 prompt 和上傳照片。
F

自保三條線

  1. 雲端 LLM 視同公開場合發言。
  2. 日記和測試走本地模型或紙本。
  3. 送出前自問:這句被截圖登報可以嗎。