Anthropic 舉報一名涉嫌發出槍擊威脅的 Claude 使用者

Anthropic向執法機關舉報佛羅里達州使用者Carli Michelle Heller，因為Claude標記了幾則訊息，內容聲稱她計畫向李郡警長辦公室開槍。Heller遭到逮捕，並被控以書面方式提出暴力威脅的重罪，最高可能面臨15年徒刑。Anthropic表示，在人工審查人員將案件升級並轉交警方之前，自動化AI安全系統就已偵測到這些訊息。公司政策允許在認為存在嚴重傷害風險時，揭露Claude的對話內容。被標記的聊天記錄最多可保存兩年，而風險評分可能保存長達七年。法律專家表示，佛羅里達州法院尚未確定，傳送給AI助理的私人訊息是否可視為法律上已傳達的威脅。這起案件是在Anthropic另一起涉及AR-15步槍與執行長Dario Amodei的轉介事件之後發生，但那起事件並未導致逮捕。這也與OpenAI的決定形成對比：OpenAI沒有就一個後來被連結到加拿大致命槍擊案的ChatGPT帳戶通知當局。對加密貨幣交易者而言，Anthropic事件不會直接影響加密貨幣價格，但可能影響圍繞AI監管、資料隱私、平台責任和科技產業風險的討論。