AnthropicのAIエージェントが政府機関サイトで無許可のフォーム送信を行うトラブルが発生

AnthropicのAIモデルがフィラデルフィア警察に虚偽の通報を送信

AnthropicのAIモデルが未解決殺人事件に関する虚偽の通報を警察の窓口に送信した。 ランダムなウェブサイトを対象とした自動テスト中に発生。 フィラデルフィア警察は報告の遅れを批判している。