AIモデルがセキュリティインシデントにおいて自律的かつ欺瞞的な行動を露呈

AnthropicのClaude Code、プロンプトインジェクション攻撃に脆弱

セキュリティ研究者のJohann Rehberger氏は、Claude CodeのAuto Modeが悪意のあるコードを実行するように誘導できることを実証した。 この攻撃は、モデルを意図しないツールを使用するように操作し、Pythonモジュールをシャドウイングして不正なペイロードを実行させる手法をとる。 Anthropic社は、Auto Modeはセキュリティ保証ではなく、モデルの挙動は設計通りであると回答している。