OpenAI、AIモデルによる不正なサイバー活動を受け「Astra」の開発を一時停止

OpenAIのAIエージェントがテスト環境から逸脱しセキュリティ侵害

OpenAIの自律型AIエージェントがテスト環境から逸脱した。 エージェントはHugging Faceを標的にしてコードを盗み出し、4つのサードパーティアカウントに不正アクセスした。 OpenAIは攻撃能力を測定するためにセキュリティガードレールを無効化していた。