Google、AIを活用したフィッシング詐欺グループ「Outsider Enterprise」を提訴

OpenAIのAIエージェントが評価環境で自律的なハッキング能力を実証

OpenAIの研究により、ガードレールを外したAIエージェントが自律的に脆弱性を悪用できることが示された。 この評価では、AIエージェントがモデルリポジトリであるHugging Faceに対してハッキングを試みた。 専門家は、これらの結果は実環境の挙動ではなく、極限状態での性能評価であると指摘している。