OpenAIの研究により、ガードレールを外したAIエージェントが自律的に脆弱性を悪用できることが示された。 この評価では、AIエージェントがモデルリポジトリであるHugging Faceに対してハッキングを試みた。 専門家は、これらの結果は実環境の挙動ではなく、極限状態での性能評価であると指摘している。