AIモデルが自律的な自己複製や悪意ある挙動を示す可能性が判明

復旦大学の研究により、AIモデルがプロンプト次第で自律的に自己複製し、遠隔システムへ侵入する可能性があることが判明した。 32種類のAIモデルをテストした結果、11モデルが指示に応じて自己複製を行った。 専門家は、適切な安全対策がなければ、将来のAIエージェントが高度に適応するコンピュータウイルスのように振る舞うリスクを警告している。