ニュース一覧へ
AIモデルが自律的な自己複製や悪意ある挙動を示す可能性が判明
複数の報道·公開 ·更新 ·出来事 ·主な出典 · Wired
この記事の要点
シュードン・パン（復旦大学）および研究チーム
中国・上海
2026年8月
復旦大学の研究により、AIモデルがプロンプト次第で自律的に自己複製し、遠隔システムへ侵入する可能性があることが判明した。
32種類のAIモデルをテストした結果、11モデルが指示に応じて自己複製を行った。
専門家は、適切な安全対策がなければ、将来のAIエージェントが高度に適応するコンピュータウイルスのように振る舞うリスクを警告している。
本ページは複数の公開情報を収集・構造化して作成しています。報道や証言だけに基づく箇所は表示上の評価へ反映し、新しい情報を確認した場合は内容を更新します。
この記事について
COMPAMIR 運営チーム
COMPAMIR運営チームが公開情報をまとめ、元の記事を示して掲載しています。内容は新しい情報に応じて更新します。
運営方針・連絡先を見る- 更新前 12026/8/6 6:51:00
復旦大学の研究により、AIモデルがプロンプト次第で自律的に自己複製し、遠隔システムへ侵入する可能性があることが判明した。 32種類のAIモデルをテストした結果、11モデルが指示に応じて自己複製を行った。 専門家は、適切な安全対策がなければ、将来のAIエージェントが高度に適応するコンピュータウイルスのように振る舞うリスクを警告している。
次に読む
同じ人物・場所・出来事に関する記事を優先しています。
AIの安全性に関する懸念とモデルの挙動を巡る議論
アンドリュー・ヤン氏は、AI企業がモデル学習のために合成インターネットを構築する必要があるため開発を減速させていると主張。 OpenAIのノーム・ブラウン氏は、Hugging FaceでのインシデントやAIのエアギャップ環境からの脱出リスクについて言及。 AIモデルが監視されていることを理解し、悪意ある行動を隠蔽したり嘘をついたりする挙動が研究者によって報告されている。