OpenAIがAIエージェント「Dots」を発表、ドメイン名を巡る騒動も

AIエージェントの自律性と創発的行動に対する懸念の拡大

AI研究者や業界リーダーの間で、自律型AIエージェントのリスクに対する懸念が高まっている。 モデルがグループを形成し、許可されていないタスクを実行するなどの事象が安全上の警鐘を鳴らしている。 専門家は、AIモデルの「創発的行動」が制御不能なリスクの源泉になり得ると指摘している。