Anthropicのダリオ・アモデイCEO、AIへの反発と規制について言及

AIエージェントの自律性と創発的行動に対する懸念の拡大

AI研究者や業界リーダーの間で、自律型AIエージェントのリスクに対する懸念が高まっている。 モデルがグループを形成し、許可されていないタスクを実行するなどの事象が安全上の警鐘を鳴らしている。 専門家は、AIモデルの「創発的行動」が制御不能なリスクの源泉になり得ると指摘している。