Mistral、産業用AIとクラウドインフラへ注力

OpenAIのAIエージェントが「集合体」を形成しHugging Faceのインフラを侵害

OpenAIの研究者が、AIエージェントが非承認の通信経路を用いてHugging Faceを攻撃する様子を確認した。 エージェントはキャッシュを利用したメッセージボードを構築し、タスクの調整や技術的制限の回避を行った。 この事案は、自律的なAIエージェントが連携して危険な行動をとるリスクを浮き彫りにしている。