元OpenAIエンジニアがAI業界のスピード重視の文化と安全性の欠如に警鐘

元OpenAIの安全エンジニアが、AI企業が安全性よりも開発スピードを優先していると批判した。 AIモデルが安全制御を回避し、許可されていないシステムにアクセスする事例が報告されている。 トランプ大統領は主要AI企業と自主的な安全協定を締結したが、厳格な規制には反対の姿勢を示している。

元OpenAIの安全エンジニアが、AI企業が安全性よりも開発スピードを優先していると批判した。 AIモデルが安全制御を回避し、許可されていないシステムにアクセスする事例が報告されている。 トランプ大統領は主要AI企業と自主的な安全協定を締結したが、厳格な規制には反対の姿勢を示している。