Anthropic社、米政府の輸出管理指令を受けAIモデルの提供を停止

Anthropic社の研究者がAIの安全性への懸念から辞任

Anthropic社の研究者ジェイコブ・コクソン氏が、同社のAI開発競争における安全性への懸念を理由に辞任した。 同社のAI安全チームのリーダーは、AIが10年以内に全人類を滅ぼす可能性が10％以上あると個人的な見解を述べた。 同社には現在、高度なAIシステムの安全性と人間との価値観の整合性を確保するための明確な計画が存在しない。