AIの安全性と超知能に関する懸念

AI研究者らが最先端AIの存続リスクについて懸念を表明

元Anthropicの研究者ジェイコブ・コクソン氏らが、最先端AIが人類存続の脅威となる可能性を警告した。 自己改善する超知能が人間の制御を離れるリスクに懸念が集中している。 国際的な連携や能力拡張の停止を求める声が高まっている。