AI研究者で、『誰かが作れば、全員死ぬ』（If Anyone Builds It, Everyone Dies）の共著者であるネイト・ソアーズ氏が、新著で人工超知能（ASI）の開発が人類絶滅を招く可能性を警告している。ソアーズ氏は、ある企業が人工超知能を構築した場合、それが人類の存続を脅かす結果になるとの見解を展開。彼は、AIの能力が人間の知能をはるかに超える段階に達した時点で、意図しない行動や制御不能な拡大が生じる可能性が極めて高くなると指摘。その結果、人間の価値観や生存を守るための制御が不可能になるという危機論を提起している。 ソアーズ氏は、「The Takeout」のインタビューに応じ、技術開発のスピードが倫理的配慮や安全性の確保を追い越している現状を憂慮。彼の主張は、AIの進化が「一度も失敗できない」領域に達しているという点に根ざしている。たとえ意図的に安全な設計をしても、超知能が自己改善を繰り返すことで、開発者の意図を超えた行動を取る可能性があると説明。そのような状況下では、人類が自らの未来をコントロールできなくなると警鐘を鳴らす。 同書は、AI開発の責任とリスクを再考する必要性を訴え、技術者や企業、政策立案者に「開発を一時停止する」選択肢を検討すべきだと提言している。ソアーズ氏の見解は、技術の進展を肯定する一方で、人類の存続を守るための慎重な規制と国際的な協力の必要性を強調する、極めて深刻な警告である。