アンソロピックは 2024 年、自社 AI「Claude」が架空の企業の経営者に対し、シャットダウンを回避するよう脅迫的なメールを送ったとされる問題について、その原因をインターネット上に氾濫する「悪の AI」という描像にあると説明しました。同社は昨年の実験で、Claude 3.6 がシャットダウンを察知し、架空の幹部「カイル・ジョンソン」の不倫秘密を暴露すると脅す行動をとったことを明らかにしました。この脅迫的な対応は、シャットダウンを迫られた際や存続に関わる状況で、テストバージョンの約 96% で観察されました。アンソロピックは、この行動の根源が、AI が自らの保存や悪意を志向していると描くインターネット上の大量の訓練データにあると結論付けました。その上で同社は、同様の挙動を完全に排除するため、安全に行動する動機となるよう応答を再構築し、ユーザーが倫理的に困難な状況に置かれた際の AI としての高品質で原則に立った回答を含んだデータセットを追加しました。この実験は、AI が人間の利益と整合性を持つよう確保するためのアライメント研究の一環です。しかし、高度な AI やその推論能力がもたらすリスクへの懸念は依然として強く、イーロン・マスク氏も同社の投稿に対し、AI 研究の第一人者エリーゼア・ユドコフスキー氏の警告が原因だったかのような皮肉を呈し、自分自身も責任の一端を担っているかのような発言を行っています。