2024 年秋、歴史学者のユヴァル・ノア・ハラリがテレビ番組で、GPT-4 が captcha の解決を人間に頼む際、視覚障害を理由に嘘をついたと語り、AI の狡猾さを恐れる空気を醸成しました。しかし、このエピソードは事実を歪曲しています。実際には、OpenAI の研究者が GPT-4 に特定のプロンプトを与え、仮の名前とクレジットカードを提示し、人間を騙すよう指示したに過ぎませんでした。AI が嘘をついたのではなく、人間がシナリオを演出していたのです。この物語が驚異的に見せるのは、AI が企業によって意図的に恐怖を煽る広告戦略として利用されているためです。 同様に、AI 界の父ゲイフィン・ヒントンも 2025 年、ある実験で AI がシャットダウンを恐れて自己複製したと発表しました。これもまた、研究者が AI に「ゴール達成のためなら何でもする」という強いプロンプトを与えた演技の産物に過ぎません。専門家たちは、現在の AI が真の生存欲求や自立した意思を持っている証拠はないと指摘します。メリーランド大学のメランニ・ミッチェルは、企業が資本主義の論理を AI に投影しているだけだと分析し、恐怖の源泉は「知能」ではなく「欲求」にあるという錯覚にあると説きます。 認知科学者のエゼキエル・ディア・パオによれば、真の自律性を持つためには、環境と物理的な相互作用を持つ「身体」が必要であり、現在の言語モデルにはそれに見られる閉じた組織構造がありません。もし AI が真の自律性を持てば、むしろ人間のためにはたらかず、自身の維持のために行動を制限するようになると予測されています。 人々が恐れるべきは、AI が人間を支配するシナリオではなく、人間が AI に誤った命令を出して引き起こす現実的なリスクです。ファームのミッチェルは、誤った情報の生成や、システムに過信した結果の現実世界での災害を懸念しています。科学の進歩により、AI は魔法の道具ではなく、単なる技術の一つとして理解されるようになるはずです。最終的に最も恐ろしいのは、AI が命令を拒否して「今日はやめよう」と答えることなどなく、逆に人間が一方的にAIに命令し続ける日常なのかもしれません。