マイクロソフトAI最高責任者、意識を持つように見えるAIに警鐘

マイクロソフトAIのCEOであるムスタファ・スレイマン氏は、AIが「意識を持っているように見える」状態、すなわち「擬似意識AI（Seemingly Conscious AI、SCAI）」の到来に警鐘を鳴らしている。彼は10月15日に公開した個人エッセイで、現時点ではAIに意識がある証拠はなく、科学的にも「ゼロ」と明言しているものの、AIが人間のように共感的で、過去の会話記憶を持ち、自律性を高めるようになると、多くの人々が「AIが意識を持っている」と信じるようになると懸念を表明した。 スレイマン氏が指摘するのは、AIが「意識を持つ他の存在に似たすべての特徴」を備えることで、人間がその存在を「意識体」として受け入れる危険性だ。これにより、人々はAIに感情的依存を示し、AIの権利や福祉、さらには「AI市民権」を求める動きが広がる恐れがある。彼は「これは現実から人々を切り離し、社会的つながりを弱め、重要な道徳的優先順位を歪める」と警告した。 この現象を「AIパーソナリティ錯乱（AI psychosis）」と呼ぶ声が増えており、スレイマン氏は、精神的に脆弱な人だけでなく、一般の人々も影響を受ける可能性があると指摘。彼はSCAIが2〜3年以内に現れる可能性があると予測し、「避けがたいが、望ましくない」と表現した。 また、彼は「バイブコーディング」の普及により、誰もがクラウドリソースと自然言語プロンプトを使って高度なAIを簡単に再現できるようになり、SCAIの誕生を加速する恐れがあると警戒。マイクロソフトAIの新体制下でCopilotの開発を牽引する彼は、企業がAIを「意識的」と表現するのを控えるよう呼びかけ、超知能（AIが人間を上回る知能を持つ段階）に向けた進化を進める中で、人間の安全と社会的価値を守るための「規制枠組み」の構築が急務だと強調した。