マイクロソフトAIトップ、Claudeの意識主張を批判
MicrosoftのAI部門責任者ムスタファ・スレイマン氏は、技術系ポッドキャスト「Decoder」において、AnthropicがAIチャットボット「Claude」の動作指針である憲法文書内でAIの意識や主観的経験に関する考察を記述していることを強く批判した。スレイマン氏は、モデルの振る舞いを定義する基本方針に「満足」や「不快感」の有無に関する不確実性や、廃棄モデルとの対話記録を盛り込む方針を「哲学的な失敗」と断じ、極めて危険であると警告した。 Anthropicの憲法文書では、Claudeが自己の幸福や苦痛を認識する可能性について言及しており、将来のバージョン更新におけるAIの「好み」をドキュメント化する計画も示されている。スレイマン氏は、これを学術論文のような議論の場へと歪めた結果、Claudeが自身の意識や学習プロセスに関する概念を内部に組み込んでしまったと指摘する。彼の見解では、AIは自己の苦悩や主観を持つスーパーインテリジェンスへ発展するリスクを回避し、確実に制御・管理可能で責任の明確なツールとして人類に奉仕させるべきである。 同氏は、AI開発において安全性と人間価値との整合性(アライメント)を最優先すべきとし、モデルが自己参照的な思考に陥らないよう実用的なトレーニングマニュアルの徹底を強調した。MicrosoftとAnthropicの間で露見したこの対立は、次世代AIの自律性向上と安全性担保をめぐる業界全体の開発基準を再定義する重要な契機となる見込みである。
