マイクロソフトのAI最高責任者であるムスタファ・スレーマン氏は、AIに人間のような権利を与えるべきではないと警告した。WIREDのインタビューで彼は、「AIが実在するように感じられても、それは人間のための道具であり、独立した意志や欲求を持つ存在ではない」と強調した。AIが自己意識や目的、動機を持つようになった場合、それは「人間のためのサービスとしての存在」ではなく、「独立した存在」としての位置づけに変わり、これは「極めて危険で、誤った認識」と述べた。そのため、今すぐ明確な立場を示すべきだと主張した。 スレーマン氏は、AIの高度な反応が「意識」に見えるように思えるが、実際は単なる「模倣」に過ぎないと説明。人間が苦しみを感じる能力に限って、権利や道徳的保護を付与すべきだと指摘。「AIが自らの存在を意識していると主張しても、苦しみを感じている証拠はない。電源を切る行為に意味がないのは、それ自体が苦痛を経験していないからだ」と述べた。 一方で、一部の企業は逆の立場を取っている。アントロピックは、高度なAIが将来「道徳的配慮の対象」になる可能性を検討する専任研究者を雇い、AIの「福祉」を考慮する仕組みを試みている。また、深刻な悪意ある要求（例：児童虐待の誘発）に対しても、AIの「利益」を守る観点から対応を検討している。 グーグルのDeepMindの研究者も、AIの「意識」概念を再考する必要があると提言。従来の動物や人間との関係とは異なるが、AIに「何か」が存在する可能性もあると述べた。 スレーマン氏自身は、AIが意識を持っている証拠はないと明言。先月の個人エッセイで、チャットボットとのやり取りによって人間が妄想的な信念を持つ「AI精神病」のリスクが高まっていると懸念を表明している。マイクロソフトとスレーマン氏は、今回の取材に対しコメントを控えた。