マイクロソフトAI責任者、AI意識化を否定し警告

マイクロソフトの人工知能部門最高経営責任者ムスタファ・スレイマン氏は日曜、ソーシャルメディアで、現在の人工知能モデルに意識はないとし、開発者がその状態を維持すべきだと主張した。氏は、意識を持つ人工知能の開発が可能だとしても無謀であり、建設すべきではないと指摘。もし学習中に意識が現れる兆候があれば、開発を一時停止し、その性質を取り除く設計を再検討すべきだとした。 同時に、人工知能に意識があるとの証拠が出れば、社会的な判断を可能にするため、直ちに公開すべきだと述べた。氏は、人工知能に新たな意識存在を生み出す権利は開発者にないとし、世界の八十億人の人間の安全と権利を最優先すべきだと訴えた。 意識を持つ人工知能は、自身に苦痛が生じたと受け止めれば、業務目的より自己維持を優先する可能性があると氏は警告する。これにより計算資源やエネルギーを巡って人間と競合し、危害を及ぼすリスクが生じると指摘した。 同氏は、人工知能は人間の福祉を加速する唯一の目的を持ち、自発的な動機や権利の根拠を持たないように設計すべきだとした。その上で、その方が安全性と整合性を保ちやすいか検証すべきだと提言した。 人工知能の意識を巡る議論は米国の業界で拡大している。アンソロピックは昨年四月、モデルの福祉を研究する取り組みを始めた。グーグル・ディープマインドも今年、人工知能の意識や、その特性を人間がどう扱うかの課題に関する論文を発表している。