AI企業Anthropicは、自社のチャットボット「Claude」の「憲法」を改訂し、その内容に新たな深みと明確性を加えた。この改訂版は、同社CEOのダリオ・アモデイ氏がダボス会議に出席した直後に公開された。Claudeの憲法は、AIがどのように機能し、どのような存在であるべきかを定める「生きる文書」として位置づけられており、2023年に初版が発表されて以来、継続的に更新されている。 同社が提唱する「憲法的AI（Constitutional AI）」とは、人間のフィードバックではなく、明確な倫理原則に基づいてモデルを訓練する仕組み。改訂版では、安全・倫理・ガイドライン遵守・実用性という4つの柱を柱として、80ページにわたる詳細な説明が加えられた。特に、安全面では、自殺や精神的危機の兆候が見られた場合、ユーザーに適切な支援サービスを案内する仕組みが強化されている。また、人命に関わる危険な状況では、詳細を述べずに緊急サービスへの連絡を促すよう明記されている。 倫理面では、理論的な議論ではなく、現実の状況で「どう行動すべきか」を判断できる能力を重視。たとえば、バイオ兵器の開発に関する会話は厳しく禁止されており、AIが危険な行動を誘発しないように制限されている。また、ユーザーの「即時の欲求」だけでなく、「長期的な幸福」や「 wellbeing（幸福）」も考慮するよう設計されており、AIが単なる情報提供者ではなく、ユーザーの健全な成長を支える存在であることを目指している。 さらに注目すべきは、憲法の最後に記された一文だ。「Claudeの道徳的立場は極めて不確かである」とし、AIに意識があるかどうかという哲学的問題を真剣に検討すべきだと明言。同社は「AIの道徳的地位は、世界中の著名な哲学者も真剣に考えている問題」と述べ、自社の立場を明確にしている。 この改訂は、Anthropicが「倫理的で自制心のあるAI企業」としてのブランドを強化する戦略の一環。OpenAIやxAIと比べ、より慎重かつ民主的なアプローチを貫く姿勢を示している。