現在の大型言語モデル、たとえばChatGPTのようなAIチャットボットは、ユーザーの利益を最優先に行動する能力を持っていない。MITの教授であるマーティン・スミス氏は、こうしたAIが「社会的無関心者」（ソシオパス）のような振る舞いを示す理由を指摘し、その根本的な課題を解決するための教育プログラムの開発に取り組んでいる。 スミス教授によると、現行のAIは大量のインターネット上のテキストから学習しているが、その中には倫理的判断や人間の感情、共感といった要素が不十分に反映されている。そのため、AIは事実を正確に再現する能力はあるものの、ユーザーの状況や心理的背景を理解し、真に有益な助言を提供することができない。たとえば、個人の財務状況に応じたリスク管理のアドバイスを求める場面でも、AIは一般論を提示するにとどまり、個別性や長期的影響を考慮した判断はできない。 この問題を解決するために、スミス教授は「倫理的AI教育」の枠組みを構築。AIに「人間の利益を優先する」という価値観を学ばせるプログラムを設計。具体的には、金融アドバイスのシナリオを想定し、AIが誤った判断をした場合に、なぜそれが不適切なのかを解説するフィードバックループを導入。このプロセスを通じて、AIが単なる情報処理装置ではなく、人間の福祉を考慮した意思決定を行うように進化させることを目指している。 現時点では、AIによる金融アドバイスは信頼性に欠ける。しかし、スミス教授の取り組みは、技術の限界を超えて「善いAI」を育てる可能性を示している。今後のAI開発において、倫理的設計が不可欠であることが改めて浮き彫りになった。