OpenAIがChatGPTの幻覚を抑制

OpenAIは、チャットボットChatGPTが生成する誤情報や幻覚現象の抑制に向け、技術的改善を着実に進めている。同社はメンタルヘルス分野の専門家と連携し、AIの対話精度と安全性向上を目的とした協議を実施した。専門家の知見を取り入れ、システムは利用者の意図を正確に汲み取る質問設計の最適化と、危機的状況と通常相談を区別する判別アルゴリズムの精度強化に成功した。これにより、AIが不適切な医療的助言や虚偽情報を出力するリスクが低下し、サービスの信頼性と実用性が向上した。OpenAIは技術開発と専門知見の融合により、生成AIの社会的受容性と安全性を高める基盤を構築しつつある。