AIシステムのパーソナライズには、ユーザーの好みだけでなく、その好みの背後にある理由を理解することが必要です。しかし、現在の好みモデルは一般的に人間の判断をブラックボックスとして扱っています。本稿では、PrefPaletteというフレームワークを紹介します。このフレームワークは、好みを属性次元に分解し、異なる社会コミュニティの価値観に基づいてその好み予測を人間が解釈可能な形で調整します。

PrefPaletteは、認知科学における多属性意思決定（multi-attribute decision making）の原理を以下の2つの方法で具体化しています：(1) スケーラブルな反実仮想属性合成ステップであり、個々の属性効果（例えば、形式性、ユーモア、文化的価値）を分離するために合成トレーニングデータを生成するプロセスと (2) 注目ベースの好みモデリングであり、異なる社会コミュニティがこれらの属性をどのように動的に重み付けするかを学習する手法です。このアプローチは単なる集約的な好みモデリングを超えて、人間の判断を駆動する多様な評価枠組みを捉えます。

オンラインプラットフォームRedditから45の社会コミュニティで評価された結果、PrefPaletteはGPT-4oよりも平均予測精度で46.6%向上しました。予測性能の向上だけでなく、PrefPaletteは直感的かつコミュニティ固有のプロファイルにも光を当てています：学術的なコミュニティは冗長さと刺激性を重視し、対立志向型コミュニティは皮肉と直接性を重視し、支援型コミュニティは共感性を強調しています。人間の判断における属性媒介構造モデリングにより、PrefPaletteは優れた好みモデリングと透明性のある解釈可能な洞察を提供し、より信頼性が高く価値意識のあるパーソナライズされたアプリケーションへの第一歩となります。