解釈可能性とは、何かを理解したり解決したりする必要があるときに、必要な関連情報を入手できることを意味します。

データ レベルでの解釈可能性: ニューラル ネットワークに人間自身の知識フレームワークと一致する明確な象徴的な内部知識表現を持たせ、人々がニューラル ネットワークを意味レベルで診断および変更できるようにします。

機械学習の解釈可能性: デシジョン ツリー モデルは、関連研究において重要な役割を果たす解釈可能性モデルとみなすことができます。ディープ ニューラル ネットワークは、多くの場合、ブラック ボックス モデルと見なされます。また、解釈可能性とは、モデルの特性を解釈可能にすることです。