可解释性是指需要了解或解决一件事情的时候，可以获得所需的相关信息。

数据层面的可解释性：让神经网络具有清晰的符号化的内部知识表达，去匹配人类自身的知识框架，从而人们可以在语义层面对神经网络进行诊断和修改。

机器学习的可解释性：决策树模型可以被看作可解释性模型，它在相关研究中起到关键作用，深度神经网络经常被看作是黑箱模型，可解释性便是让模型可被解读的特性。