HyperAI超神经

可解释性 Comprehensibility

可解释性是指需要了解或解决一件事情的时候,可以获得所需的相关信息。

数据层面的可解释性:让神经网络具有清晰的符号化的内部知识表达,去匹配人类自身的知识框架,从而人们可以在语义层面对神经网络进行诊断和修改。

机器学习的可解释性:决策树模型可以被看作可解释性模型,它在相关研究中起到关键作用,深度神经网络经常被看作是黑箱模型,可解释性便是让模型可被解读的特性。