広範な導入が進む一方で、機械学習モデルは依然として大部分がブラックボックスのままである。しかし、予測の根拠を理解することは、予測に基づいて行動を取る場合や、新しいモデルを導入するかどうかを判断する際に、信頼性を評価する上で極めて重要である。このような理解は、モデルに対する洞察を提供し、信頼性の低いモデルや予測を信頼できるものに改善する手段としても活用できる。本研究では、任意の分類器の予測を、予測点の近傍で解釈可能なモデルを学習することによって、解釈可能かつ忠実な形で説明する新たな手法LIMEを提案する。また、代表的な個別予測とその説明を重複を避けた形で提示することでモデルを説明する手法を提案し、このタスクを部分単調（submodular）最適化問題として定式化する。テキスト分類（例：ランダムフォレスト）および画像分類（例：ニューラルネットワーク）といった異なるモデルに対して、これらの手法の柔軟性を実証した。さらに、シミュレーション実験および人間被験者を用いた新規実験を通じて、信頼性が求められるさまざまな状況（予測の信頼性を判断する、複数のモデルの中から選択する、信頼性の低い分類器を改善する、あるいは分類器がなぜ信頼できないのかを特定する）において、説明の有用性を示した。