説明可能な人工知能 (XAI)
説明可能な人工知能 (XAI、または説明可能な AI) は、人間のユーザーが機械学習アルゴリズムによって作成された結果と出力を理解し、信頼できるようにする一連のプロセスと方法です。
XAI は、人工知能モデル、その予想される影響、および潜在的なバイアスを記述するために使用されます。これは、人工知能の意思決定におけるモデルの精度、公平性、透明性、および結果を特徴付けるのに役立ちます。説明可能な AI は、組織が AI モデルを運用環境に導入する際に信頼と確信を築くために重要です。 AI の説明可能性は、組織が AI 開発に対して責任あるアプローチを採用するのにも役立ちます。
人工知能がより高度になるにつれて、人間はアルゴリズムがどのように結果に到達するかを理解し、追跡するという課題に直面しています。計算プロセス全体は、一般に説明できない「ブラック ボックス」として知られるものになります。これらのブラック ボックス モデルはデータから直接作成されます。さらに、アルゴリズムを作成するエンジニアやデータサイエンティストでさえ、内部で実際に何が起こっているのか、AI アルゴリズムがどのようにして特定の結果に到達するのかを理解したり説明したりすることはできません。
AI システムが特定の出力をどのように生成するかを理解することには多くの利点があります。説明可能性は、開発者がシステムが期待どおりに動作することを保証するのに役立ち、規制基準を満たすために必要な場合もあれば、決定によって影響を受ける人々が結果に疑問を抱いたり変更したりできるようにするために重要である場合もあります。