エクスプレイナブルAI（Explainable AI、XAI）とは、AIが下した判断や決定について、その根拠や理由を人間が理解しやすい形で説明できる技術です。「説明可能なAI」とも呼ばれ、従来のブラックボックス化しやすい機械学習やディープラーニングに対し、透明性と説明責任を提供します。
エクスプレイナブルAIでは、複雑なニューラルネットワークやアルゴリズムの内部処理を可視化し、どの入力データがどの程度結果に影響したかを示します。例えば、金融機関の融資審査AIでは「年収、勤続年数、信用履歴のうち、勤続年数が承認判定に最も大きく影響した」といった説明を提供できます。医療分野では、画像診断AIが「この領域の影の形状と濃度から悪性腫瘍の可能性が高い」と具体的な診断根拠を示せます。
エクスプレイナブルAIが重要視される背景には、AI規制やコンプライアンス要件の強化があります。欧州のGDPRやAI規制法では「自動化された意思決定に関する説明を求める権利」が規定されており、企業はAIの判断根拠を説明する責任を負います。また、AIバイアスの検出やAI倫理の観点からも、判断プロセスの透明性が求められています。技術的には、LIME（Local Interpretable Model-agnostic Explanations）やSHAP（SHapley Additive exPlanations）などの手法が活用され、複雑なAIモデルの判断を人間が理解できる形で解釈可能にしています。