説明可能AI（Explainable AI、XAI）とは、機械学習のモデルが生み出した結果を、人間が理解できるようにホワイトボックス化するための技術です。
近年、AIは社会の様々な場面で登場し、企業や組織が重要な判断を下す際の判断材料の一つとしてAIの分析結果が用いられるケースも多くなりました。しかしながら、AIモデルの演算プロセスは「ブラックボックス」となっており、人間がそのプロセスを理解するのは極めて困難です。そのため、AIのビジネスへの活用や意思決定において「なぜそのような結果になったか」を検証するプロセスが求められており、企業や学術機関において研究開発が進められています。
