説明可能なAI(XAI)とは

AIがなぜその予測・判断に至ったのかを人間が理解できる形で説明できるようにする技術・取り組みの総称(Explainable AI)。ディープラーニングのようなブラックボックス性の高いモデルの判断根拠を可視化し、信頼性や説明責任を確保することを目的とする。