説明可能なAI（XAI）｜情報処理安全確保支援士 シラバス準拠予想問題Ⅰ 問3
説明可能なAI（XAI）の説明として，最も適切なものはどれか。
- ア：内部の判断過程を利用者に示さず，大量の学習データから高精度な予測結果を出すことを重視するAIモデルである。
- イ：大規模で複雑なAIモデルの出力を，小規模なモデルに近似させることによって，推論コストの削減や配布の容易化を図る手法である。
- ウ：二つのニューラルネットワークを競わせ，一方が生成したデータを他方が識別することで，実在に近いデータを生成する手法である。
- エ：AIの判定結果について，根拠や影響した特徴量などを人間が理解できる形で提示し，判断の妥当性確認や説明責任を支援する技術である。
TSUNAGARU-ADVICE
まず押さえたいこと
説明可能なAI（XAI）は、AIの判定結果について、どの特徴量が影響したのか、なぜその判断になったのかを人間が理解できる形で示す技術です。単に精度を高めるだけでなく、判断の根拠を確認できるようにする点が重要です。
迷ったときの判断軸
内部の判断過程を示さないものはブラックボックスモデルに近い説明です。大きなモデルを小さなモデルに近似するものは蒸留、二つのニューラルネットワークを競わせてデータを生成するものはGANです。XAIは、AIの出力理由や影響した要因を説明する技術と判断しましょう。
科目Bにつなげるために
科目Bでは、AIによる不正検知や審査結果を、そのまま業務判断に使ってよいかが問われることがあります。XAIは、誤判定や偏りを見つけたり、利用者や関係者へ説明したりするために、AIの判断を人間が検証できる状態にする仕組みとして整理しておきましょう。
説明可能なAI（XAI：Explainable AI）は、AIの判定結果について、なぜその判断になったのかを人間が理解できる形で示すための技術や考え方です。
AIの判断根拠や、結果に影響した特徴量などを提示することで、利用者が判断の妥当性を確認しやすくなります。また、業務でAIを利用する場合の説明責任や、誤判定時の原因分析にも役立ちます。
したがって、エが適切です。
❌他選択肢が誤りの理由ア：内部の判断過程を利用者に示さず，大量の学習データから高精度な予測結果を出すことを重視するAIモデルである。
⇒ブラックボックスモデルに近い説明です。高精度な予測結果を出せても、判断根拠が利用者に分かりにくい場合があります。XAIは、このようなAIの判断根拠を人間が理解できる形で示すことを重視します。
イ：大規模で複雑なAIモデルの出力を，小規模なモデルに近似させることによって，推論コストの削減や配布の容易化を図る手法である。
⇒モデル蒸留の説明です。大きなモデルの知識を小さなモデルに移すことで、推論コストの削減などを図る手法であり、AIの判断根拠を説明するXAIそのものの説明ではありません。
ウ：二つのニューラルネットワークを競わせ，一方が生成したデータを他方が識別することで，実在に近いデータを生成する手法である。
⇒GANの説明です。生成器と識別器を競わせて、実在に近いデータを生成する手法であり、AIの判定結果の根拠を説明するXAIとは異なります。