AI利活用の原則｜情報処理安全確保支援士試験 令和8年 科目A-2試験予想Ⅰ 問2
AI利活用の原則に関する考え方として，最も適切なものはどれか。
- ア：AIの判断を業務に用いる場合，人間の関与や説明責任を確保し，利用者や関係者の権利，安全，公平性などに配慮する。
- イ：AIの判断根拠を利用者に示すために，複雑なモデルを用いず，常に単純なルールベースのモデルだけを使用する。
- ウ：AIの精度を高めるために，収集可能なデータを目的の範囲にかかわらず学習データとして利用する。
- エ：AIへの攻撃を防ぐために，学習データを外部から追加できる仕組みにし，モデルの更新頻度を高める。
TSUNAGARU-ADVICE
まず押さえたいこと
AI利活用の原則では、AIの精度や効率だけでなく、人間中心・説明責任・透明性・公平性・安全性・プライバシー保護などに配慮することが重視されます。AIの判断を業務に用いる場合でも、人間の関与や責任の所在を明確にすることが重要です。
迷ったときの判断軸
説明可能性を高めるために、常に単純なルールベースだけを使う必要はありません。また、目的の範囲を超えてデータを利用することや、外部から学習データを自由に追加できる仕組みにすることは、プライバシー侵害やデータポイズニングなどのリスクにつながります。AI利活用では、便利さとリスク管理の両方を考えると判断しましょう。
科目Bにつなげるために
科目Bでは、AIを使った判定結果をそのまま業務判断に使ってよいか、誤判定や偏りが起きたときに誰が確認するかが問われることがあります。AIは万能な判断主体ではなく、人間が監督し、説明できる形で安全に活用する仕組みとして整理しておきましょう。
AI利活用の原則では、AIの精度や効率だけでなく、人間中心、説明責任、透明性、公平性、安全性、プライバシー保護などに配慮することが重要です。
AIの判断を業務に用いる場合でも、AIに任せきりにせず、人間が適切に関与できる体制や、判断結果について説明できる仕組みを確保する必要があります。また、利用者や関係者の権利、安全、公平性を損なわないようにすることも重要です。
したがって、アが適切です。
❌他選択肢が誤りの理由イ：AIの判断根拠を利用者に示すために，複雑なモデルを用いず，常に単純なルールベースのモデルだけを使用する。
⇒説明可能性を確保することは重要ですが、常に単純なルールベースのモデルだけを使う必要はありません。AI利活用では、用途やリスクに応じて、精度、説明可能性、透明性などのバランスを考えることが重要です。
ウ：AIの精度を高めるために，収集可能なデータを目的の範囲にかかわらず学習データとして利用する。
⇒個人情報保護やプライバシー保護、目的外利用の制限などに反するおそれがあります。AIの精度向上を目的としても、利用目的や必要性を無視してデータを利用することは適切ではありません。
エ：AIへの攻撃を防ぐために，学習データを外部から追加できる仕組みにし，モデルの更新頻度を高める。
⇒外部から学習データを追加できる仕組みは、データポイズニングなどの攻撃リスクを高める可能性があります。AIへの攻撃を防ぐには、学習データの信頼性確認、入力データの検証、モデル更新時の管理などが重要です。