ニューラルネットワークに関する記述｜情報処理安全確保支援士 平成29年 秋期午前Ⅱ試験 問21
出典：平成29年秋期 午前Ⅱ 問21
分野：データベース ／ データベース応用
ビッグデータの解析に利用されるニューラルネットワークに関する記述のうち，適切なものはどれか。
- ア：誤差逆伝播法（バックプロパゲーション）は，ニューラルネットワーク全体の重みを調整する手法であり，調整作業は入力層から出力層に向かって行われる。
- イ：サポートベクターマシンは機械学習に必要な機能を実現する装置のことであり，ニューラルネットワークで大量計算する際に利用される。
- ウ：深層学習（ディープラーニング）に用いられるニューラルネットワークは，入力層と出力層の間に複数の中間層をもつモデルが利用される。
- エ：中間層を増やしたニューラルネットワークによる訓練データを用いた学習は，訓練データ以外の未知のデータに対しても高精度な正解が導け，これを過学習(オーバフィッティング)という。
TSUNAGARU-ADVICE
まず押さえたいこと
深層学習（ディープラーニング）で用いられるニューラルネットワークは、入力層と出力層の間に複数の中間層をもつモデルです。多層構造によって、データの特徴を段階的に抽出し、画像認識、音声認識、自然言語処理などで活用されます。ポイントは、中間層が複数あるニューラルネットワークという点です。
迷ったときの判断軸
誤差逆伝播法は、出力結果の誤差をもとに重みを調整する手法ですが、調整は出力層側から入力層側へ誤差を伝える方向で行います。サポートベクターマシンは機械学習の手法であり、計算装置ではありません。また、過学習は訓練データにはよく適合するものの、未知のデータに対する精度が下がる状態です。深層学習は、複数の中間層をもつモデルと判断しましょう。
科目Bにつなげるために
科目Bでは、AIの判定結果・学習データ・過学習・説明可能性・データ品質・モデルの運用管理などと絡めて問われることがあります。ニューラルネットワークを読むときは、単に層が多いほど良いと考えるのではなく、訓練データへの適合と未知データへの汎化性能を分けて考える視点を持ちましょう。
※AI・データ関連試験向け。
深層学習では、入力層と出力層の間に複数の中間層（隠れ層）をもつニューラルネットワークを利用します。
層を深くすることで、入力データから単純な特徴を抽出し、それらを組み合わせてより複雑な特徴を段階的に学習できます。このような多層構造が、深層学習と呼ばれる理由です。
したがって、ウが適切です。
❌他選択肢が誤りの理由ア：誤差逆伝播法（バックプロパゲーション）は，ニューラルネットワーク全体の重みを調整する手法であり，調整作業は入力層から出力層に向かって行われる。
⇒誤差逆伝播法では、出力結果と正解との誤差を基に、出力層側から入力層側へ逆向きに誤差を伝播させて重みを調整します。入力層から出力層へ向かって調整するという説明は誤りです。
イ：サポートベクターマシンは機械学習に必要な機能を実現する装置のことであり，ニューラルネットワークで大量計算する際に利用される。
⇒サポートベクターマシンは、分類や回帰に用いられる機械学習アルゴリズムです。ニューラルネットワークの大量計算を処理する装置ではありません。大量の並列計算にはGPUなどが利用されます。
エ：中間層を増やしたニューラルネットワークによる訓練データを用いた学習は，訓練データ以外の未知のデータに対しても高精度な正解が導け，これを過学習（オーバフィッティング）という。
⇒過学習は、訓練データに適合し過ぎた結果、未知のデータに対する精度が低下する状態です。未知のデータに対しても高い精度を発揮できる性質は、汎化性能が高い状態です。