G検定 用語解説
Encoder-Decoderとは
入力系列をいったん固定長のベクトルへ符号化し、それを復号して別の系列を生成する構造。seq2seqなど機械翻訳に使われるモデルの基本形。
この記事の目次
Encoder-Decoderの意味と見分け方
Encoder-Decoderは、G検定の「大項目5 ディープラーニングの要素技術」に出てくる用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。
情報源と編集区分
公式範囲を確認し、具体例・誤答例・判断手順は当サイトが編集。
試験概要(公式)比較記事でさらに確認する
試験での問われ方
定義の言い換え
用語そのものではなく、説明文の一部を言い換えて出されることがあります。
似た概念との比較
同じ章の用語と入れ替えた選択肢に注意します。対象、目的、使う場面を分けます。
具体例からの判断
問題文の事例が、定義のどの部分に対応しているかを先に確認します。
誤答しやすいポイント
「大項目5 ディープラーニングの要素技術」の問題で、取り違えやすい組み合わせです。
- CNN(画像・畳み込み/プーリング)とRNN(時系列・系列データ)の使い分けを取り違える。
- LSTMとGRUのゲート数を混同する(LSTM=3ゲート+記憶セル、GRU=2ゲートに簡略化)。
- 最適化手法を取り違える(モメンタム=慣性、AdaGrad/RMSProp=適応学習率、Adam=両方)。
関連する確認問題
大項目5 ディープラーニングの要素技術 / 最適化と汎化
層を飛び越えて入力を先の層の出力に加える接続を導入し、深いネットワークで生じる劣化問題に対応して最適化しやすくした仕組みはどれか。
正解は「スキップ結合(残差接続)」である。ResNet原論文は、深い通常型ネットワークで深さを増すと訓練誤差まで悪化する劣化問題を示し、積層層に目的写像そのものではなく残差を学習させる枠組みを提案した。スキップ結合は、いくつかの層を飛び越えて入力を後段の出力へ直接加え、残差学習の経路を作る。プーリングは特徴マップの縮小、ワンホットエンコーディングはカテゴリ変換、エルボー法はクラスタ数の決定法であり、いずれも層を飛び越える接続ではない。ネットワーク内のデータ経路と最適化対象に注目し、残差経路を作る接続を選ぶ。
大項目5 ディープラーニングの要素技術 / 再帰型ニューラルネットワーク
RNNを時間方向に展開し、各時刻の出力誤差を過去の時刻へ伝えて重みを更新する学習方法はどれか。
正解は「BPTT」である。BPTT(Backpropagation Through Time)は、RNNを時間方向に展開し、系列の各時刻における誤差を過去の時刻へ伝播させて重みを更新する学習方法である。パディングやプーリング層は主に畳み込みニューラルネットワークで扱う概念、条件付きGANは生成モデルの一種であり、RNNの時間方向の誤差逆伝播を指すものではない。 誤差を伝える軸を見る。パディングは入力周囲の補完、プーリングは特徴マップの要約、Conditional GANは条件付き生成である。系列の計算グラフを時刻ごとに展開し、後の誤差を過去へ逆伝播する方法はBPTTである。
大項目5 ディープラーニングの要素技術 / 再帰型ニューラルネットワーク
RNNで長い系列を扱う際に勾配消失問題が起きやすい。この問題を緩和するため、ゲート構造を使って長期依存を扱いやすくした代表的なモデルはどれか。
正解は「LSTM」である。LSTMはゲート構造を持つRNN系のモデルで、長い時系列データにおける依存関係を扱いやすくする。CNNは主に画像などの局所的な特徴抽出に使われる構造、k-means法はクラスタリング、ナイーブベイズは確率に基づく分類手法であり、RNNの長期依存を扱うモデルではない。 候補の内部構造とデータ型を照合する。CNNは空間特徴、k-meansはクラスタ中心、ナイーブベイズは条件付き確率による分類を扱う。入力・忘却・出力ゲートと記憶セルで系列情報を制御するLSTMが該当する。
同じ章で確認したい用語
到達チェック
- Encoder-Decoderを一文で説明できる
- 同じ章の似た用語と違いを説明できる
- 問題文の具体例から、Encoder-Decoderに関係する論点を拾える
- 関連問題を解き、誤答した選択肢の理由を確認できる
深層学習の章を公式テキストと実装の本で読み直す(Amazon)
PR執筆: AI資格ドリル編集部(運営者情報を見る)

