G検定 用語解説
Seq2Seqとは
入力した系列をいったん固定長のベクトルに符号化し、それを復号して別の系列を生成するEncoder-Decoder型のモデル。機械翻訳などに用いられる。
この記事の目次
Seq2Seqの意味と見分け方
Seq2Seqは、G検定の「大項目6 ディープラーニングの応用例」に出てくる用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。
情報源と編集区分
公式範囲を確認し、具体例・誤答例・判断手順は当サイトが編集。
試験概要(公式)比較記事でさらに確認する
試験での問われ方
定義の言い換え
用語そのものではなく、説明文の一部を言い換えて出されることがあります。
似た概念との比較
同じ章の用語と入れ替えた選択肢に注意します。対象、目的、使う場面を分けます。
具体例からの判断
問題文の事例が、定義のどの部分に対応しているかを先に確認します。
誤答しやすいポイント
「大項目6 ディープラーニングの応用例」の問題で、取り違えやすい組み合わせです。
- 物体検出(R-CNN系/YOLO/SSD)とセグメンテーション(セマンティック=画素単位の塗り分け、インスタンス=個体ごとに区別)の混同。
- word2vec・BERT・GPTの違い(BERT=前後両方向、GPT=一方向・自己回帰)。
- 強化学習の応用(DQN、AlphaGo)と画像/言語タスクの取り違え。
関連する確認問題
大項目6 ディープラーニングの応用例 / 自然言語処理
Sutskeverらが2014年に発表したSeq2Seqの原論文(Sequence to Sequence Learning with Neural Networks)の抄録が述べる手法として、最も適切なものはどれか。
正解は「多層のLSTMで入力系列を固定次元のベクトルに写像し、別の深いLSTMでそのベクトルから目的系列を復号する」である。Seq2Seqの原論文(arXiv:1409.3215)の抄録は、深層ニューラルネットワークは系列から系列への写像には使えないと指摘したうえで、系列の構造に最小限の仮定しか置かない汎用のエンド・ツー・エンド手法を示すと述べる。手法は、多層のLSTMで入力系列を固定次元のベクトルに写像し、別の深いLSTMでそのベクトルから目的系列を復号するものである。WMT'14の英仏翻訳でBLEUスコア34.8を達成し、比較したフレーズベースSMTの33.3を上回った。さらに原文(訳文は除く)の単語順を逆にすると、原文と訳文の間に短期の依存関係が多く生まれて最適化が容易になり、性能が大きく向上したと述べる。
大項目6 ディープラーニングの応用例 / 音声・強化学習
音声認識で、人間の聴覚特性を考慮した音声特徴量として古くから使われるものはどれか。
正解は「メル周波数ケプストラム係数」である。メル周波数ケプストラム係数は、音声信号から人間の聴覚特性を考慮した特徴を取り出す音声認識で使われる特徴量である。ViTとMask R-CNNは画像分野、seq2seqは系列変換モデルで自然言語処理などに使われ、音声特徴量そのものではない。 候補がモデルか特徴量かを分ける。ViTとMask R-CNNは画像モデル、seq2seqは系列から系列への変換モデルである。音声を短時間分析し、メル尺度のフィルタバンクとケプストラムで表すMFCCが音声認識の代表的特徴量である。
大項目6 ディープラーニングの応用例 / 自然言語処理
単語を固定長の実数ベクトルに変換し、ベクトルの加減算によって単語間の意味的な関係を表せるようにした代表的な手法はどれか。
正解は「word2vec」である。単語を固定長の実数ベクトル(分散表現)に変換し、ベクトルの演算で意味的な関係を表せるようにした代表的手法はword2vec。形態素解析は文を単語に分割する処理、seq2seqは系列変換のモデル、機械翻訳はタスク名であり、いずれも単語ベクトルそのものを学習する手法ではない。4つの選択肢は「単語のベクトル化」「文を単語に分割する処理」「系列を別の系列に変換するモデル」「言語間変換というタスク名」という異なる役割に分かれる。
同じ章で確認したい用語
到達チェック
- Seq2Seqを一文で説明できる
- 同じ章の似た用語と違いを説明できる
- 問題文の具体例から、Seq2Seqに関係する論点を拾える
- 関連問題を解き、誤答した選択肢の理由を確認できる
執筆: AI資格ドリル編集部(運営者情報を見る)