G検定 用語解説
スキップ結合とは
いくつかの層を飛び越えて入力を先の層の出力に直接加える接続。勾配消失を緩和し、ResNetなど非常に深いネットワークの学習を可能にした。残差接続とも呼ぶ。
まず押さえる結論
スキップ結合は、G検定の「大項目5 ディープラーニングの要素技術」で確認しておきたい用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。
情報源と編集区分
公式範囲を確認し、具体例・誤答例・判断手順は当サイトが編集。 一次情報確認日: 2026-07-03。
試験概要(公式)試験での問われ方
定義の言い換え
用語そのものではなく、説明文の一部を言い換えて出されることがあります。
似た概念との比較
同じ章の用語と入れ替えた選択肢に注意します。対象、目的、使う場面を分けます。
具体例からの判断
問題文の事例が、定義のどの部分に対応しているかを先に確認します。
誤答しやすいポイント
×CNN(画像・畳み込み/プーリング)とRNN(時系列・系列データ)の使い分け。
×LSTMとGRUのゲート数の混同(LSTM=3ゲート+記憶セル、GRU=2ゲートに簡略化)。
×最適化手法の取り違え(モメンタム=慣性、AdaGrad/RMSProp=適応学習率、Adam=両方)。GAN・VAE・拡散モデルの生成方式の違い。
関連する確認問題
大項目5 ディープラーニングの要素技術 / 最適化と汎化
層を飛び越えて入力を先の層の出力に加える接続を導入することで、勾配消失を緩和し、非常に深いネットワークの学習を可能にした仕組みはどれか。
正解は「スキップ結合(残差接続)」である。スキップ結合(残差接続)は、いくつかの層を飛び越えて入力を先の層の出力に直接加える接続で、勾配消失を緩和し、非常に深いネットワーク(ResNetなど)の学習を可能にした。プーリングは特徴マップの縮小、ワンホットエンコーディングはカテゴリ変換、エルボー法はクラスタ数の決定法であり、いずれも層を飛び越える接続ではない。 ネットワーク内のデータ経路に注目する。プーリングは空間縮小、ワンホット化はカテゴリ表現、エルボー法はクラスタ数選択である。入力を数層先へ直接加えて恒等経路を作るスキップ結合が深い層への勾配伝播を助ける。
大項目5 ディープラーニングの要素技術 / 生成モデルと注意機構
Transformerで用いられ、複数の注意機構を並列に適用して、系列内の単語どうしの関係を異なる観点から同時に捉える仕組みはどれか。
正解はマルチヘッドアテンション。自己注意を複数のヘッドに分けて並列に計算し、それぞれが異なる観点で単語間の関係を捉えたうえで統合することで、豊かな表現を得る仕組みである。位置エンコーディングは単語の並び順の情報をベクトルに加える工夫、プーリング層は畳み込みで特徴マップを縮約する層、スキップ結合は層を飛び越えて入力を足し込む接続で、いずれも注意を多頭で並列化するこの仕組みとは異なる。 Transformerの部品は付加する情報と計算経路で区別する。位置エンコーディングは順序情報、プーリングは空間要約、スキップ結合は層を越す経路を与える。異なる射影ごとに注意を計算し結果を結合するのがマルチヘッドアテンションである。
同じ章で確認したい用語
到達チェック
- スキップ結合を一文で説明できる
- 同じ章の似た用語と違いを説明できる
- 問題文の具体例から、スキップ結合に関係する論点を拾える
- 関連問題を解き、誤答した選択肢の理由を確認できる
執筆: ミナト編集部(運営者情報を見る)