G検定 用語解説
スキップ結合とは
いくつかの層を飛び越えて入力を先の層の出力に直接加える接続。勾配消失を緩和し、ResNetなど非常に深いネットワークの学習を可能にした。残差接続とも呼ぶ。
まず押さえる結論
スキップ結合は、G検定の「大項目5 ディープラーニングの要素技術」に出てくる用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。
情報源と編集区分
公式範囲を確認し、具体例・誤答例・判断手順は当サイトが編集。 一次情報確認日: 2026-10-02。
試験概要（公式）比較記事でさらに確認する
試験での問われ方
定義の言い換え
用語そのものではなく、説明文の一部を言い換えて出されることがあります。
似た概念との比較
同じ章の用語と入れ替えた選択肢に注意します。対象、目的、使う場面を分けます。
具体例からの判断
問題文の事例が、定義のどの部分に対応しているかを先に確認します。
誤答しやすいポイント
「大項目5 ディープラーニングの要素技術」の問題で、取り違えやすい組み合わせです。
- CNN（画像・畳み込み/プーリング）とRNN（時系列・系列データ）の使い分けを取り違える。
- LSTMとGRUのゲート数を混同する（LSTM＝3ゲート＋記憶セル、GRU＝2ゲートに簡略化）。
- 最適化手法を取り違える（モメンタム＝慣性、AdaGrad/RMSProp＝適応学習率、Adam＝両方）。
関連する確認問題
大項目5 ディープラーニングの要素技術 / 最適化と汎化
ResNetで使われる恒等写像のスキップ結合（ショートカット）の特徴として、原論文が述べているものはどれか。
正解は、追加のパラメータも計算量も増やさずに入力を積み重ねた層の出力へ足し合わせる、という説明。ResNetの原論文はスキップ結合（原文ではshortcut connections）を1層以上を飛び越える接続と定義し、ResNetではこれが恒等写像を行ってその出力が積み重ねた層の出力に足し合わされるとする。恒等のスキップ結合は追加のパラメータも計算量も増やさない。層は入力を参照した残差関数を学習するので、出力を捨てるのでも、学習時だけ使うのでもない。
大項目5 ディープラーニングの要素技術 / 最適化と汎化
層を飛び越えて入力を先の層の出力に加える接続を導入し、深いネットワークで生じる劣化問題に対応して最適化しやすくした仕組みはどれか。
正解は「スキップ結合（残差接続）」である。ResNet原論文は、深い通常型ネットワークで深さを増すと訓練誤差まで悪化する劣化問題を示し、積層層に目的写像そのものではなく残差を学習させる枠組みを提案した。スキップ結合は、いくつかの層を飛び越えて入力を後段の出力へ直接加え、残差学習の経路を作る。プーリングは特徴マップの縮小、ワンホットエンコーディングはカテゴリ変換、エルボー法はクラスタ数の決定法であり、いずれも層を飛び越える接続ではない。ネットワーク内のデータ経路と最適化対象に注目し、残差経路を作る接続を選ぶ。
大項目5 ディープラーニングの要素技術 / 生成モデルと注意機構
Transformerで用いられ、複数の注意機構を並列に適用して、系列内の単語どうしの関係を異なる観点から同時に捉える仕組みはどれか。
正解はマルチヘッドアテンション。自己注意を複数のヘッドに分けて並列に計算し、それぞれが異なる観点で単語間の関係を捉えたうえで統合することで、豊かな表現を得る仕組みである。位置エンコーディングは単語の並び順の情報をベクトルに加える工夫、プーリング層は畳み込みで特徴マップを縮約する層、スキップ結合は層を飛び越えて入力を足し込む接続で、いずれも注意を多頭で並列化するこの仕組みとは異なる。 Transformerの部品は付加する情報と計算経路で区別する。位置エンコーディングは順序情報、プーリングは空間要約、スキップ結合は層を越す経路を与える。異なる射影ごとに注意を計算し結果を結合するのがマルチヘッドアテンションである。
同じ章で確認したい用語
到達チェック
- スキップ結合を一文で説明できる
- 同じ章の似た用語と違いを説明できる
- 問題文の具体例から、スキップ結合に関係する論点を拾える
- 関連問題を解き、誤答した選択肢の理由を確認できる
執筆: ミナト編集部（運営者情報を見る）