用語比較
ResNetとDenseNetの違い|層の出力を足し合わせる残差接続と、全層をつなぐ密な接続(G検定)
ResNetとDenseNetは、どちらも畳み込みニューラルネットワークで、層の間に近道の接続を入れて深いネットワークを学習しやすくした構成です。近道という点が共通なので、「どうつなぐか」を問う選択肢で取り違えやすくなります。
ResNetは層の入力を出力に足し合わせる残差学習、DenseNetはすべての層を互いにつなぎ、前の全層の特徴マップを入力にすると覚えると、選択肢を切り分けられます。
このページは、arXivに載った2本の論文(2015年・2016年)をもとに比べます。ResNetとVGGの比較は別のページにあります。
この記事の目次
この記事の根拠と出典
各セクションの見出しの下に、公式資料で確認した内容か編集部の整理かをラベルで示しています。 試験日・料金・申込条件・試験方式は変わることがあるため、申込前に公式サイトで確認してください。G検定の一次情報確認日: 2026-10-02。
結論
ResNet
層を、入力を参照した残差関数を学習するものとして組み直す。最大152層でILSVRC 2015の分類で1位。恒等関数と出力は足し合わせる。
DenseNet
各層を他のすべての層に前向きにつなぐ。L層なら直接の接続はL(L+1)/2本。特徴マップは足さず連結する。
見分け方
選択肢に「残差」「足し合わせ」「ILSVRC 2015」があればResNet、「すべての層をつなぐ」「連結」「特徴の再利用」があればDenseNet。
違いを表で確認
| 比較軸 | ResNet | DenseNet |
|---|---|---|
| 中心となる考え方 | ResNet:層を、入力を参照した残差関数を学習するものとして書き直す | DenseNet:各層を、他のすべての層に前向きにつなぐ |
| 特徴の合わせ方 | ResNet:恒等関数と層の出力を足し合わせる(summation) | DenseNet:特徴を足さず、連結(concatenation)して次の層に渡す |
| 接続の数 | ResNet:近道で入力を後ろの層へ渡す | DenseNet:L層で直接の接続がL(L+1)/2本。従来の畳み込みネットワークはL本 |
| 論文が挙げる利点 | ResNet:深いネットワークが最適化しやすく、深さを増すと精度も上がる | DenseNet:勾配消失を和らげ、特徴の伝播を強め、特徴を再利用し、パラメータ数を大きく減らす |
| 成績の例 | ResNet:最大152層(VGGの8倍の深さ)。アンサンブルでImageNetのテスト誤差3.57%、ILSVRC 2015の分類で1位 | DenseNet:CIFAR-10、CIFAR-100、SVHN、ImageNetの4つのデータセットで評価した |
G検定の学習に使う書籍(Amazon)
試験範囲を通して読むときの1冊です。読んだ章は、このサイトの章別問題で確かめられます。
どこで迷っているかを切り分ける
「残差」「足し合わせ」という語が出る人
ResNetです。層の入力を参照した残差関数を学習し、近道の出力と足し合わせます。
「すべての層をつなぐ」「連結」という語が出る人
DenseNetです。前のすべての層の特徴マップを入力にし、足さずに連結します。
「ILSVRC 2015」「152層」という語が出る人
ResNetです。最大152層で、ILSVRC 2015の分類で1位になりました。
具体例で使い分ける
例 1
選択肢に「残差関数を学習する」が出る場合(架空の場面)
「層を、入力を参照した残差関数を学習するものとして組み直し、深いネットワークを学習しやすくした構成はどれか」という問いがあります。
- 残差関数を学習する枠組みを示したのはResNetです。
- DenseNetは、すべての層をつなぐことで特徴の伝播を強めます。
結論: 残差ならResNetです。
例 2
選択肢に「前のすべての層の特徴マップを入力にする」が出る場合(架空の場面)
「各層が、前のすべての層の特徴マップを入力として使う畳み込みネットワークはどれか」という問いがあります。
- 前の全層の特徴マップを入力にするのはDenseNetです。
- ResNetは近道の接続で入力を足し合わせますが、全層を互いにつなぐわけではありません。
結論: 全層の特徴を入力にするならDenseNetです。
例 3
特徴の合わせ方を問われる場合
2つの構成のうち、特徴を足し合わせるのはどちらかを選ぶ問いがあります。
- ResNetは恒等関数と層の出力を足し合わせます。
- DenseNetは、層に渡す前に特徴を足さず、連結します。
結論: 足し合わせるのはResNet、連結するのはDenseNetです。
問題文から答えを選ぶ手順
- 1
考え方を見る
「残差を学習する」ならResNet、「すべての層をつなぐ」ならDenseNetです。
- 2
特徴の合わせ方を見る
「足し合わせ」ならResNet、「連結」ならDenseNetです。
- 3
接続の数を見る
L(L+1)/2本の直接の接続を挙げるのはDenseNetです。
- 4
成績の語を見る
「152層」「ILSVRC 2015の分類で1位」はResNetです。
試験での見分け方
- 1ResNetは、層を残差関数の学習として組み直し、近道の出力と層の出力を足し合わせる。
- 2ResNetは、最大152層でILSVRC 2015の分類で1位になった。
- 3DenseNetは、各層を他のすべての層に前向きにつなぎ、直接の接続はL(L+1)/2本になる。
- 4DenseNetは、特徴マップを足さずに連結し、前のすべての層の特徴マップを入力にする。
誤答しやすい選択肢
DenseNetも特徴を足し合わせると考える
修正: DenseNetは特徴を足さず、連結して次の層に渡します。足し合わせるのはResNetです。
ResNetがすべての層を互いにつなぐと考える
修正: ResNetは近道の接続を使いますが、全層を互いにつなぐのはDenseNetです。
近道の接続はResNetだけの工夫と考える
修正: DenseNetも、短い接続で深いネットワークを学習しやすくする点では同じ方向の工夫です。つなぎ方が違います。
確認問題
Q1層を残差関数の学習として組み直し、最大152層でILSVRC 2015の分類で1位になった構成は?
答え: ResNet
He氏らの論文で示され、近道の出力と層の出力を足し合わせます。
Q2各層を他のすべての層につなぎ、L層で直接の接続がL(L+1)/2本になる構成は?
答え: DenseNet
前のすべての層の特徴マップを入力にし、特徴は連結して渡します。
Q3DenseNetの論文が挙げる利点は?
答え: 勾配消失を和らげ、特徴の伝播を強め、特徴を再利用し、パラメータ数を大きく減らす
全層をつなぐことで、特徴を何度も作り直さずに再利用できます。
到達チェック
- ResNetの考え方(残差学習と足し合わせ)を言える
- DenseNetの考え方(全層の接続と連結)を言える
- 足し合わせるのがどちらかを取り違えない
関連ページで確認する
同じ資格で次に知りたいこと
- AlphaGoとAlphaGo Zeroの違い|人間の棋譜を使う学習と、自己対局の強化学習だけの学習(G検定)
AlphaGoとAlphaGo Zeroの違いを、学習データ(人間の棋譜の有無)、ネットワークの構成、探索、成績(5対0・100対0)で整理。G検定のAIブームと機械学習の発展で選択肢を切り分ける判断手順と確認問題つき。
- Fast R-CNNとFaster R-CNNの違い|候補領域を外部の手法で出すか、領域提案ネットワークで出すか(G検定)
Fast R-CNNとFaster R-CNNの違いを、領域提案の出し方(外部の手法とRPN)、畳み込み特徴の共有、論文の成績で整理。G検定の物体検出の選択肢を切り分ける判断手順と確認問題つき。
- ELIZAとMYCINの違い|対話を模すパターン照合と、約600本の規則で診断するエキスパートシステム(G検定)
ELIZAとMYCINの違いを、仕組み(パターン照合と置換、規則による後ろ向き推論)、知識の持ち方、題材で整理。G検定の人工知能の歴史で選択肢を切り分ける判断手順と確認問題つき。
よくある質問
QResNetとDenseNetの違いは?
ResNetは層の入力を参照した残差関数を学習し、近道の出力と足し合わせます。DenseNetはすべての層を互いにつなぎ、前の全層の特徴マップを連結して入力にします。
QDenseNetの接続は何本ですか?
論文によると、L層の従来の畳み込みネットワークは接続がL本ですが、DenseNetは直接の接続がL(L+1)/2本です。
QResNetはどのくらい深いのですか?
論文はImageNetで最大152層を評価しており、VGGの8倍の深さです。CIFAR-10では100層と1000層の分析も示しています。
次に見る比較
- G検定・DS検定・統計検定2級で重なる用語10語の比較
同じ名前の用語の定義と収録章を、資格ごとに並べます。
- ベイズの定理と条件付き確率の違い(統計検定2級の式と計算例)
求める確率の向きの違いと、陽性になる確率の計算例を確かめます。
- 紛らわしい用語ペア早見表
混同しやすい用語の違いと判定の手掛かりを、資格別の一覧で確かめます。
執筆: ミナト編集部(運営者情報を見る)
