AI資格ドリル
資格を選ぶ↓

用語比較

ResNetとDenseNetの違い|層の出力を足し合わせる残差接続と、全層をつなぐ密な接続(G検定)

ResNetとDenseNetは、どちらも畳み込みニューラルネットワークで、層の間に近道の接続を入れて深いネットワークを学習しやすくした構成です。近道という点が共通なので、「どうつなぐか」を問う選択肢で取り違えやすくなります。

ResNetは層の入力を出力に足し合わせる残差学習、DenseNetはすべての層を互いにつなぎ、前の全層の特徴マップを入力にすると覚えると、選択肢を切り分けられます。

このページは、arXivに載った2本の論文(2015年・2016年)をもとに比べます。ResNetとVGGの比較は別のページにあります。

この記事の根拠と出典

各セクションの見出しの下に、公式資料で確認した内容か編集部の整理かをラベルで示しています。 試験日・料金・申込条件・試験方式は変わることがあるため、申込前に公式サイトで確認してください。G検定の一次情報確認日: 2026-10-02。

結論

ResNet

層を、入力を参照した残差関数を学習するものとして組み直す。最大152層でILSVRC 2015の分類で1位。恒等関数と出力は足し合わせる。

DenseNet

各層を他のすべての層に前向きにつなぐ。L層なら直接の接続はL(L+1)/2本。特徴マップは足さず連結する。

見分け方

選択肢に「残差」「足し合わせ」「ILSVRC 2015」があればResNet、「すべての層をつなぐ」「連結」「特徴の再利用」があればDenseNet。

違いを表で確認

比較軸ResNetDenseNet
中心となる考え方ResNet:層を、入力を参照した残差関数を学習するものとして書き直すDenseNet:各層を、他のすべての層に前向きにつなぐ
特徴の合わせ方ResNet:恒等関数と層の出力を足し合わせる(summation)DenseNet:特徴を足さず、連結(concatenation)して次の層に渡す
接続の数ResNet:近道で入力を後ろの層へ渡すDenseNet:L層で直接の接続がL(L+1)/2本。従来の畳み込みネットワークはL本
論文が挙げる利点ResNet:深いネットワークが最適化しやすく、深さを増すと精度も上がるDenseNet:勾配消失を和らげ、特徴の伝播を強め、特徴を再利用し、パラメータ数を大きく減らす
成績の例ResNet:最大152層(VGGの8倍の深さ)。アンサンブルでImageNetのテスト誤差3.57%、ILSVRC 2015の分類で1位DenseNet:CIFAR-10、CIFAR-100、SVHN、ImageNetの4つのデータセットで評価した

どこで迷っているかを切り分ける

01

「残差」「足し合わせ」という語が出る人

ResNetです。層の入力を参照した残差関数を学習し、近道の出力と足し合わせます。

02

「すべての層をつなぐ」「連結」という語が出る人

DenseNetです。前のすべての層の特徴マップを入力にし、足さずに連結します。

03

「ILSVRC 2015」「152層」という語が出る人

ResNetです。最大152層で、ILSVRC 2015の分類で1位になりました。

具体例で使い分ける

例 1

選択肢に「残差関数を学習する」が出る場合(架空の場面)

「層を、入力を参照した残差関数を学習するものとして組み直し、深いネットワークを学習しやすくした構成はどれか」という問いがあります。

  • 残差関数を学習する枠組みを示したのはResNetです。
  • DenseNetは、すべての層をつなぐことで特徴の伝播を強めます。

結論: 残差ならResNetです。

例 2

選択肢に「前のすべての層の特徴マップを入力にする」が出る場合(架空の場面)

「各層が、前のすべての層の特徴マップを入力として使う畳み込みネットワークはどれか」という問いがあります。

  • 前の全層の特徴マップを入力にするのはDenseNetです。
  • ResNetは近道の接続で入力を足し合わせますが、全層を互いにつなぐわけではありません。

結論: 全層の特徴を入力にするならDenseNetです。

例 3

特徴の合わせ方を問われる場合

2つの構成のうち、特徴を足し合わせるのはどちらかを選ぶ問いがあります。

  • ResNetは恒等関数と層の出力を足し合わせます。
  • DenseNetは、層に渡す前に特徴を足さず、連結します。

結論: 足し合わせるのはResNet、連結するのはDenseNetです。

問題文から答えを選ぶ手順

  1. 1

    考え方を見る

    「残差を学習する」ならResNet、「すべての層をつなぐ」ならDenseNetです。

  2. 2

    特徴の合わせ方を見る

    「足し合わせ」ならResNet、「連結」ならDenseNetです。

  3. 3

    接続の数を見る

    L(L+1)/2本の直接の接続を挙げるのはDenseNetです。

  4. 4

    成績の語を見る

    「152層」「ILSVRC 2015の分類で1位」はResNetです。

試験での見分け方

  • 1ResNetは、層を残差関数の学習として組み直し、近道の出力と層の出力を足し合わせる。
  • 2ResNetは、最大152層でILSVRC 2015の分類で1位になった。
  • 3DenseNetは、各層を他のすべての層に前向きにつなぎ、直接の接続はL(L+1)/2本になる。
  • 4DenseNetは、特徴マップを足さずに連結し、前のすべての層の特徴マップを入力にする。

誤答しやすい選択肢

DenseNetも特徴を足し合わせると考える

修正: DenseNetは特徴を足さず、連結して次の層に渡します。足し合わせるのはResNetです。

ResNetがすべての層を互いにつなぐと考える

修正: ResNetは近道の接続を使いますが、全層を互いにつなぐのはDenseNetです。

近道の接続はResNetだけの工夫と考える

修正: DenseNetも、短い接続で深いネットワークを学習しやすくする点では同じ方向の工夫です。つなぎ方が違います。

確認問題

Q1層を残差関数の学習として組み直し、最大152層でILSVRC 2015の分類で1位になった構成は?

答え: ResNet

He氏らの論文で示され、近道の出力と層の出力を足し合わせます。

Q2各層を他のすべての層につなぎ、L層で直接の接続がL(L+1)/2本になる構成は?

答え: DenseNet

前のすべての層の特徴マップを入力にし、特徴は連結して渡します。

Q3DenseNetの論文が挙げる利点は?

答え: 勾配消失を和らげ、特徴の伝播を強め、特徴を再利用し、パラメータ数を大きく減らす

全層をつなぐことで、特徴を何度も作り直さずに再利用できます。

到達チェック

  • ResNetの考え方(残差学習と足し合わせ)を言える
  • DenseNetの考え方(全層の接続と連結)を言える
  • 足し合わせるのがどちらかを取り違えない

同じ資格で次に知りたいこと

よくある質問

QResNetとDenseNetの違いは?

A

ResNetは層の入力を参照した残差関数を学習し、近道の出力と足し合わせます。DenseNetはすべての層を互いにつなぎ、前の全層の特徴マップを連結して入力にします。

QDenseNetの接続は何本ですか?

A

論文によると、L層の従来の畳み込みネットワークは接続がL本ですが、DenseNetは直接の接続がL(L+1)/2本です。

QResNetはどのくらい深いのですか?

A

論文はImageNetで最大152層を評価しており、VGGの8倍の深さです。CIFAR-10では100層と1000層の分析も示しています。

次に見る比較

執筆: ミナト編集部(運営者情報を見る)