AIの基礎
CNN・RNN・LSTMとは（畳み込み・シーケンスデータ・勾配消失問題）
CNN、RNN、LSTMは、2027年2月試験から適用される生成AIパスポートの公式シラバスで、第1章の中項目「ニューラルネットワーク」に学習項目として並ぶ代表的なモデルです。CNNは画像など格子状のデータ、RNNは並びのあるデータ、LSTMはRNNの勾配消失問題への対策、と入力と課題で役割を分けて覚えます。
このページは、公式シラバスとGoogleの機械学習用語集の範囲で、3つのモデルの役割、勾配消失問題と勾配爆発問題、Transformerとのつながり、出る章を整理しています。土台となるニューラルネットワークの定義は用語集のニューラルネットワークで確認できます。
公式情報の確認
試験日、料金、申込条件、試験方式など変動する情報は、公式情報を最終確認してください。 当サイトの一次情報確認日: 2026-08-31。
試験の出題範囲・実施要項は変動するため、受験前に公式情報を確認してください。
結論
- CNNは、畳み込みレイヤをもつニューラルネットワーク。画像認識などで大きな成功を収めた
- RNNは、前の実行の隠れ層を次の実行へ渡し、シーケンスデータ（並びのあるデータ）を扱う
- 勾配消失問題は、初期の隠れ層の勾配が平坦になり学習が進まなくなること。LSTMがこれに対処する
- 勾配爆発問題は、勾配が急峻になりすぎて重みが大きく更新されること。向きが逆の問題
- Transformerは、再帰と畳み込みを使わずAttentionだけを基礎にした構造で、RNNとは対照的
CNN（畳み込みニューラルネットワーク）
Googleの機械学習用語集は、畳み込みニューラルネットワークを、少なくとも1つの層が畳み込みレイヤであるニューラルネットワークと定義します。一般的な構成は、畳み込みレイヤ、プーリングレイヤ、密結合レイヤの組み合わせです。画像認識などの問題で大きな成功を収めたと説明されています。
畳み込みレイヤでは、畳み込みフィルタが入力行列の上を移動し、フィルタと入力の一部との要素ごとの積を取って合計します。TensorFlowの公式文書では、Conv2Dのfiltersは出力空間の次元で、畳み込みに使うフィルタの数を表します。設問で「画像」「フィルタ」「畳み込み」とあればCNN、と手掛かり語で切り分けます。シラバスは、畳み込みと並べてコンピュータビジョンを詳細キーワードに挙げています。
一次資料: Google「Machine Learning Glossary」、TensorFlow「tf.keras.layers.Conv2D」
RNN（再帰型ニューラルネットワーク）
Googleの機械学習用語集によると、再帰型ニューラルネットワークは、意図的に複数回実行されるニューラルネットワークです。前の実行の隠れ層が、次の実行の同じ隠れ層への入力の一部になります。そのため、シーケンス（並び）の評価に特に役立つと説明されています。「前の結果を次へ渡す」が、RNNの再帰の意味です。
文章のように、単語の順序に意味があるデータがシーケンスデータの例です。シラバスは、RNNとシーケンスデータを同じ学習項目に並べています。
一次資料: Google「Machine Learning Glossary」
勾配消失問題とLSTM
同じ用語集は、勾配消失問題を、ディープニューラルネットワークの初期の隠れ層で勾配が驚くほど平坦になりやすい傾向と説明します。勾配が小さくなるほど重みの変化が小さくなり、学習がほとんど行われません。
長・短期記憶（LSTM）は、再帰型ニューラルネットワークのセルの一種で、手書き文字認識、機械翻訳、画像キャプションなどでデータの並びを処理するために使われます。同用語集は、LSTMがRNNの訓練で長いデータの並びが原因で起きる勾配消失問題に対処し、前のセルからの新しい入力と文脈にもとづいて、内部メモリ状態に履歴を保持すると説明しています。「勾配消失問題への対処」と「履歴を保持するメモリ状態」の2語が出たらLSTMです。
逆向きの問題が勾配爆発問題です。勾配が急峻になりすぎて、ノードの重みに非常に大きな更新が起こり、学習が難しくなります。グラデーション・クリッピングで勾配の最大値を制限して軽減できます。勾配消失問題と勾配爆発問題は、シラバスの詳細キーワードにも並んでいます。
一次資料: Google「Machine Learning Glossary」
手掛かり語で見分ける
説明文のどの語に反応するかで、4つの構造を切り分けます。
| モデル | 手掛かり語 | 仕組みの要点 |
|---|---|---|
| CNN | 畳み込み、フィルタ、コンピュータビジョン | 畳み込みレイヤのフィルタを入力に当てはめて計算する。画像認識などで大きな成果を上げた |
| RNN | シーケンスデータ、前の実行の隠れ層、再帰 | 前の実行の隠れ層を次の実行の入力の一部にして、並びのある入力を順に処理する |
| LSTM | 勾配消失問題、内部メモリ状態 | RNNのセルの一種。長い並びで起きる勾配消失問題に対処し、履歴を内部メモリ状態に保持する |
| Transformer | Attention、自己注意、再帰を使わない | 再帰と畳み込みを使わず、Attention Mechanismだけを基礎にして並列化しやすくした |
Transformerの原論文は、再帰と畳み込みを使わずAttention Mechanismだけを基礎にしたアーキテクチャを提案し、系列変換モデルをより並列化しやすくしたと述べています。RNNの「再帰」に対して、Transformerは「Attention」と対にして覚えます。CNNとRNNの違いを掘り下げた比較はCNNとRNNの違いに、Transformerの仕組みはTransformerとはにまとめています。
一次資料: Vaswani et al.「Attention Is All You Need」（arXiv 1706.03762）
シラバスのどこに出るか
2027年2月試験から適用される公式シラバスでは、第1章の中項目「ニューラルネットワーク」に、次の学習項目が並んでいます。
| 場所 | 内容 |
|---|---|
| 第1章 中項目「ニューラルネットワーク」の学習項目「CNN」 | 同じ中項目の詳細キーワードにCNN、畳み込み、コンピュータビジョンが並ぶ |
| 第1章 中項目「ニューラルネットワーク」の学習項目「RNN」「LSTM」 | 同じ中項目の詳細キーワードにRNN（再帰型ニューラルネットワーク）、シーケンスデータ、勾配消失問題、勾配爆発問題、LSTM、Attention、Transformerモデルが並ぶ |
第1章の基礎として、入力の種類（画像か並びか）と、勾配の問題への対処を結びつけて読みます。同じ中項目には、GANとVAEも並びます。GAN・VAEとはと合わせて読むと、第1章のモデルの名前を一通りたどれます。章立ての変更は2027年2月試験の新シラバスに整理しています。試験での出題を予想するものではありません。
よくある質問
CNNとは、一言でいうと何ですか？
少なくとも1つの層が畳み込みレイヤであるニューラルネットワークです。Googleの機械学習用語集は、典型的な構成を畳み込みレイヤ・プーリングレイヤ・密結合レイヤの組み合わせとし、画像認識などで大きな成功を収めたと説明しています。
RNNが得意な入力は何ですか？
並びのあるデータ、つまりシーケンスデータです。Googleの機械学習用語集は、前の実行の隠れ層が次の実行の同じ隠れ層への入力の一部になる仕組みで、シーケンスの評価に特に役立つと説明しています。
勾配消失問題とは何ですか？
ディープニューラルネットワークの初期の隠れ層で、勾配が平坦になりすぎ、重みの変化が小さくなって学習がほとんど進まなくなる傾向です。Googleの機械学習用語集は、長・短期記憶（LSTM）のセルがこの問題に対処すると説明しています。
勾配爆発問題は、勾配消失問題の逆ですか？
向きが逆の問題です。勾配が急峻になりすぎて、重みに非常に大きな更新が起き、学習が難しくなります。同用語集は、勾配の最大値を制限するグラデーション・クリッピングで軽減できると説明しています。再帰型ニューラルネットワークで特に挙げられる問題です。
TransformerはRNNと何が違いますか？
原論文は、Transformerを、再帰と畳み込みを使わずAttention Mechanismだけを基礎にしたアーキテクチャとして提案し、系列変換モデルをより並列化しやすくしたと述べています。RNNは前の実行の結果を次へ渡す再帰の構造を持つ点が対照的です。
生成AIパスポートの学習に使う書籍（Amazon）
試験範囲を通して読むときの1冊です。読んだ章は、このサイトの章別問題で確かめられます。
