AI資格ドリル
資格を選ぶ↓

用語比較

GPUとTPUの違い|開発の出発点・得意な計算・使い分け(G検定)

GPUは、単一のプロセッサの中に数千の演算ユニットを持ち、大量の乗算と加算を同時に実行できるプロセッサです。TPUは、Googleがニューラルネットワークのために設計した、行列演算に特化したプロセッサです。

二つを分けるのは、設計の出発点です。GPUは汎用のプロセッサです。TPUは機械学習のワークロードを高速化する特定用途向け集積回路(ASIC)で、文書処理のような操作には対応しません。

このページは、G検定の計算資源の問題で、CPU・GPU・TPUの特徴が入れ替わってしまう人を対象にしています。シラバスの学習目標に沿って、特徴と、ディープラーニングに適する理由を整理します。

この記事の根拠と出典

各セクションの見出しの下に、公式資料で確認した内容か編集部の整理かをラベルで示しています。 試験日・料金・申込条件・試験方式は変わることがあるため、申込前に公式サイトで確認してください。G検定の一次情報確認日: 2026-10-02。

結論

GPU

数千の算術論理演算ユニット(ALU)で、行列乗算のような大量の並列処理を同時に行う。汎用プロセッサなので、計算のたびにレジスタや共有メモリへアクセスして中間結果を保存する必要がある。

TPU

Googleが設計した、機械学習向けの特定用途向け集積回路(ASIC)。大規模な行列演算を極めて高速に処理し、行列乗算の途中ではメモリアクセスが要らない。文書処理や銀行取引のような操作には対応できない。

違いを表で確認

比較軸GPUTPU
設計の位置づけ汎用のプロセッサ機械学習向けの特定用途向け集積回路(ASIC)
演算の進め方数千のALUが乗算と加算を同時に実行する乗算の結果を次の乗算アキュムレータへ渡すため、途中でメモリへ戻さない
メモリアクセス計算のたびにレジスタや共有メモリへアクセスする行列乗算の処理中はメモリアクセスが要らない
向いているモデルCPU上で一部を実行する必要がある、カスタムのPyTorch/JAX演算を使うモデルなど行列計算が多くを占めるモデル、学習に数週間から数か月かかる大規模なモデルなど
区別の手がかり汎用、数千のALU、並列処理Google、行列プロセッサ、ASIC、機械学習に特化

どこで迷っているかを切り分ける

01

CPU・GPU・TPUの特徴が、名前だけでは区別できない人

CPUは柔軟性が最大の利点の汎用プロセッサです。GPUは数千のALUで並列処理を得意とし、TPUは行列演算に特化しています。柔軟性から専用性へ、順に並べて覚えます。

02

GPUもTPUも「速い」とだけ覚えて、理由を説明できない人

どちらもニューラルネットワークの行列乗算のような大量の計算を、並列に、あるいは専用の仕組みで処理できるため、ディープラーニングの学習や推論に適します。理由は行列演算の多さです。

03

TPUは何にでも使える高速なプロセッサだと思っている人

TPUは、文書処理や銀行取引のような操作には対応できません。頻繁な分岐が必要なプログラムや、高精度の演算が必要なワークロードにも適さないとされています。

具体例で使い分ける

例 1

モデルの条件から、向いているプロセッサを選ぶ

説明のために作った例です。あるモデルは、計算の大半が行列計算で、学習に数週間かかります。別のモデルは、CPU上で一部を実行する必要があるカスタム演算を使っています。

  • Google Cloudのガイドラインでは、行列計算が多くを占めるモデルや、学習に数週間から数か月かかるモデルはTPU向きとされています。
  • CPU上で一部を実行する必要があるカスタムのPyTorch/JAX演算を使うモデルは、GPU向きとされています。

結論: 前者はTPU向き、後者はGPU向きです。行列計算の割合と、カスタム演算の有無が分かれ目です。

例 2

問題文の言葉から選ぶ

説明のために作った例です。ある問題文に、Googleがニューラルネットワーク向けに設計した、行列演算に特化したプロセッサはどれか、とあります。

  • Googleが設計した、行列演算に特化した、という手がかりが並んでいます。
  • 機械学習向けの特定用途向け集積回路(ASIC)はTPUです。GPUは汎用のプロセッサです。

結論: 答えはTPUです。「Google」「行列演算に特化」が出たらTPUを第一候補にします。

例 3

TPUに向かないワークロードを見分ける

説明のために作った例です。あるプログラムは、条件による分岐が頻繁に起こり、要素ごとの代数演算が多く、高い精度の演算も必要です。

  • Google Cloudのガイドラインでは、頻繁な分岐や要素ごとの代数演算が多いプログラム、高精度の演算が必要なワークロードは、TPUに適さないとされています。
  • TPUは大規模な行列演算を極めて高速に処理することが強みで、行列演算が中心でない処理では、その強みを生かせません。

結論: このプログラムはTPU向きではありません。TPUの強みは行列演算であり、何にでも速いわけではないと押さえます。

問題文から答えを選ぶ手順

  1. 1

    汎用か専用かを探す

    さまざまなソフトウェアを動かせる柔軟性が出てくればCPU、機械学習に特化したASICが出てくればTPUです。

  2. 2

    並列処理の言葉があるかを見る

    数千のALUで多数の乗算と加算を同時に行う、とあればGPUです。

  3. 3

    開発元の言葉を見る

    Googleが設計した、とあればTPUです。

  4. 4

    適する理由を答える問題では行列演算を軸にする

    ニューラルネットワークでは行列乗算のような大量の計算が多いため、並列処理や行列演算に強いGPUとTPUが適します。

試験での見分け方

  • 1CPUは汎用で柔軟。GPUは数千のALUによる並列処理。TPUは行列演算に特化したASIC。
  • 2TPUはGoogleが設計した。機械学習向けで、文書処理のような操作には対応しない。
  • 3GPUとTPUが適する理由は、ニューラルネットワークの行列乗算のような大量の計算を速く処理できること。
  • 4行列計算が多く学習が長いモデルはTPU向き。CPU上で一部を実行するカスタム演算があるモデルはGPU向き。

誤答しやすい選択肢

TPUを、あらゆる処理に使える汎用プロセッサと書く

修正: TPUは機械学習向けの特定用途向け集積回路(ASIC)です。文書処理や銀行取引のような操作には対応できません。

GPUをGoogleが機械学習のために設計したプロセッサと書く

修正: 機械学習向けにGoogleが設計したのはTPUです。GPUは汎用のプロセッサで、数千のALUで並列処理を行います。

CPUを、行列演算に特化したプロセッサと書く

修正: CPUは汎用で、柔軟性が最大の利点です。行列演算に特化しているのはTPUです。

GPUが適する理由を、画像を扱えるからとだけ書く

修正: 理由は、数千のALUで行列乗算のような大量の計算を並列に処理できることです。

どんなモデルでもTPUが最適と書く

修正: 頻繁な分岐が必要なプログラムや高精度の演算が必要なワークロードは、TPUに適さないとされています。

確認問題

Q1Googleがニューラルネットワーク向けに設計した、行列演算に特化したプロセッサは。

答え: TPU

機械学習のワークロードを高速化するための特定用途向け集積回路(ASIC)です。

Q2数千のALUを持ち、大量の乗算と加算を同時に実行できるプロセッサは。

答え: GPU

行列乗算のような大量の並列処理に向き、ディープラーニングの学習で高いスループットを出せます。

Q3さまざまなソフトウェアを読み込める柔軟性が最大の利点のプロセッサは。

答え: CPU

汎用プロセッサで、さまざまな種類のソフトウェアを読み込められる柔軟性が最大の利点です。

Q4頻繁な分岐が必要なプログラムや、高精度の演算が必要なワークロードは、GPUとTPUのどちらに適さないとされているか。

答え: TPU

Google Cloudのガイドラインで、TPUに適さないワークロードとして挙げられています。TPUは行列演算の高速処理に特化しているためです。

Q5GPUやTPUがディープラーニングの学習に適する理由は。

答え: 行列乗算のような大量の計算を、並列に、または専用の仕組みで高速に処理できるため。

ニューラルネットワークは行列演算が多く、そこを速く処理できる点が適する理由です。

到達チェック

  • CPUが、さまざまなソフトウェアを読み込める柔軟性を最大の利点とする汎用プロセッサだと言える
  • CPU・GPU・TPUの特徴を一言ずつ言える
  • TPUがGoogle設計の機械学習向けASICだと言える
  • GPUが数千のALUで並列処理をすると言える
  • GPUとTPUが適する理由を行列演算で説明できる
  • TPUが適さない処理があることを言える

同じ資格で次に知りたいこと

よくある質問

QGPUとTPUは、何が違う?

A

設計の位置づけが違います。GPUは数千のALUで大量の並列処理を行う汎用のプロセッサで、TPUはGoogleが機械学習のために設計した、行列演算に特化したASICです。

QTPUは何にでも使える?

A

使えません。文書処理や銀行取引のような操作には対応できず、頻繁な分岐が必要なプログラムや高精度の演算が必要なワークロードにも適さないとされています。

QGPUやTPUがディープラーニングに適するのはなぜ?

A

ニューラルネットワークは行列乗算のような大量の計算を必要とし、GPUは並列処理で、TPUは行列演算に特化した仕組みで、それを高速に処理できるためです。

次に見る比較

執筆: ミナト編集部(運営者情報を見る)