用語比較
LoRAとフルファインチューニングの違い｜学習する重みと運用の差（AI・大規模言語モデル）
フルファインチューニングは、事前学習済みモデルの全パラメータを再学習する方法です。LoRAは、事前学習済みの重みを凍結し、小さな行列だけを学習する方法です。
どちらも、事前学習済みの大規模言語モデルを特定のタスクに合わせる手段です。違いは、どの重みを更新するかにあります。全部を更新するのがフルファインチューニング、元の重みは動かさず足した小さな行列だけ更新するのがLoRAと覚えると、選択肢を整理できます。
このページは、LoRAの原論文(arXiv:2106.09685)とHugging Face PEFTの公式ドキュメントをもとに、仕組み・コスト・運用で比べます。数の例は、説明用の架空のデータです。
この記事の根拠と出典
各セクションの見出しの下に、公式資料で確認した内容か編集部の整理かをラベルで示しています。 試験日・料金・申込条件・試験方式は変わることがあるため、申込前に公式サイトで確認してください。G検定の一次情報確認日: 2026-10-02。
結論
フルファインチューニング
全パラメータを再学習する。モデルが大きいほど、タスクごとに別の完全なモデルを持つ費用が重くなる。
LoRA
元の重みを凍結し、低ランク分解した小さな行列だけを学習する。学習パラメータ数とGPUメモリを大きく減らせる。
見分け方
元の重みを動かさず、足した小さな行列だけ学習するならLoRA。全部更新するならフルファインチューニング。
違いを表で確認
| 比較軸 | フルファインチューニング | LoRA |
|---|---|---|
| 更新する重み | フルファインチューニング：モデルの全パラメータを再学習する | LoRA：事前学習済みの重みは凍結し、各層に挿入した低ランクの行列(update matrices)だけを学習する |
| 学習の負担 | フルファインチューニング：学習するパラメータが多く、GPUメモリも多く要る | LoRA：論文は、GPT-3 175BをAdamでfine-tuningする場合と比べ、学習可能パラメータ数を1万分の1、GPUメモリ必要量を3分の1に減らせると報告している |
| 複数のタスクの運用 | フルファインチューニング：タスクごとに、元と同じ大きさの完全なモデルを持つことになる | LoRA：同じ土台の重みの上に、タスクごとの軽量で持ち運べるLoRAモデルを複数作れる |
| 推論時の遅延 | フルファインチューニング：更新済みのモデルをそのまま使うので、追加の遅延はない | LoRA：アダプタの重みを土台にmerge(統合)すれば、推論の遅延は増えない。adapter方式とは違う点として論文が挙げている |
| 品質 | フルファインチューニング：基準となる方法 | LoRA：論文は、RoBERTa・DeBERTa・GPT-2・GPT-3で、fine-tuningと同等かそれ以上と報告している |
G検定の学習に使う書籍（Amazon）
試験範囲を通して読むときの1冊です。読んだ章は、このサイトの章別問題で確かめられます。
どこで迷っているかを切り分ける
「LoRAは別の学習方法」と思っている人
LoRAもファインチューニングの一種です。違いは更新する範囲で、LoRAは元の重みを凍結して小さな行列だけを学習します。パラメータ効率のよい方法の1つです。
なぜ小さな行列で足りるのかを聞かれる人
重みの更新を、低ランク分解した2つの小さな行列で表すからです。更新行列の大きさは、主にランクrと元の重み行列の形で決まり、rが小さいほど学習するパラメータは減ります。
1つのモデルを複数の用途に使いたい人
土台の重みを共有し、用途ごとにLoRAの行列だけを差し替える運用ができます。フルファインチューニングでは、用途の数だけ完全なモデルが増えます。
具体例で使い分ける
例 1
用途が3つあるときの持ち物の違い(架空のデータ)
社内で、要約・分類・問い合わせ応答の3つの用途に同じ大規模言語モデルを合わせたい。
- フルファインチューニングでは、用途ごとに全パラメータを再学習するため、3つの完全なモデルを持つことになります。
- LoRAでは、土台の重みは1つで、用途ごとに小さなLoRAの行列を3組作れば足ります。
- どの用途も、土台のモデルは凍結されたままです。
結論: 用途が増えるほど、持ち物の差が広がります。用途の数3は、説明用の架空の数字です。
例 2
運用で遅くならないかを心配する場面(架空のデータ)
LoRAで学習したモデルを、本番の問い合わせ応答に使いたい。追加の行列のぶん、返答が遅くならないか確認したい。
- PEFTのドキュメントは、アダプタの重みをベースモデルに統合(merge)できるので、推論の遅延は増えないと説明しています。
- 統合しない場合は、土台のモデルとLoRAモデルを別々に読み込むため、遅延が出ることがあります。
- 遅延を避けたいときは、統合してから使います。
結論: LoRAは、統合すれば推論の遅延を増やさずに使えます。統合するかどうかを、運用の条件で決めます。
問題文から答えを選ぶ手順
- 1
元の重みを動かすかを見る
全パラメータを更新するならフルファインチューニング、凍結するならLoRAです。
- 2
学習するのが何かを見る
低ランクの小さな行列を学習するなら、LoRAです。
- 3
運用の言葉で確かめる
土台を共有して用途ごとに軽量な部品を持つ、統合すれば遅延が増えない、はLoRAの特徴です。
試験での見分け方
- 1元の重みを凍結し、小さな行列だけ学習するのが、LoRA。
- 2全パラメータを再学習するのが、フルファインチューニング。
- 3学習パラメータとGPUメモリを大きく減らせるのが、LoRAの利点。
- 4統合すれば推論の遅延が増えないのが、LoRAの特徴。
誤答しやすい選択肢
LoRAは元のモデルの重みを書き換えると考える
修正: LoRAは、事前学習済みの重みを凍結します。学習するのは、足した低ランクの行列です。
LoRAは必ず品質が落ちると考える
修正: LoRAの論文は、複数のモデルでfine-tuningと同等かそれ以上の品質と報告しています。ただし、結果はモデルとタスクごとの実験の報告です。
LoRAはRAGと同じように知識を外から足す方法だと考える
修正: LoRAはモデルの重みの側を調整する方法です。RAGは、回答時に外部の文書を検索して渡す方法で、重みは変えません。
確認問題
Q1事前学習済みの重みを凍結し、低ランクの小さな行列だけを学習する方法は？
答え: LoRA
各層に挿入した行列だけを学習するので、学習パラメータ数とGPUメモリを減らせます。
Q2モデルの全パラメータを再学習する方法は？
答え: フルファインチューニング
モデルが大きいほど、タスクごとに完全なモデルを持つ費用が重くなります。
Q3LoRAの更新行列の大きさを主に決める値は？
答え: ランクr(と元の重み行列の形)
rが小さいほど、更新行列と学習するパラメータは減ります。
到達チェック
- LoRAとフルファインチューニングで更新する重みの違いを言える
- LoRAが学習パラメータとメモリを減らせる理由を言える
- 統合(merge)すると推論の遅延が増えない理由を言える
関連ページで確認する
同じ資格で次に知りたいこと
- コンテンツベースフィルタリングと協調フィルタリングの違い｜推薦の2つの考え方（AI・レコメンド）
コンテンツベースフィルタリングと協調フィルタリングの違いを、類似度の取り方・必要なデータ・長所と短所(コールドスタートなど)で整理。他のユーザーのデータが要るかから判定する例と確認問題つき。G検定などAI系の学習に使える。
- 感度と特異度の違い｜陽性を見つける力か、陰性を正しく除く力か（G検定・DS検定）
感度と特異度の違いを、式(TP/(TP+FN)とTN/(TN+FP))・再現率との関係・偽陽性率との関係・均衡正解率で整理。混同行列の数字から計算する例と確認問題つきで、G検定・DS検定の評価指標の問題に備えられる。
- ブートストラップ法とバギングの違い｜標本の取り方と、それを使う手法（G検定・アンサンブル学習）
ブートストラップ法とバギングの違いを、復元抽出という標本の取り方と、その標本で複数モデルを作って予測をまとめる手法という役割の違いで整理。OOB(袋外)標本の考え方と確認問題つき。G検定のアンサンブル学習に使える。
よくある質問
QLoRAは何の略？
Low-Rank Adaptationの略です。原論文の題名は『LoRA: Low-Rank Adaptation of Large Language Models』です。
QLoRAはTransformerのどこに使う？
原論文はTransformerの各層に挿入すると述べます。PEFTのドキュメントは、原理的には任意の重み行列に使えるが、Transformerでは通常、注意(attention)ブロックだけに適用すると説明しています。
Qどちらが優れている？
優劣は決まりません。LoRAは学習の負担を減らせ、土台を共有して複数の用途を持てる一方、結果はモデルとタスクごとの実験で確かめる必要があります。フルファインチューニングは全パラメータを動かす基準の方法です。
次に見る比較
- G検定・DS検定・統計検定2級で重なる用語10語の比較
同じ名前の用語の定義と収録章を、資格ごとに並べます。
- ベイズの定理と条件付き確率の違い（統計検定2級の式と計算例）
求める確率の向きの違いと、陽性になる確率の計算例を確かめます。
- 紛らわしい用語ペア早見表
混同しやすい用語の違いと判定の手掛かりを、資格別の一覧で確かめます。
執筆: ミナト編集部（運営者情報を見る）