G検定 用語解説
LIMEとは
個別の予測について、その予測の周辺で解釈しやすいモデルを局所的に学習して説明する手法。元のモデルをブラックボックスとして扱えるため、モデルの種類を問わず適用できる。
まず押さえる結論
LIMEは、G検定の「大項目6 ディープラーニングの応用例」で確認しておきたい用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。
情報源と編集区分
公式範囲を確認し、具体例・誤答例・判断手順は当サイトが編集。 一次情報確認日: 2026-07-03。
試験概要（公式）試験での問われ方
定義の言い換え
用語そのものではなく、説明文の一部を言い換えて出されることがあります。
似た概念との比較
同じ章の用語と入れ替えた選択肢に注意します。対象、目的、使う場面を分けます。
具体例からの判断
問題文の事例が、定義のどの部分に対応しているかを先に確認します。
誤答しやすいポイント
×物体検出（R-CNN系/YOLO/SSD）とセグメンテーション（セマンティック＝画素単位の塗り分け、インスタンス＝個体ごとに区別）の混同。
×word2vec・BERT・GPTの違い（BERT＝前後両方向、GPT＝一方向・自己回帰）。
×強化学習の応用（DQN、AlphaGo）と画像/言語タスクの取り違え。
関連する確認問題
大項目6 ディープラーニングの応用例 / モデルの解釈性・軽量化
ある予測について、各特徴量がその予測にどれだけ寄与したかを、協力ゲーム理論に由来するシャープレイ値に基づいて割り当てる手法はどれか。
正解はSHAP（SHapley Additive exPlanations）。LundbergとLeeの論文は、予測を解釈する統一的な枠組みとしてSHAPを提案し、特定の予測に対して各特徴量に重要度の値を割り当てるとしている。SHAP値は元のモデルの条件付き期待値関数のシャープレイ値であり、シャープレイ値は協力ゲーム理論に由来する値である。同論文は、加法的な特徴量重要度の尺度の新しいクラスを特定し、そのクラスでは望ましい性質を満たす解が一意であることを示した。LIMEは予測の周辺で解釈しやすいモデルを学習する手法、Grad-CAMは勾配で画像領域を示す手法、Permutation Importanceは特徴量の値をシャッフルして性能の悪化を見る手法で、シャープレイ値を軸にした手法ではない。
大項目6 ディープラーニングの応用例 / モデルの解釈性・軽量化
CAMとGrad-CAMの違いを説明したものとして、最も適切なものはどれか。
正解は、CAMは全体平均プーリングを含む構成を前提に出力層の重みを使い、Grad-CAMは勾配を使うためCAMの一般化として全結合層を持つCNNにも構造変更や再学習なしで適用できる、という説明。Zhouらは、最終出力層の直前に全体平均プーリングを置く構成で、出力層の重みを畳み込み特徴マップへ射影し直す手法をCAMと呼んだ。Selvarajuらは、目的の概念に対する勾配が最終畳み込み層へ流れ込む量を使い、VGGのように全結合層を持つCNNなど幅広いモデルに構造変更や再学習なしで適用できるGrad-CAMを提案し、CAMの一般化と位置づけている。他の選択肢が挙げるシャッフル、局所モデルの学習、シャープレイ値は、それぞれPermutation Importance、LIME、SHAPの説明である。
大項目6 ディープラーニングの応用例 / モデルの解釈性・軽量化
画像分類用のCNNで、最終出力層の直前に全体平均プーリング（GAP）を置き、出力層の重みを最後の畳み込み層の特徴マップへ射影し直して、クラスごとに判断の根拠になった画像領域を示す手法はどれか。
正解はCAM（Class Activation Mapping）。Zhouらの論文は、最終出力層の直前で畳み込み特徴マップに全体平均プーリングを行い、その特徴を全結合層へ入力する構成にしたうえで、出力層の重みを畳み込み特徴マップへ射影し直すと画像領域の重要度が分かるとして、この手法をクラス活性化マッピングと呼んでいる。得られるクラス活性化マップは、CNNがそのカテゴリを識別するために使った画像領域を示す。Grad-CAMは出力層の重みではなく勾配を使い、LIMEは予測の周辺で解釈しやすいモデルを学習し、SHAPは各特徴量にシャープレイ値に基づく重要度を割り当てる手法であり、いずれも「全体平均プーリングと出力層の重みを使う」という条件には当てはまらない。
同じ章で確認したい用語
到達チェック
- LIMEを一文で説明できる
- 同じ章の似た用語と違いを説明できる
- 問題文の具体例から、LIMEに関係する論点を拾える
- 関連問題を解き、誤答した選択肢の理由を確認できる
執筆: ミナト編集部（運営者情報を見る）