G検定 用語解説
LIMEとは
個別の予測について、その予測の周辺で解釈しやすいモデルを局所的に学習して説明する手法。元のモデルをブラックボックスとして扱えるため、モデルの種類を問わず適用できる。
LIMEの意味と見分け方
LIMEは、G検定の「大項目6 ディープラーニングの応用例」に出てくる用語です。定義だけでなく、どの場面で使う言葉か、何と混同しやすいか、問題文のどの表現で判断するかまで確認します。
情報源と編集区分
公式範囲を確認し、具体例・誤答例・判断手順は当サイトが編集。
試験概要（公式）比較記事でさらに確認する
試験での問われ方
定義の言い換え
用語そのものではなく、説明文の一部を言い換えて出されることがあります。
似た概念との比較
同じ章の用語と入れ替えた選択肢に注意します。対象、目的、使う場面を分けます。
具体例からの判断
問題文の事例が、定義のどの部分に対応しているかを先に確認します。
誤答しやすいポイント
「大項目6 ディープラーニングの応用例」の問題で、取り違えやすい組み合わせです。
- 物体検出（R-CNN系/YOLO/SSD）とセグメンテーション（セマンティック＝画素単位の塗り分け、インスタンス＝個体ごとに区別）の混同。
- word2vec・BERT・GPTの違い（BERT＝前後両方向、GPT＝一方向・自己回帰）。
- 強化学習の応用（DQN、AlphaGo）と画像/言語タスクの取り違え。
関連する確認問題
大項目6 ディープラーニングの応用例 / モデルの解釈性・軽量化
ある予測について、各特徴量がその予測にどれだけ寄与したかを、協力ゲーム理論に由来するシャープレイ値に基づいて割り当てる手法はどれか。
正解はSHAP（SHapley Additive exPlanations）。LundbergとLeeの論文は、予測を解釈する統一的な枠組みとしてSHAPを提案し、特定の予測に対して各特徴量に重要度の値を割り当てるとしている。SHAP値は元のモデルの条件付き期待値関数のシャープレイ値であり、シャープレイ値は協力ゲーム理論に由来する値である。同論文は、加法的な特徴量重要度の尺度の新しいクラスを特定し、そのクラスでは望ましい性質を満たす解が一意であることを示した。LIMEは予測の周辺で解釈しやすいモデルを学習する手法、Grad-CAMは勾配で画像領域を示す手法、Permutation Importanceは特徴量の値をシャッフルして性能の悪化を見る手法で、シャープレイ値を軸にした手法ではない。
大項目6 ディープラーニングの応用例 / モデルの解釈性・軽量化
画像分類用のCNNで、最終出力層の直前に全体平均プーリング（GAP）を置き、出力層の重みを最後の畳み込み層の特徴マップへ射影し直して、クラスごとに判断の根拠になった画像領域を示す手法はどれか。
正解はCAM（Class Activation Mapping）である。Zhouらの論文では、最終出力層の直前で畳み込み特徴マップに全体平均プーリングを行い、その特徴を全結合層へ入力する。この構成で出力層の重みを畳み込み特徴マップへ射影し直すと画像領域の重要度が分かるため、この手法をクラス活性化マッピングと呼んでいる。得られるクラス活性化マップは、CNNがそのカテゴリを識別するために使った画像領域を示す。Grad-CAMは勾配を使う。LIMEは予測の周辺で解釈しやすいモデルを学習し、SHAPはシャープレイ値に基づいて各特徴量の重要度を割り当てる。いずれも「全体平均プーリングと出力層の重みを使う」という条件には当てはまらない。
大項目6 ディープラーニングの応用例 / モデルの解釈性・軽量化
全結合層を持つ学習済みのCNN（VGGなど）が「犬」と判定した根拠を、モデルの構造変更や再学習をせずに画像上で示したい。目的のクラスに対する勾配が最終畳み込み層へ流れ込む量を使って、重要な領域を粗い位置特定マップとして示す手法はどれか。
正解はGrad-CAM（Gradient-weighted Class Activation Mapping）。Selvarajuらの論文は、目的とする概念に対する勾配が最終畳み込み層へ流れ込む量を使い、その概念を予測するうえで重要な画像領域を強調する粗い位置特定マップを作る手法だと述べている。全結合層を持つCNN（VGGなど）にも、構造の変更や再学習なしで適用できるとされる。CAMは全体平均プーリングを含む構成を前提とするため、VGGのように全結合層を持つ既存のモデルをそのまま説明する用途には当てはめにくい。LIMEは予測の周辺で解釈しやすいモデルを学習する手法、Permutation Importanceは特徴量の値をシャッフルして性能の悪化を見る手法で、勾配や最終畳み込み層の情報は使わない。
同じ章で確認したい用語
到達チェック
- LIMEを一文で説明できる
- 同じ章の似た用語と違いを説明できる
- 問題文の具体例から、LIMEに関係する論点を拾える
- 関連問題を解き、誤答した選択肢の理由を確認できる
執筆: AI資格ドリル編集部（運営者情報を見る）