AI資格ドリル
資格を選ぶ↓

用語比較

LIMEとSHAPの違い

LIMEとSHAPは、どちらも「AIがなぜこの予測を出したのか」を、1件ごとの予測について特徴量の寄与として説明する手法です。ただし、寄与の求め方が違います。LIMEは予測の周辺だけを簡単なモデルで近似し、SHAPは協力ゲーム理論のシャープレイ値で寄与を割り当てます。

G検定のシラバスには、モデルの解釈性のキーワードとして、CAM、Grad-CAM、LIME、Permutation Importance、SHAP、説明可能AI（XAI）が並びます。周辺を局所的に近似して説明するのがLIME、シャープレイ値で各特徴量の寄与を割り当てるのがSHAPと分けると、説明文の語で判定できます。

このページでは、説明の作り方、数学的な裏づけ、適用できるモデルという三つの軸で比較します。画像のどこを見たかを示すGrad-CAMや、モデル全体の重要度を測るPermutation Importanceとの切り分けも、試験で使える形に整理します。

この記事の根拠と出典

各セクションの見出しの下に、公式資料で確認した内容か編集部の整理かをラベルで示しています。 試験日・料金・申込条件・試験方式は変わることがあるため、申込前に公式サイトで確認してください。G検定の一次情報確認日: 2026-10-02。

結論

LIME

予測したい1件の周辺でサンプルを作り、元モデルの出力を使って、解釈しやすいモデル（本文ではスパースな線形モデル）を局所的に当てはめる。どのモデルもブラックボックスとして扱える。

SHAP

各特徴量に、特定の予測についての重要度の値を割り当てる枠組み。協力ゲーム理論のシャープレイ値に基づき、3つの望ましい性質を満たす解は1つに決まる。

違いを表で確認

比較軸LIMESHAP
基本の考え方予測の周辺を、解釈しやすいモデルで局所的に近似する特徴量ごとの寄与を、シャープレイ値で割り当てる
寄与の求め方近傍に作ったサンプルを、近いほど大きな重みで扱い、重み付きの回帰で当てはめるある特徴量を含む場合と含まない場合の予測の差を、特徴量の全部分集合にわたって重み付き平均する
数学的な裏づけ局所的にモデルへ忠実な説明を目指す（局所近似の考え方）局所精度・欠損性・一貫性の3つを満たす解はシャープレイ値だけ（定理1）
出力の形近傍で当てはめた、解釈しやすいモデル（本文ではスパースな線形モデル）特徴量ごとの重要度の値（寄与）
選択肢で探すキーワード局所、周辺、近似、モデル非依存シャープレイ値、協力ゲーム、寄与、加法的

G検定の学習に使う書籍（Amazon）

試験範囲を通して読むときの1冊です。読んだ章は、このサイトの章別問題で確かめられます。

PR
深層学習教科書 ディープラーニング G検定（ジェネラリスト）公式テキスト 第3版 の表紙深層学習教科書 ディープラーニング G検定（ジェネラリスト）公式テキスト 第3版試験を実施する日本ディープラーニング協会が監修した公式テキストです。Amazonで見る

ほかの資格を含む参考書・問題集の一覧を見る

どこで迷っているかを切り分ける

01

説明可能AIの手法を名前だけで並べて覚えている人

LIME、SHAP、Grad-CAM、Permutation Importanceと名前だけを並べると、説明文との対応が曖昧になります。まず、1件の予測の理由を説明する手法（LIME、SHAP、Grad-CAM）と、モデル全体で特徴量がどれだけ効いているかを見る手法（Permutation Importance）に分け、その上で、手がかり語で個別に判定します。

02

LIMEとSHAPを同じ手法だと思っている人

両者は、1件の予測について特徴量ごとの寄与を出す点が共通します。SHAPの論文も、LIMEの局所線形モデルを、寄与を足し合わせる形の手法の一つとして位置づけています。違うのは寄与の求め方で、設問では「周辺での局所近似」か「シャープレイ値」かで見分けます。

03

ゲーム理論の言葉が出てきて身構えてしまう人

SHAPの論文では、ある特徴量のシャープレイ値を、その特徴量を含む場合と含まない場合の予測の差を、特徴量の全部分集合にわたって重み付き平均した値と定義しています。計算式を覚える必要はなく、「協力ゲーム」「シャープレイ値」という語が出たらSHAPと判定できれば足ります。

具体例で使い分ける

例 1

説明文に『予測の周辺で、解釈しやすいモデルを局所的に学習する』とある場合

ある手法を、個々の予測の周辺だけを簡単なモデルで近似し、どの分類器にも使えると説明しています。

  • LIMEの原論文は、予測の周辺で解釈可能なモデルを局所的に学習することで、任意の分類器の予測を説明する手法と述べます。
  • 元のモデルをブラックボックスとして扱うため、モデルの種類を問いません。
  • シャープレイ値や協力ゲームの語は出てこないので、SHAPではありません。

結論: 局所的な近似とモデル非依存という語が出たら、LIMEを選びます。

例 2

説明文に『協力ゲーム理論のシャープレイ値に基づき、各特徴量の寄与を割り当てる』とある場合

特定の予測に対する各特徴量の寄与を、ゲーム理論の考え方で割り当てる手法を問われています。

  • SHAPの原論文は、各特徴量に特定の予測についての重要度の値を割り当てる枠組みと説明します。
  • その値はシャープレイ値で、特徴量を含む場合と含まない場合の予測の差を、全部分集合にわたって重み付き平均して求めます。
  • 局所的な近似の話ではなく、寄与の配分の話なので、LIMEではありません。

結論: シャープレイ値という語があれば、SHAPを選びます。

例 3

画像のどの領域に注目したかを示す手法を問われた場合

畳み込みニューラルネットワークの判断根拠を、画像の領域として可視化する手法を選ぶ設問です。

  • 領域を可視化する手法として、シラバスにはCAMとGrad-CAMがあります。
  • LIMEは画像にも使えますが、この設問は『注目した領域の可視化』と問うているため、まずCAM系を疑います。
  • シラバスのキーワードでも、CAMとGrad-CAMはLIMEとは別の項目として並んでいます。

結論: 設問が可視化の対象を指定しているときは、手法名より設問の文脈を優先して判定します。

問題文から答えを選ぶ手順

  1. 1

    説明の単位を確認する

    1件の予測の理由を問うなら、LIME、SHAP、Grad-CAMが候補です。モデル全体の重要度ならPermutation Importanceを疑います。

  2. 2

    『局所』『周辺』『近似』の語を探す

    予測の周辺を簡単なモデルで近似するという記述があれば、LIMEです。

  3. 3

    『シャープレイ値』『協力ゲーム』の語を探す

    特徴量の寄与をシャープレイ値で割り当てるという記述があれば、SHAPです。

  4. 4

    可視化の対象を確認する

    画像の注目領域を示す設問なら、CAMやGrad-CAMを優先して検討します。

試験での見分け方

  • 1予測の周辺を局所的に近似して説明するのはLIME。
  • 2LIMEは、元のモデルをブラックボックスとして扱い、任意の分類器に使える。
  • 3シャープレイ値で特徴量の寄与を割り当てるのはSHAP。
  • 4SHAPのシャープレイ値は、局所精度・欠損性・一貫性の3つを満たす唯一の解。
  • 5LIMEもSHAPも、1件の予測についての説明手法である。
  • 6モデル全体の特徴量の重要度を測るのは、Permutation Importance。

誤答しやすい選択肢

LIMEはモデルの内部構造を使って説明すると思う

修正: LIMEは、元のモデルをブラックボックスとして扱います。必要なのは、入力を少し変えたときの出力だけです。内部の重みや層の構造を使う手法ではありません。

SHAPはモデル全体の重要度を出す手法だと思う

修正: SHAPが割り当てるのは、特定の予測についての各特徴量の重要度です。1件の予測の説明が基本で、モデル全体の重要度を測る手法として覚えている場合は、Permutation Importanceと混同していないか確認します。

LIMEとSHAPは無関係な手法だと思う

修正: SHAPの原論文は、LIMEの局所線形モデルを、特徴量ごとの寄与を足し合わせる形の手法として扱っています。1件の予測を特徴量の寄与で説明する点が共通で、違いは寄与の求め方です。

LIMEの説明がモデル全体の動きを表すと思う

修正: LIMEの原論文は、元のモデルが複雑で全体としては説明しにくくても、予測の周辺では忠実な説明を示すことを目指すと述べます。説明が表すのは、その1件の予測の周辺の振る舞いです。

確認問題

Q1予測の周辺で、解釈しやすいモデルを局所的に学習して説明する手法はどちらですか？

答え: LIME

LIMEの原論文は、予測の周辺で解釈可能なモデルを局所的に学習することで、任意の分類器の予測を説明する手法と述べています。

Q2協力ゲーム理論のシャープレイ値に基づいて、各特徴量の寄与を割り当てる手法はどちらですか？

答え: SHAP

SHAPは、特定の予測に対する各特徴量の寄与を、シャープレイ値に基づいて割り当てる説明手法です。

Q3LIMEは、元のモデルをどのように扱いますか？

答え: ブラックボックスとして扱う（モデルの種類を問わない）

LIMEの原論文は、説明器はどのモデルでも説明できるべきで、元のモデルをブラックボックスとして扱うとしています。

到達チェック

  • LIMEの基本の考え方を一文で言える
  • SHAPのシャープレイ値が何を表すか説明できる
  • 『局所』『周辺』の語からLIMEと判定できる
  • 『シャープレイ値』『協力ゲーム』の語からSHAPと判定できる
  • Grad-CAMとPermutation Importanceを切り分けられる

関連ページで確認する

同じ資格で次に知りたいこと

よくある質問

QLIMEとSHAPは、どちらも1件の予測を説明する手法ですか？

A

はい。どちらも、特定の予測について特徴量ごとの寄与を示します。違いは寄与の求め方で、LIMEは周辺の局所近似、SHAPはシャープレイ値です。

QLIMEの正式名称は何ですか？

A

「局所的で、解釈可能で、モデルに依存しない説明」を意味する英語の頭文字で、Local Interpretable Model-agnostic Explanationsの略です。

QSHAPの正式名称は何ですか？

A

「シャープレイ値に基づく、加法的な説明」を意味する英語の頭文字で、SHapley Additive exPlanationsの略です。

Q試験中に二つを最短で見分ける方法は？

A

『局所』『周辺』『近似』の語があればLIME、『シャープレイ値』『協力ゲーム』の語があればSHAPと判定します。

次に見る比較

シェア:XでシェアLINEでシェア

執筆: ミナト編集部（運営者情報を見る）