第40問〜第69問を掲載しています。答えを開き、誤答選択肢との違いまで確認してください。 この章の第1問から読む場合は大項目6 ディープラーニングの応用例のページへ戻ります。
公式範囲を確認し、問題文・選択肢・解説は当サイトが作成。本試験問題の複写ではありません。 一次情報確認日: 2026-07-03。
試験概要（公式）正解は「セマンティックセグメンテーション」である。セマンティックセグメンテーションは、画像の各画素にクラスを割り当て、領域を塗り分けるタスクである。物体検出は物体の位置とクラスを推定する。画像認識は画像全体の分類を指すことが多い。機械翻訳は言語を変換する技術である。 画像タスクは出力粒度で区別する。画像認識は画像全体のクラス、物体検出は物体ごとの矩形と種類を返す。各画素に意味カテゴリを割り当て同じクラスの領域を塗り分けるのはセマンティックセグメンテーションである。
https://www.jdla.org/certificate/general/
正解は「形態素解析」である。形態素解析は、文章を単語や形態素などの単位に分割し、品詞などを解析する自然言語処理の基本処理である。機械翻訳は言語間の変換、分散表現は単語などをベクトルで表す方法、音声認識は音声を文字列に変換する技術である。 自然言語処理の工程を成果物で区別する。機械翻訳は別言語文、分散表現はベクトル、音声認識は音声から文字列を出す。文を言語上の最小単位へ区切り各単位へ品詞情報を付けるのは形態素解析である。活用形を原形へ戻す情報も後続処理の入力になる。
https://www.jdla.org/certificate/general/
正解はDQN。行動価値（Q値）をニューラルネットワークで近似する深層強化学習の手法で、画面の画素を入力として多数のテレビゲームを人間並みにプレイできることを示した。GANは生成器と識別器を競わせて本物らしいデータを作る生成モデル、オートエンコーダは入力を圧縮・復元して特徴を学ぶネットワーク、word2vecは単語を分散表現に変換する手法で、いずれも行動価値を学習するDQNとは目的が異なる。 学習対象を照合する。オートエンコーダは入力復元、GANはデータ生成、word2vecは単語ベクトルを学習する。状態から各行動のQ値をニューラルネットワークで出力し方策選択に使うのはDQNである。
https://www.jdla.org/certificate/general/ （大項目6 ディープラーニングの応用例）
正解は隠れマルコフモデル（HMM）。直接観測できない状態が確率的に遷移し、各状態から観測値が確率的に出力されると仮定する時系列モデルで、ディープラーニング普及以前から音声認識などで広く使われてきた。word2vecは単語を分散表現に変換する手法、WaveNetは音声を高品質に合成する深層生成モデル、seq2seqは系列を別の系列に変換するEncoder-Decoder構成で、いずれも隠れた状態遷移を確率的に扱うHMMとは異なる。 時系列モデルの構造を照合する。seq2seqはEncoder-Decoderの系列変換、word2vecは単語埋め込み、WaveNetは音声波形生成である。隠れ状態のマルコフ遷移確率と観測出力確率を持つのは隠れマルコフモデルである。
https://www.jdla.org/certificate/general/ （大項目6 ディープラーニングの応用例）
正解はFast R-CNN。もとのR-CNNが領域候補ごとに個別に畳み込みを行って遅かったのに対し、画像全体を一度だけ畳み込んで特徴マップを作り、そこから各領域候補の特徴をまとめて取り出すことで大幅に高速化した。R-CNNは領域候補ごとに処理する初期の手法、YOLOは領域候補の段階を設けず画像を一度見て検出する一段階の手法、セマンティックセグメンテーションは画素ごとに種類を塗り分ける別のタスクで、いずれもFast R-CNNとは異なる。 R-CNN系列は畳み込みの共有範囲で区別する。R-CNNは領域候補ごとにCNN計算を繰り返す。Fast R-CNNは画像全体の畳み込みを一度だけ行い、共通特徴マップから各RoIを取り出す。YOLOは候補領域を別段階にしない一段階検出である。
https://www.jdla.org/certificate/general/ （大項目6 ディープラーニングの応用例）
正解はSSD。YOLOと同じく領域候補を絞り込む段階を設けない一段階の物体検出手法で、あらかじめ定めたさまざまな大きさや縦横比の枠（デフォルトボックス）を使って、一度の処理で物体の位置と種類を検出し高速に動作する。Faster R-CNNは領域提案ネットワークを備えた二段階の手法、Mask R-CNNは物体検出に領域の塗り分けを加えた手法、U-Netは医療画像などのセグメンテーションに使われる構造で、いずれも一段階検出のSSDとは異なる。 物体検出は候補領域を別段階で作るかを見る。Faster R-CNNとMask R-CNNは領域提案を用いる二段階系で、U-Netは画素領域分割である。特徴マップ上のデフォルトボックスからクラスと位置を一度に予測する一段階法はSSDである。
https://www.jdla.org/certificate/general/ （大項目6 ディープラーニングの応用例）
正解は画像生成。文章による指示（プロンプト）などをもとに、新しい画像を作り出す生成AIの機能で、拡散モデルなどが用いられる。物体検出は画像中の物体の位置と種類を見つけるタスク、セマンティックセグメンテーションは画素ごとに種類を塗り分けるタスク、音声認識は音声を文字に変換するタスクで、いずれも新たな画像を作り出す画像生成とは目的が異なる。 既存入力を分析するタスクと新規生成を区別する。音声認識は音声から文字、物体検出は画像から矩形、セマンティックセグメンテーションは画像から画素クラスを出す。テキスト条件から新規の画素内容を合成するのが画像生成である。
https://www.jdla.org/certificate/general/ （大項目6 ディープラーニングの応用例）
正解は「VGG」である。VGGは、非常に小さい3×3の畳み込みフィルタを繰り返し用い、重みを持つ層を16層から19層まで深くした構成を評価した画像認識モデルである。ResNetはスキップ結合で入力を後段へ加算し、深いネットワークを学習しやすくしたモデルである。GoogLeNetは異なる大きさの畳み込みやプーリングを並列に適用して結合するInception構造で知られる。YOLOは画像全体を一度に処理して物体の位置と種類を予測する物体検出手法である。3×3フィルタの反復と16〜19層という条件がVGGを識別する決め手になる。
https://arxiv.org/abs/1409.1556
この事例では「大規模テキストで学習し言語の生成・理解を行うか」を確認すると、膨大なテキストデータで学習し、文章の生成や理解を行う巨大なパラメータを持つ言語モデルに絞れる。正解は「膨大なテキストデータで学習し、文章の生成や理解を行う巨大なパラメータを持つ言語モデル」である。大規模言語モデル（LLM: Large Language Model）は、膨大なテキストデータで学習し、非常に多くのパラメータを持つ言語モデルで、文章の生成・理解・翻訳・要約など幅広い言語タスクに対応する。画像専用のモデルや手書きルールベースのモデルとは異なる。見分ける軸は、主な学習対象がテキストであること、文章の生成と理解を扱うこと、巨大なパラメータを持つことの3点である。画像の物体検出、少数の手書きルール、音声の記録装置は、言語モデルの学習方法と機能を説明していない。
https://www.jdla.org/certificate/general/
この事例では「汎用学習の後に特定タスク向けの追加調整を行うか」を確認すると、事前学習で大量データから汎用的な知識を獲得し、ファインチューニングで特定タスク向けに追加調整するに絞れる。正解は「事前学習で大量データから汎用的な知識を獲得し、ファインチューニングで特定タスク向けに追加調整する」である。大規模なモデルはまず大量のデータで事前学習（プレトレーニング）を行い汎用的な知識を獲得する。その後、目的の下流タスクに合わせてファインチューニング（追加学習）で調整する。順序と役割が逆になった選択肢や、両者を同一視する選択肢は誤り。 選択肢ごとの差は次のように整理できる。「事前学習は特定タスク向けの微調整、ファインチューニングは大量データによる汎用的な学習である」は誤答側で、誤答。事前学習とファインチューニングの役割が逆である。大量データによる汎用的な学習が事前学習で、特定タスク向けの追加調整がファインチューニングである。「事前学習で大量データから汎用的な知識を獲得し、ファインチューニングで特定タスク向けに追加調整する」は正解側で、正解。まず事前学習で大量データから汎用的な知識を獲得し、その後にファインチューニングで目的のタスクへ追加調整する。順序と役割がともに正しい。「両者は同じ処理の別名であり違いはない」は誤答側で、誤答。事前学習とファインチューニングは同じ処理ではない。扱うデータの範囲と、汎用的な学習か特定タスクへの調整かという目的が異なる。「ファインチューニングを行うと事前学習の知識はすべて失われる」は誤答側で、誤答。ファインチューニングは事前学習済みのモデルを特定タスク向けに追加調整する処理であり、事前学習の知識がすべて失われるという説明ではない。
https://www.jdla.org/certificate/general/
この事例では「人間の選好フィードバックで出力を調整するか」を確認すると、モデルの出力を人間の好みや意図に沿ったものに近づけることに絞れる。正解は「モデルの出力を人間の好みや意図に沿ったものに近づけること」である。RLHF（Reinforcement Learning from Human Feedback）は、人間による評価・フィードバックを報酬として強化学習を行い、モデルの出力を人間の好みや意図に沿ったもの（有用で安全な応答）に近づける手法である。パラメータ削減・著作権処理・電力計測とは無関係。 RLHFが変更する対象を確認する。モデルサイズの圧縮、権利処理の自動化、ハードウェア電力の計測ではない。人間が応答を比較・評価した信号を報酬学習へ利用し、有用性や安全性を含む望ましい応答へ近づける。
https://www.jdla.org/certificate/general/ ／ G検定シラバス2024（第1.4版・2026-07-05照合）
この事例では「複数種類の情報を一つのモデルで扱うか」を確認すると、マルチモーダルに絞れる。正解は「マルチモーダル」である。複数の種類（モダリティ）の情報、たとえばテキストと画像と音声などをまたいで扱える性質をマルチモーダルという。マルチタスクは複数のタスクを同時に学習・処理すること、マルチエージェントは複数のエージェントが協調・競合すること、マルチプロセッサはハードウェアの構成を指し、いずれもモダリティの多様性を表す語ではない。 接頭語が同じ候補は何が複数かで区別する。マルチタスクは課題、マルチエージェントは行為主体、マルチプロセッサは計算装置が複数である。入力・出力の情報形式であるモダリティをまたぐ性質はマルチモーダルである。
https://www.jdla.org/certificate/general/
この事例では「生成してほしい内容をモデルへ伝える入力文か」を確認すると、プロンプトに絞れる。正解は「プロンプト」である。生成AIに作り出してほしい内容を伝える指示や質問の文をプロンプトという。パラメータはモデル内部の学習される重み、データセットは学習に用いるデータの集合、アノテーションはデータへのラベル付け作業を指す。 モデル開発と利用時の要素を分ける。パラメータは学習される内部値、データセットは学習例の集合、アノテーションは教師情報の付与である。利用者が推論時に入力する指示・質問はプロンプトである。生成内容・条件・出力形式をその場で伝える利用時入力である点が決め手になる。
https://www.jdla.org/certificate/general/
この事例では「事前学習済みモデルを特定用途へ追加調整するか」を確認すると、事前学習で大量データから汎用的な知識を獲得し、ファインチューニングで特定タスク向けに追加調整するに絞れる。正解は「事前学習で大量データから汎用的な知識を獲得し、ファインチューニングで特定タスク向けに追加調整する」である。大規模なモデルはまず大量のデータで事前学習（プレトレーニング）を行い汎用的な知識を獲得する。その後、目的の下流タスクに合わせてファインチューニング（追加学習）で調整する。順序と役割が逆になった選択肢や、両者を同一視する選択肢は誤り。 選択肢ごとの差は次のように整理できる。「事前学習は特定タスク向けの微調整、ファインチューニングは大量データによる汎用的な学習である」は誤答側で、誤答。事前学習とファインチューニングの役割が逆である。大量データによる汎用的な学習が事前学習で、特定タスク向けの追加調整がファインチューニングである。「事前学習で大量データから汎用的な知識を獲得し、ファインチューニングで特定タスク向けに追加調整する」は正解側で、正解。まず事前学習で大量データから汎用的な知識を獲得し、その後にファインチューニングで目的のタスクへ追加調整する。順序と役割がともに正しい。「両者は同じ処理の別名であり違いはない」は誤答側で、誤答。事前学習とファインチューニングは同じ処理ではない。扱うデータの範囲と、汎用的な学習か特定タスクへの調整かという目的が異なる。「ファインチューニングを行うと事前学習の知識はすべて失われる」は誤答側で、誤答。ファインチューニングは事前学習済みのモデルを特定タスク向けに追加調整する処理であり、事前学習の知識がすべて失われるという説明ではない。
https://www.jdla.org/certificate/general/
この事例では「人間の好みや意図に出力を近づけるか」を確認すると、モデルの出力を人間の好みや意図に沿ったものに近づけることに絞れる。正解は「モデルの出力を人間の好みや意図に沿ったものに近づけること」である。RLHF（Reinforcement Learning from Human Feedback）は、人間による評価・フィードバックを報酬として強化学習を行い、モデルの出力を人間の好みや意図に沿ったもの（有用で安全な応答）に近づける手法である。パラメータ削減・著作権処理・電力計測とは無関係。 RLHFが変更する対象を確認する。モデルサイズの圧縮、権利処理の自動化、ハードウェア電力の計測ではない。人間が応答を比較・評価した信号を報酬学習へ利用し、有用性や安全性を含む望ましい応答へ近づける。
https://www.jdla.org/certificate/general/ ／ G検定シラバス2024（第1.4版・2026-07-05照合）
この事例では「画像とテキストという異なるモダリティを扱うか」を確認すると、マルチモーダルに絞れる。正解は「マルチモーダル」である。複数の種類（モダリティ）の情報、たとえばテキストと画像と音声などをまたいで扱える性質をマルチモーダルという。マルチタスクは複数のタスクを同時に学習・処理すること、マルチエージェントは複数のエージェントが協調・競合すること、マルチプロセッサはハードウェアの構成を指し、いずれもモダリティの多様性を表す語ではない。 接頭語が同じ候補は何が複数かで区別する。マルチタスクは課題、マルチエージェントは行為主体、マルチプロセッサは計算装置が複数である。入力・出力の情報形式であるモダリティをまたぐ性質はマルチモーダルである。
https://www.jdla.org/certificate/general/
この事例では「大量テキストと多数パラメータを持つ言語モデルか」を確認すると、膨大なテキストデータで学習し、文章の生成や理解を行う巨大なパラメータを持つ言語モデルに絞れる。正解は「膨大なテキストデータで学習し、文章の生成や理解を行う巨大なパラメータを持つ言語モデル」である。大規模言語モデル（LLM: Large Language Model）は、膨大なテキストデータで学習し、非常に多くのパラメータを持つ言語モデルで、文章の生成・理解・翻訳・要約など幅広い言語タスクに対応する。画像専用のモデルや手書きルールベースのモデルとは異なる。見分ける軸は、主な学習対象がテキストであること、文章の生成と理解を扱うこと、巨大なパラメータを持つことの3点である。画像の物体検出、少数の手書きルール、音声の記録装置は、言語モデルの学習方法と機能を説明していない。
https://www.jdla.org/certificate/general/
この事例では「汎用知識の事前学習と特定用途の微調整か」を確認すると、事前学習で大量データから汎用的な知識を獲得し、ファインチューニングで特定タスク向けに追加調整するに絞れる。正解は「事前学習で大量データから汎用的な知識を獲得し、ファインチューニングで特定タスク向けに追加調整する」である。大規模なモデルはまず大量のデータで事前学習（プレトレーニング）を行い汎用的な知識を獲得する。その後、目的の下流タスクに合わせてファインチューニング（追加学習）で調整する。順序と役割が逆になった選択肢や、両者を同一視する選択肢は誤り。 選択肢ごとの差は次のように整理できる。「事前学習は特定タスク向けの微調整、ファインチューニングは大量データによる汎用的な学習である」は誤答側で、誤答。事前学習とファインチューニングの役割が逆である。大量データによる汎用的な学習が事前学習で、特定タスク向けの追加調整がファインチューニングである。「事前学習で大量データから汎用的な知識を獲得し、ファインチューニングで特定タスク向けに追加調整する」は正解側で、正解。まず事前学習で大量データから汎用的な知識を獲得し、その後にファインチューニングで目的のタスクへ追加調整する。順序と役割がともに正しい。「両者は同じ処理の別名であり違いはない」は誤答側で、誤答。事前学習とファインチューニングは同じ処理ではない。扱うデータの範囲と、汎用的な学習か特定タスクへの調整かという目的が異なる。「ファインチューニングを行うと事前学習の知識はすべて失われる」は誤答側で、誤答。ファインチューニングは事前学習済みのモデルを特定タスク向けに追加調整する処理であり、事前学習の知識がすべて失われるという説明ではない。
https://www.jdla.org/certificate/general/
この事例では「人間の評価へモデル出力を整合させるか」を確認すると、モデルの出力を人間の好みや意図に沿ったものに近づけることに絞れる。正解は「モデルの出力を人間の好みや意図に沿ったものに近づけること」である。RLHF（Reinforcement Learning from Human Feedback）は、人間による評価・フィードバックを報酬として強化学習を行い、モデルの出力を人間の好みや意図に沿ったもの（有用で安全な応答）に近づける手法である。パラメータ削減・著作権処理・電力計測とは無関係。 RLHFが変更する対象を確認する。モデルサイズの圧縮、権利処理の自動化、ハードウェア電力の計測ではない。人間が応答を比較・評価した信号を報酬学習へ利用し、有用性や安全性を含む望ましい応答へ近づける。
https://www.jdla.org/certificate/general/ ／ G検定シラバス2024（第1.4版・2026-07-05照合）
この事例では「音声・画像・文章を横断して扱うか」を確認すると、マルチモーダルに絞れる。正解は「マルチモーダル」である。複数の種類（モダリティ）の情報、たとえばテキストと画像と音声などをまたいで扱える性質をマルチモーダルという。マルチタスクは複数のタスクを同時に学習・処理すること、マルチエージェントは複数のエージェントが協調・競合すること、マルチプロセッサはハードウェアの構成を指し、いずれもモダリティの多様性を表す語ではない。 接頭語が同じ候補は何が複数かで区別する。マルチタスクは課題、マルチエージェントは行為主体、マルチプロセッサは計算装置が複数である。入力・出力の情報形式であるモダリティをまたぐ性質はマルチモーダルである。
https://www.jdla.org/certificate/general/
正解は「解釈性は、AIがどのように判断や予測を導いたのかを人間が理解できる度合いを表す性質であり、説明可能AI（XAI）は、その解釈性を高めるために判断の根拠を示そうとする技術・研究分野である」である。モデルの解釈性は、AIが予測結果に至った過程や根拠を人間が理解できるようにすることを指す性質であり、その解釈性を高めるために判断の根拠を示そうとする技術・研究分野が説明可能AI（XAI）と呼ばれる。両者は「理解できるという性質」と「それを実現する技術」という役割の違いを持つ。「説明可能AI（XAI）は性質そのもの、解釈性は技術・研究分野である」という説明は、両者の役割を入れ替えているため誤りである。「いずれも推論処理を行う場所を指す語である」という説明は、推論をどこで行うかという場所の話であるエッジAIと混同している。「いずれも計算量やパラメータ数を削減する取り組みを指す語である」という説明は、モデルの軽量化と混同しており、判断根拠を理解できるかどうかという解釈性・説明可能AIの論点とは別の話である。
https://zero2one.jp/ai-word/xai/ （2026-08-13照合）／ https://www.jdla.org/certificate/general/ G検定シラバス2024（第1.4版）
正解は「エッジAIは推論処理を端末や現場に近い場所で行う構成を指し、軽量化は限られた計算資源でも動作できるようモデルの規模や計算量を抑える取り組みを指す。両者は別の観点の話だが、計算資源が限られた端末上でAIを動かすエッジAIを実現する手段として軽量化が用いられる関係にある」である。エッジAIは、AIの推論処理をクラウド上のサーバーではなく、データが発生する端末や現場に近い場所で行う構成・技術であり、通信にともなう遅延やデータ送信量を抑えられる。一方で軽量化は、計算資源や電力が限られた端末でも動作できるよう、モデルの規模や計算量を抑える取り組みである。推論をどこで行うかという場所の観点と、モデルの規模をどう抑えるかという設計の観点は別だが、限られた計算資源しか持たない端末上でAIを動かすエッジAIを実現するために軽量化がしばしば用いられるという関係にある。「エッジAIが計算量削減そのものを指し、軽量化がクラウドへの集約を指す」という説明は、両者の定義を入れ替えている。「開発から運用、再学習までを継続的に回す方法論」という説明はMLOpsの説明であり、エッジAIや軽量化とは異なる。「判断根拠を人間が理解できる形で示す取り組み」という説明は説明可能AI（XAI）や解釈性の話であり、場所や計算量の話ではない。
https://www.jdla.org/certificate/general/ G検定シラバス2024（第1.4版・2026-08-13照合）
正解は「計算資源や電力が限られた端末でも動作できるよう、モデルの規模や計算量を抑えること」である。モデルの軽量化は、計算資源や電力が限られたスマートフォンなどの端末上でも動作できるよう、モデルの規模や計算量を抑える取り組みであり、エッジAIのように端末側で推論を完結させたい場面で必要になる。「AIの判断根拠を人間が理解しやすい形で示せるようにすること」は、解釈性や説明可能AI（XAI）が目指す目的であり、計算資源の制約に対応する軽量化の目的とは異なる。「学習に使うデータの著作権を自動的に処理すること」は知的財産権に関する話であり、モデルの計算資源や規模とは無関係である。「推論処理の結果をつねにクラウド上のサーバーへ送信し続けること」は、端末側で処理を完結させて通信を抑えたいというエッジAI・軽量化の方向性とは逆であり、目的として成り立たない。
https://www.jdla.org/certificate/general/ G検定シラバス2024（第1.4版・2026-08-13照合）
正解は「解釈性はAIの判断根拠を人が理解できる度合いという性質、説明可能AI（XAI）はその解釈性を高める技術・研究分野、エッジAIは推論処理を端末や現場に近い場所で行う構成、軽量化は限られた計算資源でも動作できるようモデルの規模や計算量を抑える取り組みである」である。解釈性はAIが予測結果に至った過程や根拠を人間が理解できる度合いを表す性質であり、説明可能AI（XAI）はその解釈性を高めるための技術・研究分野である。エッジAIは推論処理をクラウド上のサーバーではなく端末や現場に近い場所で行う構成であり、軽量化は限られた計算資源でも動作できるようモデルの規模や計算量を抑える取り組みである。4つの語をすべて開発・運用を継続的に回す方法論（MLOps）と同一視する説明、4つの語の対応を総入れ替えした説明、解釈性・説明可能AI（XAI）をクラウド側の構成に、エッジAI・軽量化を判断根拠の説明技術にすり替えた説明は、いずれも対象を取り違えている。
https://zero2one.jp/ai-word/xai/ （2026-08-13照合）／ https://www.jdla.org/certificate/general/ G検定シラバス2024（第1.4版）
正解はCAM（Class Activation Mapping）。Zhouらの論文は、最終出力層の直前で畳み込み特徴マップに全体平均プーリングを行い、その特徴を全結合層へ入力する構成にしたうえで、出力層の重みを畳み込み特徴マップへ射影し直すと画像領域の重要度が分かるとして、この手法をクラス活性化マッピングと呼んでいる。得られるクラス活性化マップは、CNNがそのカテゴリを識別するために使った画像領域を示す。Grad-CAMは出力層の重みではなく勾配を使い、LIMEは予測の周辺で解釈しやすいモデルを学習し、SHAPは各特徴量にシャープレイ値に基づく重要度を割り当てる手法であり、いずれも「全体平均プーリングと出力層の重みを使う」という条件には当てはまらない。
https://arxiv.org/abs/1512.04150 （Zhou et al.『Learning Deep Features for Discriminative Localization』／JDLA公式シラバス大項目6 33.モデルの解釈性）
正解はGrad-CAM（Gradient-weighted Class Activation Mapping）。Selvarajuらの論文は、目的とする概念に対する勾配が最終畳み込み層へ流れ込む量を使い、その概念を予測するうえで重要な画像領域を強調する粗い位置特定マップを作る手法だと述べている。全結合層を持つCNN（VGGなど）にも、構造の変更や再学習なしで適用できるとされる。CAMは全体平均プーリングを含む構成を前提とするため、VGGのように全結合層を持つ既存のモデルをそのまま説明する用途には当てはめにくい。LIMEは予測の周辺で解釈しやすいモデルを学習する手法、Permutation Importanceは特徴量の値をシャッフルして性能の悪化を見る手法で、勾配や最終畳み込み層の情報は使わない。
https://arxiv.org/abs/1610.02391 （Selvaraju et al.『Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization』／JDLA公式シラバス大項目6 33.モデルの解釈性）
正解はLIME。Ribeiroらの論文は、LIMEを、あらゆる分類器の予測を、その予測の周辺で解釈可能なモデルを局所的に学習することで、解釈可能かつ忠実に説明する手法として提案している。同論文は、説明器は任意のモデルを説明でき、元のモデルをブラックボックスとして扱える（model-agnostic）ことが望ましいとし、説明には少なくとも局所的な忠実性が必要だとも述べる。Grad-CAMとCAMはCNNの畳み込み層の情報を使って画像上の重要領域を示す手法、Permutation Importanceは特徴量の値をシャッフルして性能の悪化を見る手法であり、個別の予測の周辺で別のモデルを学習する手順は持たない。
https://arxiv.org/abs/1602.04938 （Ribeiro et al.『"Why Should I Trust You?": Explaining the Predictions of Any Classifier』／JDLA公式シラバス大項目6 33.モデルの解釈性）
正解はSHAP（SHapley Additive exPlanations）。LundbergとLeeの論文は、予測を解釈する統一的な枠組みとしてSHAPを提案し、特定の予測に対して各特徴量に重要度の値を割り当てるとしている。SHAP値は元のモデルの条件付き期待値関数のシャープレイ値であり、シャープレイ値は協力ゲーム理論に由来する値である。同論文は、加法的な特徴量重要度の尺度の新しいクラスを特定し、そのクラスでは望ましい性質を満たす解が一意であることを示した。LIMEは予測の周辺で解釈しやすいモデルを学習する手法、Grad-CAMは勾配で画像領域を示す手法、Permutation Importanceは特徴量の値をシャッフルして性能の悪化を見る手法で、シャープレイ値を軸にした手法ではない。
https://arxiv.org/abs/1705.07874 （Lundberg & Lee『A Unified Approach to Interpreting Model Predictions』／JDLA公式シラバス大項目6 33.モデルの解釈性）
正解はPermutation Importance。scikit-learn公式ドキュメントは、Permutation feature importanceを、表形式データ上で学習済みモデルの統計的性能への各特徴量の寄与を測る検査手法とし、非線形または不透明な推定器に特に有用で、1つの特徴量の値をランダムにシャッフルしてモデルのスコアの悪化を観察する手法だと説明している。特徴量と目的変数の関係を壊すことで、モデルがその特徴量にどれだけ依存しているかが分かる。Breimanのランダムフォレストの論文にも、out-of-bagデータ内のm番目の変数の値をランダムに並べ替えて誤分類率の増加を見る手順が示されている。CAMとGrad-CAMは画像のCNNで重要領域を示す手法、SHAPはシャープレイ値に基づいて特徴量ごとの寄与を割り当てる手法である。
https://scikit-learn.org/stable/modules/permutation_importance.html （scikit-learn公式ドキュメント／Breiman『Random Forests』／JDLA公式シラバス大項目6 33.モデルの解釈性）
正解は、CAMは全体平均プーリングを含む構成を前提に出力層の重みを使い、Grad-CAMは勾配を使うためCAMの一般化として全結合層を持つCNNにも構造変更や再学習なしで適用できる、という説明。Zhouらは、最終出力層の直前に全体平均プーリングを置く構成で、出力層の重みを畳み込み特徴マップへ射影し直す手法をCAMと呼んだ。Selvarajuらは、目的の概念に対する勾配が最終畳み込み層へ流れ込む量を使い、VGGのように全結合層を持つCNNなど幅広いモデルに構造変更や再学習なしで適用できるGrad-CAMを提案し、CAMの一般化と位置づけている。他の選択肢が挙げるシャッフル、局所モデルの学習、シャープレイ値は、それぞれPermutation Importance、LIME、SHAPの説明である。
https://arxiv.org/abs/1610.02391 （Selvaraju et al.『Grad-CAM』／Zhou et al.『Learning Deep Features for Discriminative Localization』https://arxiv.org/abs/1512.04150 ／JDLA公式シラバス大項目6 33.モデルの解釈性）