第40問〜第78問を掲載しています。答えを開き、誤答選択肢との違いまで確認してください。
公式範囲を確認し、問題文・選択肢・解説は当サイトが作成。本試験問題の複写ではありません。
試験概要（公式）正解は「セマンティックセグメンテーション」である。セマンティックセグメンテーションは、画像の各画素にクラスを割り当て、領域を塗り分けるタスクである。物体検出は物体の位置とクラスを推定する。画像認識は画像全体の分類を指すことが多い。機械翻訳は言語を変換する技術である。 画像タスクは出力粒度で区別する。画像認識は画像全体のクラス、物体検出は物体ごとの矩形と種類を返す。各画素に意味カテゴリを割り当て同じクラスの領域を塗り分けるのはセマンティックセグメンテーションである。
https://www.jdla.org/certificate/general/
正解は「形態素解析」である。形態素解析は、文章を単語や形態素などの単位に分割し、品詞などを解析する自然言語処理の基本処理である。機械翻訳は言語間の変換、分散表現は単語などをベクトルで表す方法、音声認識は音声を文字列に変換する技術である。 自然言語処理の工程を成果物で区別する。機械翻訳は別言語文、分散表現はベクトル、音声認識は音声から文字列を出す。文を言語上の最小単位へ区切り各単位へ品詞情報を付けるのは形態素解析である。活用形を原形へ戻す情報も後続処理の入力になる。
https://www.jdla.org/certificate/general/
正解はDQN。行動価値（Q値）をニューラルネットワークで近似する深層強化学習の手法で、画面の画素を入力として多数のテレビゲームを人間並みにプレイできることを示した。GANは生成器と識別器を競わせて本物らしいデータを作る生成モデル、オートエンコーダは入力を圧縮・復元して特徴を学ぶネットワーク、word2vecは単語を分散表現に変換する手法で、いずれも行動価値を学習するDQNとは目的が異なる。 学習対象を照合する。オートエンコーダは入力復元、GANはデータ生成、word2vecは単語ベクトルを学習する。状態から各行動のQ値をニューラルネットワークで出力し方策選択に使うのはDQNである。
https://www.jdla.org/certificate/general/ （大項目6 ディープラーニングの応用例）
正解は「隠れマルコフモデル（HMM）」である。直接観測できない状態が確率的に遷移し、各状態から観測値が確率的に出力されると仮定する時系列モデルで、ディープラーニング普及以前から音声認識などで広く使われてきた。word2vecは単語を分散表現に変換する手法、WaveNetは音声を高品質に合成する深層生成モデル、seq2seqは系列を別の系列に変換するEncoder-Decoder構成で、いずれも隠れた状態遷移を確率的に扱うHMMとは異なる。 時系列モデルの構造を照合する。seq2seqはEncoder-Decoderの系列変換、word2vecは単語埋め込み、WaveNetは音声波形生成である。隠れ状態のマルコフ遷移確率と観測出力確率を持つのは隠れマルコフモデルである。
https://www.jdla.org/certificate/general/ （大項目6 ディープラーニングの応用例）
正解は「Fast R-CNN」である。もとのR-CNNが領域候補ごとに個別に畳み込みを行って遅かったのに対し、画像全体を一度だけ畳み込んで特徴マップを作り、そこから各領域候補の特徴をまとめて取り出すことで大幅に高速化した。R-CNNは領域候補ごとに処理する初期の手法、YOLOは領域候補の段階を設けず画像を一度見て検出する一段階の手法、セマンティックセグメンテーションは画素ごとに種類を塗り分ける別のタスクで、いずれもFast R-CNNとは異なる。 R-CNN系列は畳み込みの共有範囲で区別する。R-CNNは領域候補ごとにCNN計算を繰り返す。Fast R-CNNは画像全体の畳み込みを一度だけ行い、共通特徴マップから各RoIを取り出す。YOLOは候補領域を別段階にしない一段階検出である。
https://www.jdla.org/certificate/general/ （大項目6 ディープラーニングの応用例）
正解はSSD。YOLOと同じく領域候補を絞り込む段階を設けない一段階の物体検出手法で、あらかじめ定めたさまざまな大きさや縦横比の枠（デフォルトボックス）を使って、一度の処理で物体の位置と種類を検出し高速に動作する。Faster R-CNNは領域提案ネットワークを備えた二段階の手法、Mask R-CNNは物体検出に領域の塗り分けを加えた手法、U-Netは医療画像などのセグメンテーションに使われる構造で、いずれも一段階検出のSSDとは異なる。物体検出の手法は、候補領域を作る処理が検出とは別の段階にあるかどうかで区別する。Faster R-CNNとMask R-CNNは領域提案を用いる二段階系で、U-Netは画素領域分割である。特徴マップ上のデフォルトボックスからクラスと位置を一度に予測する一段階法はSSDである。
https://www.jdla.org/certificate/general/ （大項目6 ディープラーニングの応用例）
正解は画像生成。文章による指示（プロンプト）などをもとに、新しい画像を作り出す生成AIの機能で、拡散モデルなどが用いられる。物体検出は画像中の物体の位置と種類を見つけるタスク、セマンティックセグメンテーションは画素ごとに種類を塗り分けるタスク、音声認識は音声を文字に変換するタスクで、いずれも新たな画像を作り出す画像生成とは目的が異なる。 既存入力を分析するタスクと新規生成を区別する。音声認識は音声から文字、物体検出は画像から矩形、セマンティックセグメンテーションは画像から画素クラスを出す。テキスト条件から新規の画素内容を合成するのが画像生成である。
https://www.jdla.org/certificate/general/ （大項目6 ディープラーニングの応用例）
正解は「VGG」である。VGGは、非常に小さい3×3の畳み込みフィルタを繰り返し用い、重みを持つ層を16層から19層まで深くした構成を評価した画像認識モデルである。ResNetはスキップ結合で入力を後段へ加算し、深いネットワークを学習しやすくしたモデルである。GoogLeNetは異なる大きさの畳み込みやプーリングを並列に適用して結合するInception構造で知られる。YOLOは画像全体を一度に処理して物体の位置と種類を予測する物体検出手法である。3×3フィルタの反復と16〜19層という条件がVGGを識別する決め手になる。
https://arxiv.org/abs/1409.1556
この事例では「大規模テキストで学習し言語の生成・理解を行うか」を確認すると、「膨大なテキストデータで学習し、文章の生成や理解を行う巨大なパラメータを持つ言語モデル」という説明が正しいと分かる。正解は「膨大なテキストデータで学習し、文章の生成や理解を行う巨大なパラメータを持つ言語モデル」である。大規模言語モデル（LLM: Large Language Model）は、膨大なテキストデータで学習し、非常に多くのパラメータを持つ言語モデルで、文章の生成・理解・翻訳・要約など幅広い言語タスクに対応する。画像専用のモデルや手書きルールベースのモデルとは異なる。見分ける軸は、主な学習対象がテキストであること、文章の生成と理解を扱うこと、巨大なパラメータを持つことの3点である。画像の物体検出、少数の手書きルール、音声の記録装置は、言語モデルの学習方法と機能を説明していない。
https://www.jdla.org/certificate/general/
この事例では「汎用学習の後に特定タスク向けの追加調整を行うか」を確認すると、「事前学習で大量データから汎用的な知識を獲得し、ファインチューニングで特定タスク向けに追加調整する」という説明が正しいと分かる。正解は「事前学習で大量データから汎用的な知識を獲得し、ファインチューニングで特定タスク向けに追加調整する」である。大規模なモデルはまず大量のデータで事前学習（プレトレーニング）を行い汎用的な知識を獲得する。その後、目的の下流タスクに合わせてファインチューニング（追加学習）で調整する。順序と役割が逆になった選択肢や、両者を同一視する選択肢は誤り。 事前学習とファインチューニングの問題では、先に汎用の学習があり、後から用途別の調整が入る順序で選ぶ。順序が逆の説明は、役割の取り違えとして見抜ける。同じ処理とする説明と、知識がすべて消えるとする説明は、どちらも二段階の関係を崩しているため外せる。
https://www.jdla.org/certificate/general/
この事例では「人間の選好フィードバックで出力を調整するか」を確認すると、「モデルの出力を人間の好みや意図に沿ったものに近づけること」という説明が正しいと分かる。正解は「モデルの出力を人間の好みや意図に沿ったものに近づけること」である。RLHF（Reinforcement Learning from Human Feedback）は、人間による評価・フィードバックを報酬として強化学習を行い、モデルの出力を人間の好みや意図に沿ったもの（有用で安全な応答）に近づける手法である。パラメータ削減・著作権処理・電力計測とは無関係。 RLHFが変更する対象を確認する。モデルサイズの圧縮、権利処理の自動化、ハードウェア電力の計測ではない。人間が応答を比較・評価した信号を報酬学習へ利用し、有用性や安全性を含む望ましい応答へ近づける。
https://www.jdla.org/certificate/general/ ／ G検定シラバス2024（第1.4版）
この事例では「複数種類の情報を一つのモデルで扱うか」を確認すると、「マルチモーダル」が当てはまると分かる。正解は「マルチモーダル」である。複数の種類（モダリティ）の情報、たとえばテキストと画像と音声などをまたいで扱える性質をマルチモーダルという。マルチタスクは複数のタスクを同時に学習・処理すること、マルチエージェントは複数のエージェントが協調・競合すること、マルチプロセッサはハードウェアの構成を指し、いずれもモダリティの多様性を表す語ではない。 接頭語が同じ候補は何が複数かで区別する。マルチタスクは課題、マルチエージェントは行為主体、マルチプロセッサは計算装置が複数である。入力・出力の情報形式であるモダリティをまたぐ性質はマルチモーダルである。
https://www.jdla.org/certificate/general/
この事例では「生成してほしい内容をモデルへ伝える入力文か」を確認すると、「プロンプト」が当てはまると分かる。正解は「プロンプト」である。生成AIに作り出してほしい内容を伝える指示や質問の文をプロンプトという。パラメータはモデル内部の学習される重み、データセットは学習に用いるデータの集合、アノテーションはデータへのラベル付け作業を指す。 モデル開発と利用時の要素を分ける。パラメータは学習される内部値、データセットは学習例の集合、アノテーションは教師情報の付与である。利用者が推論時に入力する指示・質問はプロンプトである。生成内容・条件・出力形式をその場で伝える利用時入力である点が決め手になる。
https://www.jdla.org/certificate/general/
この事例では「事前学習済みモデルを特定用途へ追加調整するか」を確認すると、「事前学習で大量データから汎用的な知識を獲得し、ファインチューニングで特定タスク向けに追加調整する」という説明が正しいと分かる。正解は「事前学習で大量データから汎用的な知識を獲得し、ファインチューニングで特定タスク向けに追加調整する」である。大規模なモデルはまず大量のデータで事前学習（プレトレーニング）を行い汎用的な知識を獲得する。その後、目的の下流タスクに合わせてファインチューニング（追加学習）で調整する。順序と役割が逆になった選択肢や、両者を同一視する選択肢は誤り。 事前学習とファインチューニングの問題では、先に汎用の学習があり、後から用途別の調整が入る順序で選ぶ。順序が逆の説明は、役割の取り違えとして見抜ける。同じ処理とする説明と、知識がすべて消えるとする説明は、どちらも二段階の関係を崩しているため外せる。
https://www.jdla.org/certificate/general/
この事例では「人間の好みや意図に出力を近づけるか」を確認すると、「モデルの出力を人間の好みや意図に沿ったものに近づけること」という説明が正しいと分かる。正解は「モデルの出力を人間の好みや意図に沿ったものに近づけること」である。RLHF（Reinforcement Learning from Human Feedback）は、人間による評価・フィードバックを報酬として強化学習を行い、モデルの出力を人間の好みや意図に沿ったもの（有用で安全な応答）に近づける手法である。パラメータ削減・著作権処理・電力計測とは無関係。 RLHFが変更する対象を確認する。モデルサイズの圧縮、権利処理の自動化、ハードウェア電力の計測ではない。人間が応答を比較・評価した信号を報酬学習へ利用し、有用性や安全性を含む望ましい応答へ近づける。
https://www.jdla.org/certificate/general/ ／ G検定シラバス2024（第1.4版）
この事例では「画像とテキストという異なるモダリティを扱うか」を確認すると、「マルチモーダル」が当てはまると分かる。正解は「マルチモーダル」である。複数の種類（モダリティ）の情報、たとえばテキストと画像と音声などをまたいで扱える性質をマルチモーダルという。マルチタスクは複数のタスクを同時に学習・処理すること、マルチエージェントは複数のエージェントが協調・競合すること、マルチプロセッサはハードウェアの構成を指し、いずれもモダリティの多様性を表す語ではない。 接頭語が同じ候補は何が複数かで区別する。マルチタスクは課題、マルチエージェントは行為主体、マルチプロセッサは計算装置が複数である。入力・出力の情報形式であるモダリティをまたぐ性質はマルチモーダルである。
https://www.jdla.org/certificate/general/
この事例では「大量テキストと多数パラメータを持つ言語モデルか」を確認すると、「膨大なテキストデータで学習し、文章の生成や理解を行う巨大なパラメータを持つ言語モデル」という説明が正しいと分かる。正解は「膨大なテキストデータで学習し、文章の生成や理解を行う巨大なパラメータを持つ言語モデル」である。大規模言語モデル（LLM: Large Language Model）は、膨大なテキストデータで学習し、非常に多くのパラメータを持つ言語モデルで、文章の生成・理解・翻訳・要約など幅広い言語タスクに対応する。画像専用のモデルや手書きルールベースのモデルとは異なる。見分ける軸は、主な学習対象がテキストであること、文章の生成と理解を扱うこと、巨大なパラメータを持つことの3点である。画像の物体検出、少数の手書きルール、音声の記録装置は、言語モデルの学習方法と機能を説明していない。
https://www.jdla.org/certificate/general/
この事例では「汎用知識の事前学習と特定用途の微調整か」を確認すると、「事前学習で大量データから汎用的な知識を獲得し、ファインチューニングで特定タスク向けに追加調整する」という説明が正しいと分かる。正解は「事前学習で大量データから汎用的な知識を獲得し、ファインチューニングで特定タスク向けに追加調整する」である。大規模なモデルはまず大量のデータで事前学習（プレトレーニング）を行い汎用的な知識を獲得する。その後、目的の下流タスクに合わせてファインチューニング（追加学習）で調整する。順序と役割が逆になった選択肢や、両者を同一視する選択肢は誤り。 事前学習とファインチューニングの問題では、先に汎用の学習があり、後から用途別の調整が入る順序で選ぶ。順序が逆の説明は、役割の取り違えとして見抜ける。同じ処理とする説明と、知識がすべて消えるとする説明は、どちらも二段階の関係を崩しているため外せる。
https://www.jdla.org/certificate/general/
この事例では「人間の評価へモデル出力を整合させるか」を確認すると、「モデルの出力を人間の好みや意図に沿ったものに近づけること」という説明が正しいと分かる。正解は「モデルの出力を人間の好みや意図に沿ったものに近づけること」である。RLHF（Reinforcement Learning from Human Feedback）は、人間による評価・フィードバックを報酬として強化学習を行い、モデルの出力を人間の好みや意図に沿ったもの（有用で安全な応答）に近づける手法である。パラメータ削減・著作権処理・電力計測とは無関係。 RLHFが変更する対象を確認する。モデルサイズの圧縮、権利処理の自動化、ハードウェア電力の計測ではない。人間が応答を比較・評価した信号を報酬学習へ利用し、有用性や安全性を含む望ましい応答へ近づける。
https://www.jdla.org/certificate/general/ ／ G検定シラバス2024（第1.4版）
この事例では「音声・画像・文章を横断して扱うか」を確認すると、「マルチモーダル」が当てはまると分かる。正解は「マルチモーダル」である。複数の種類（モダリティ）の情報、たとえばテキストと画像と音声などをまたいで扱える性質をマルチモーダルという。マルチタスクは複数のタスクを同時に学習・処理すること、マルチエージェントは複数のエージェントが協調・競合すること、マルチプロセッサはハードウェアの構成を指し、いずれもモダリティの多様性を表す語ではない。 接頭語が同じ候補は何が複数かで区別する。マルチタスクは課題、マルチエージェントは行為主体、マルチプロセッサは計算装置が複数である。入力・出力の情報形式であるモダリティをまたぐ性質はマルチモーダルである。
https://www.jdla.org/certificate/general/
正解は「解釈性は、AIがなぜその判断や予測に至ったのかを人間が理解できるという性質であり、説明可能AI（XAI）は、機械学習モデルの予測根拠を説明しようとする技術・研究分野である」である。モデルの解釈性は、AIが予測結果に至った過程や根拠を人間が理解できるようにすることを指す性質であり、機械学習モデルの予測根拠を説明しようとする技術・研究分野が説明可能AI（XAI）と呼ばれる。両者は「理解できるという性質」と「それを実現する技術」という役割の違いを持つ。「説明可能AI（XAI）は性質そのもの、解釈性は技術・研究分野である」という説明は、両者の役割を入れ替えているため誤りである。「いずれも推論処理を行う場所を指す語である」という説明は、推論をどこで行うかという場所の話であるエッジAIと混同している。「いずれも計算量やパラメータ数を削減する取り組みを指す語である」という説明は、モデルの軽量化と混同しており、判断根拠を理解できるかどうかという解釈性・説明可能AIの論点とは別の話である。
総務省 令和元年版情報通信白書 https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r01/html/nd113210.html （深層学習ではAIがどのような根拠で判断したかを人間が理解することが難しい点が指摘されている）／ J-STAGE『XAI(eXplainable AI)技術の研究動向』https://www.jstage.jst.go.jp/article/jssmjournal/34/1/34_20/_article/-char/ja/ （機械学習モデルの予測根拠を説明するXAI技術の研究が進んでいる）
正解は「エッジAIは推論処理を端末や現場に近い場所で行う構成を指し、軽量化は限られた計算資源でも動作できるようモデルの規模や計算量を抑える取り組みを指す。両者は別の観点の話だが、計算資源が限られた端末上でAIを動かすエッジAIを実現する手段として軽量化が用いられる関係にある」である。エッジAIは、AIの推論処理をクラウド上のサーバーではなく、データが発生する端末や現場に近い場所で行う構成・技術であり、通信にともなう遅延やデータ送信量を抑えられる。一方で軽量化は、計算資源や電力が限られた端末でも動作できるよう、モデルの規模や計算量を抑える取り組みである。推論をどこで行うかという場所の観点と、モデルの規模をどう抑えるかという設計の観点は別だが、限られた計算資源しか持たない端末上でAIを動かすエッジAIを実現するために軽量化がしばしば用いられるという関係にある。「エッジAIが計算量削減そのものを指し、軽量化がクラウドへの集約を指す」という説明は、両者の定義を入れ替えている。「開発から運用、再学習までを継続的に回す方法論」という説明はMLOpsの説明であり、エッジAIや軽量化とは異なる。「判断根拠を人間が理解できる形で示す取り組み」という説明は説明可能AI（XAI）や解釈性の話であり、場所や計算量の話ではない。
https://www.jdla.org/certificate/general/ G検定シラバス2024（第1.4版）
正解は「計算資源や電力が限られた端末でも動作できるよう、モデルの規模や計算量を抑えること」である。モデルの軽量化は、計算資源や電力が限られたスマートフォンなどの端末上でも動作できるよう、モデルの規模や計算量を抑える取り組みであり、エッジAIのように端末側で推論を完結させたい場面で必要になる。「AIの判断根拠を人間が理解しやすい形で示せるようにすること」は、解釈性や説明可能AI（XAI）が目指す目的であり、計算資源の制約に対応する軽量化の目的とは異なる。「学習に使うデータの著作権を自動的に処理すること」は知的財産権に関する話であり、モデルの計算資源や規模とは無関係である。「推論処理の結果をつねにクラウド上のサーバーへ送信し続けること」は、端末側で処理を完結させて通信を抑えたいというエッジAI・軽量化の方向性とは逆であり、目的として成り立たない。
https://www.jdla.org/certificate/general/ G検定シラバス2024（第1.4版）
正解は「解釈性はAIの判断根拠を人が理解できるという性質、説明可能AI（XAI）は機械学習モデルの予測根拠を説明する技術・研究分野、エッジAIは推論処理を端末や現場に近い場所で行う構成、軽量化は限られた計算資源でも動作できるようモデルの規模や計算量を抑える取り組みである」である。解釈性はAIが予測結果に至った過程や根拠を人間が理解できるという性質であり、説明可能AI（XAI）は機械学習モデルの予測根拠を説明するための技術・研究分野である。エッジAIは推論処理をクラウド上のサーバーではなく端末や現場に近い場所で行う構成であり、軽量化は限られた計算資源でも動作できるようモデルの規模や計算量を抑える取り組みである。4つの語をすべて開発・運用を継続的に回す方法論（MLOps）と同一視する説明、4つの語の対応を総入れ替えした説明、解釈性・説明可能AI（XAI）をクラウド側の構成に、エッジAI・軽量化を判断根拠の説明技術にすり替えた説明は、いずれも対象を取り違えている。
総務省 令和元年版情報通信白書 https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r01/html/nd113210.html （深層学習ではAIがどのような根拠で判断したかを人間が理解することが難しい点が指摘されている）／ J-STAGE『XAI(eXplainable AI)技術の研究動向』https://www.jstage.jst.go.jp/article/jssmjournal/34/1/34_20/_article/-char/ja/ （機械学習モデルの予測根拠を説明するXAI技術の研究が進んでいる） ／ エッジAI: 産総研『エッジAIとは？』https://www.aist.go.jp/aist_j/magazine/20250122.html （クラウドと通信せず近くにある装置だけでAIの動作が完結する）／ 軽量化: Hinton他『Distilling the Knowledge in a Neural Network』https://arxiv.org/abs/1503.02531 （大きなモデルは計算量が大きく多数の利用者への展開に不向きなため、知識を展開しやすい単一モデルへ圧縮する）
正解はCAM（Class Activation Mapping）である。Zhouらの論文では、最終出力層の直前で畳み込み特徴マップに全体平均プーリングを行い、その特徴を全結合層へ入力する。この構成で出力層の重みを畳み込み特徴マップへ射影し直すと画像領域の重要度が分かるため、この手法をクラス活性化マッピングと呼んでいる。得られるクラス活性化マップは、CNNがそのカテゴリを識別するために使った画像領域を示す。Grad-CAMは勾配を使う。LIMEは予測の周辺で解釈しやすいモデルを学習し、SHAPはシャープレイ値に基づいて各特徴量の重要度を割り当てる。いずれも「全体平均プーリングと出力層の重みを使う」という条件には当てはまらない。
https://arxiv.org/abs/1512.04150 （Zhou et al.『Learning Deep Features for Discriminative Localization』／JDLA公式シラバス大項目6 33.モデルの解釈性）
正解はGrad-CAM（Gradient-weighted Class Activation Mapping）。Selvarajuらの論文は、目的とする概念に対する勾配が最終畳み込み層へ流れ込む量を使い、その概念を予測するうえで重要な画像領域を強調する粗い位置特定マップを作る手法だと述べている。全結合層を持つCNN（VGGなど）にも、構造の変更や再学習なしで適用できるとされる。CAMは全体平均プーリングを含む構成を前提とするため、VGGのように全結合層を持つ既存のモデルをそのまま説明する用途には当てはめにくい。LIMEは予測の周辺で解釈しやすいモデルを学習する手法、Permutation Importanceは特徴量の値をシャッフルして性能の悪化を見る手法で、勾配や最終畳み込み層の情報は使わない。
https://arxiv.org/abs/1610.02391 （Selvaraju et al.『Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization』／JDLA公式シラバス大項目6 33.モデルの解釈性）
正解はLIME。Ribeiroらの論文は、LIMEを、あらゆる分類器の予測を、その予測の周辺で解釈可能なモデルを局所的に学習することで、解釈可能かつ忠実に説明する手法として提案している。同論文は、説明器は任意のモデルを説明でき、元のモデルをブラックボックスとして扱える（model-agnostic）ことが望ましいとし、説明には少なくとも局所的な忠実性が必要だとも述べる。Grad-CAMとCAMはCNNの畳み込み層の情報を使って画像上の重要領域を示す手法、Permutation Importanceは特徴量の値をシャッフルして性能の悪化を見る手法であり、個別の予測の周辺で別のモデルを学習する手順は持たない。
https://arxiv.org/abs/1602.04938 （Ribeiro et al.『"Why Should I Trust You?": Explaining the Predictions of Any Classifier』／JDLA公式シラバス大項目6 33.モデルの解釈性）
正解はSHAP（SHapley Additive exPlanations）。LundbergとLeeの論文は、予測を解釈する統一的な枠組みとしてSHAPを提案し、特定の予測に対して各特徴量に重要度の値を割り当てるとしている。SHAP値は元のモデルの条件付き期待値関数のシャープレイ値であり、シャープレイ値は協力ゲーム理論に由来する値である。同論文は、加法的な特徴量重要度の尺度の新しいクラスを特定し、そのクラスでは望ましい性質を満たす解が一意であることを示した。LIMEは予測の周辺で解釈しやすいモデルを学習する手法、Grad-CAMは勾配で画像領域を示す手法、Permutation Importanceは特徴量の値をシャッフルして性能の悪化を見る手法で、シャープレイ値を軸にした手法ではない。
https://arxiv.org/abs/1705.07874 （Lundberg & Lee『A Unified Approach to Interpreting Model Predictions』／JDLA公式シラバス大項目6 33.モデルの解釈性）
正解はPermutation Importance（特徴量の値を並べ替えて精度の低下を見る手法）である。scikit-learn公式ドキュメントは、Permutation feature importanceを、表形式データ上で学習済みモデルの統計的性能への各特徴量の寄与を測る検査手法とし、非線形または不透明な推定器に特に有用で、1つの特徴量の値をランダムにシャッフルしてモデルのスコアの悪化を観察する手法だと説明している。特徴量と目的変数の関係を壊すことで、モデルがその特徴量にどれだけ依存しているかが分かる。Breimanのランダムフォレストの論文にも、out-of-bagデータ内のm番目の変数の値をランダムに並べ替えて誤分類率の増加を見る手順が示されている。CAMとGrad-CAMは画像のCNNで重要領域を示す手法、SHAPはシャープレイ値に基づいて特徴量ごとの寄与を割り当てる手法である。
https://scikit-learn.org/stable/modules/permutation_importance.html （scikit-learn公式ドキュメント／Breiman『Random Forests』／JDLA公式シラバス大項目6 33.モデルの解釈性）
正解は「CAMは全体平均プーリングを含む構成を前提に出力層の重みを使う。Grad-CAMは勾配を使い、CAMの一般化として全結合層を持つCNNにも構造変更や再学習なしで適用できる」という説明である。Zhouらは、最終出力層の直前に全体平均プーリングを置く構成で、出力層の重みを畳み込み特徴マップへ射影し直す手法をCAMと呼んだ。Selvarajuらが提案したGrad-CAMは、目的の概念に対する勾配が最終畳み込み層へ流れ込む量を使う。VGGのように全結合層を持つCNNなど、幅広いモデルへ構造変更や再学習なしで適用でき、CAMの一般化と位置づけられている。他の選択肢が挙げるシャッフル、局所モデルの学習、シャープレイ値は、それぞれPermutation Importance、LIME、SHAPの説明である。
https://arxiv.org/abs/1610.02391 （Selvaraju et al.『Grad-CAM』／Zhou et al.『Learning Deep Features for Discriminative Localization』https://arxiv.org/abs/1512.04150 ／JDLA公式シラバス大項目6 33.モデルの解釈性）
正解は「GとDを同時に訓練し、Gの訓練手順はDが間違える確率を最大化することである」である。GANの原論文（arXiv:1406.2661）の抄録は、データ分布を捉える生成モデルGと、標本がGではなく訓練データから来た確率を推定する識別モデルDを同時に訓練すると述べる。Gの訓練手順はDが間違える確率を最大化することで、この枠組みは2人のプレイヤーによるミニマックスゲームに対応すると述べる。確率を推定するのはDであり、標本を生成するのはGである。また同抄録は、訓練でも標本生成でもマルコフ連鎖や展開した近似推論ネットワークは不要だと述べる。
https://arxiv.org/abs/1406.2661／G検定シラバス2024（大項目6 ディープラーニングの応用例）
正解は「ラベルなしテキストから、すべての層で左右両方の文脈を同時に条件づけて深い双方向の表現を事前学習する」である。BERTの原論文（arXiv:1810.04805）の抄録は、BERTをBidirectional Encoder Representations from Transformersの略とし、ラベルなしテキストから、すべての層で左右両方の文脈を同時に条件づけて深い双方向の表現を事前学習するよう設計されていると述べる。その結果、事前学習済みBERTは出力層を1つ追加するだけで、質問応答や言語推論など幅広いタスクのモデルを、タスク固有のアーキテクチャの大幅な変更なしに作れると述べる。一方向の文脈だけを使う設計は、抄録が対比している従来のモデルに当たる。
https://arxiv.org/abs/1810.04805／G検定シラバス2024（大項目6 ディープラーニングの応用例）
正解は「画像分類でも畳み込みネットワークへの依存は必要なく、画像パッチの系列へ直接適用した純粋なTransformerで非常に良い性能を出せる」である。ViTの原論文（arXiv:2010.11929）の抄録は、Transformerが自然言語処理の事実上の標準になった一方で、画像では注意機構が畳み込みネットワークと併用されるか、その一部の部品の置き換えに使われてきたと述べる。そのうえで、CNNへの依存は必要なく、画像パッチの系列へ直接適用した純粋なTransformerが画像分類で非常に良い性能を出せると示す。大量のデータで事前学習して中小規模のベンチマークへ転移すると、最先端の畳み込みネットワークと比べて優れた結果を、学習に必要な計算資源を大幅に減らして達成すると述べる。
https://arxiv.org/abs/2010.11929／G検定シラバス2024（大項目6 ディープラーニングの応用例）
正解は「文脈を捉える収縮パスと、精密な位置特定を可能にする対称的な拡張パスから成る」である。U-Netの原論文（arXiv:1505.04597、題名は『U-Net: Convolutional Networks for Biomedical Image Segmentation』）の抄録は、データ拡張を強く活用して限られた注釈付き標本を効率的に使うネットワークと学習戦略を示すと述べる。構成は、文脈を捉える収縮パス（contracting path）と、精密な位置特定を可能にする対称的な拡張パス（expanding path）から成り、ごく少数の画像からエンド・ツー・エンドで学習できる。電子顕微鏡画像の神経構造のセグメンテーションを競うISBIチャレンジで、従来最良のスライディングウィンドウ型の畳み込みネットワークを上回ったと述べる。
https://arxiv.org/abs/1505.04597／G検定シラバス2024（大項目6 ディープラーニングの応用例）
正解は「空間的に分離された境界ボックスとクラス確率への回帰問題として捉え、1つのネットワークで直接予測する」である。YOLOの原論文（arXiv:1506.02640、題名は『You Only Look Once: Unified, Real-Time Object Detection』）の抄録は、従来の物体検出は分類器を検出に転用していたのに対し、YOLOは物体検出を、空間的に分離された境界ボックスと対応するクラス確率への回帰問題として捉え直すと述べる。1つのニューラルネットワークが画像全体から1回の評価で境界ボックスとクラス確率を直接予測し、検出パイプライン全体が単一のネットワークなので、検出性能に対してエンド・ツー・エンドで最適化できる。基本のYOLOは毎秒45フレームでリアルタイムに処理すると述べる。
https://arxiv.org/abs/1506.02640／G検定シラバス2024（大項目6 ディープラーニングの応用例）
正解は「入力は生のピクセル、出力は将来の報酬を推定する価値関数で、Q学習の変種で訓練される畳み込みニューラルネットワーク」である。原論文（arXiv:1312.5602、題名は『Playing Atari with Deep Reinforcement Learning』）の抄録は、強化学習を用いて高次元の感覚入力から直接制御方策を学習することに成功した最初の深層学習モデルを示すと述べる。モデルは畳み込みニューラルネットワークで、入力は生のピクセル、出力は将来の報酬を推定する価値関数である。アーキテクチャも学習アルゴリズムも調整せずに7つのAtari 2600ゲームへ適用し、6つで過去のすべての手法を上回り、3つで人間の専門家を上回ったと述べる。
https://arxiv.org/abs/1312.5602／G検定シラバス2024（大項目6 ディープラーニングの応用例）
正解は「非常に大規模なデータセットから単語の連続ベクトル表現を計算する2つの新しいモデルを提案し、従来手法より大幅に低い計算コストで精度が向上した」である。word2vecの原論文（arXiv:1301.3781）の抄録は、非常に大規模なデータセットから単語の連続ベクトル表現を計算するための2つの新しいモデルアーキテクチャを提案すると述べる。表現の質は単語類似度のタスクで測り、異なる種類のニューラルネットワークに基づく従来の最良手法と比べて、はるかに低い計算コストで精度が大きく向上した。16億語のデータセットから高品質な単語ベクトルを学習するのに1日かからず、構文的・意味的な単語の類似性を測るテストセットで最先端の性能を示したと述べる。
https://arxiv.org/abs/1301.3781／G検定シラバス2024（大項目6 ディープラーニングの応用例）
正解は「多層のLSTMで入力系列を固定次元のベクトルに写像し、別の深いLSTMでそのベクトルから目的系列を復号する」である。Seq2Seqの原論文（arXiv:1409.3215）の抄録は、深層ニューラルネットワークは系列から系列への写像には使えないと指摘したうえで、系列の構造に最小限の仮定しか置かない汎用のエンド・ツー・エンド手法を示すと述べる。手法は、多層のLSTMで入力系列を固定次元のベクトルに写像し、別の深いLSTMでそのベクトルから目的系列を復号するものである。WMT'14の英仏翻訳でBLEUスコア34.8を達成し、比較したフレーズベースSMTの33.3を上回った。さらに原文（訳文は除く）の単語順を逆にすると、原文と訳文の間に短期の依存関係が多く生まれて最適化が容易になり、性能が大きく向上したと述べる。
https://arxiv.org/abs/1409.3215／G検定シラバス2024（大項目6 ディープラーニングの応用例）
正解は「生の音声波形を生成するモデルで、各音声サンプルの予測分布がそれ以前のすべてのサンプルに条件づけられる、完全に確率的で自己回帰的なモデルである」である。WaveNetの原論文（arXiv:1609.03499）の抄録は、WaveNetを生の音声波形を生成する深層ニューラルネットワークと紹介する。モデルは完全に確率的で自己回帰的であり、各音声サンプルの予測分布はそれ以前のすべてのサンプルに条件づけられる。音声合成に適用すると、英語と中国語の両方で、人間の聴取者が最良のパラメトリック方式・連結方式のシステムより有意に自然だと評価した。話者のIDで条件づければ1つのWaveNetで多数の話者を切り替えられ、音楽を学習させると新しく写実的な音楽の断片を生成し、識別モデルとして音素認識にも使えると述べる。
https://arxiv.org/abs/1609.03499／G検定シラバス2024（大項目6 ディープラーニングの応用例）