word2vecとは

word2vecの意味と見分け方

word2vecは、G検定の「大項目6 ディープラーニングの応用例」に出てくる用語です。見分けの要点は、word2vecは、単語ごとに1つのベクトルを割り当てる静的な分散表現の手法です。ELMoやBERTは文脈に応じて同じ単語でも異なる表現を得られる点が違います。自然言語処理は手法ではなく分野の名称で、word2vecはその中で単語の表現を作る道具にあたります。

比較記事でさらに確認する

word2vecの具体例と、問題文で見る箇所・隣接概念との境界

word2vecを、単語をベクトルで表し、足し引きで関係を表せる静的な分散表現の手法として捉える

word2vecの原論文（Mikolovほか、2013年）は、周辺の語から現在の語を予測するCBOWと、現在の語から周辺の語を予測するSkip-gramの2つのモデルを示しました。学習した単語ベクトルは足し引きができ、vector(King)-vector(Man)+vector(Woman)がQueenのベクトルに最も近くなる例が挙げられています。

問題文で見る箇所

「単語を固定長のベクトルに変換する」「ベクトルの加減算で単語の関係を表す」という記述があればword2vecを候補にします。同じ単語でも前後の文脈で表現が変わる話ならELMoやBERT、文や文章の翻訳の話ならSeq2Seqを選びます。

隣接概念との境界

word2vecは、単語ごとに1つのベクトルを割り当てる静的な分散表現の手法です。ELMoやBERTは文脈に応じて同じ単語でも異なる表現を得られる点が違います。自然言語処理は手法ではなく分野の名称で、word2vecはその中で単語の表現を作る道具にあたります。

誤答しやすい選択肢

• 文脈によって同じ単語のベクトルが変わる手法の説明を、word2vecの特徴として選ぶ。それはELMoやBERTの特徴で、word2vecは単語ごとに1つのベクトルである。
• word2vecを、人間の言葉を処理する技術分野の名称として扱う。分野の名称は自然言語処理で、word2vecは単語をベクトルにする手法である。
• CBOWとSkip-gramの予測の向きを取り違える。CBOWは周辺の語から現在の語を、Skip-gramは現在の語から周辺の語を予測する。

4段階の判断手順

1. 01設問が、単語の表し方（ベクトル化）を問うているか、分野全体を問うているかを先に分ける。
2. 02単語ごとの固定のベクトルや、加減算で関係を表す話があれば、word2vecを候補にする。
3. 03文脈で表現が変わる話が出てきたら、ELMoやBERTへ候補を移す。

到達条件: word2vecを単語を固定のベクトルで表す手法として、文脈を考慮するELMo・BERT、分野名である自然言語処理と区別して説明できる。

試験での問われ方

誤答しやすいポイント

「大項目6 ディープラーニングの応用例」の問題で、取り違えやすい組み合わせです。

• 物体検出（R-CNN系/YOLO/SSD）とセグメンテーション（セマンティック＝画素単位の塗り分け、インスタンス＝個体ごとに区別）の混同。
• word2vec・BERT・GPTの違い（BERT＝前後両方向、GPT＝一方向・自己回帰）。
• 強化学習の応用（DQN、AlphaGo）と画像/言語タスクの取り違え。

関連する確認問題

同じ章で確認したい用語