用語比較
CBOWとSkip-gramの違い|word2vecの2つのモデル(G検定)
CBOWとSkip-gramは、どちらもword2vecの原論文が示した単語ベクトルの学習モデルです。違いは予測の向きにあり、CBOWは周辺の語から中心の語を、Skip-gramは中心の語から周辺の語を予測します。
G検定では、2つのモデル名と予測の向きを結び付ける設問が中心です。周辺の語から中心の語を予測するのがCBOW、中心の語から周辺の語を予測するのがSkip-gramと最初に切り分けます。
このページでは、予測の向き、計算量の式、原論文の比較表の3つの軸で比較します。word2vecとBERTの違いは別ページで扱っているため、ここではword2vecの内側の2モデルに絞ります。
この記事の目次
この記事の根拠と出典
各セクションの見出しの下に、公式資料で確認した内容か編集部の整理かをラベルで示しています。 試験日・料金・申込条件・試験方式は変わることがあるため、申込前に公式サイトで確認してください。G検定の一次情報確認日: 2026-10-02。
結論
CBOW
周辺の語(原論文の実験では前後4語ずつ)から、中心の現在の語を予測する。入力側の文脈は連続の分散表現で扱う。
Skip-gram
現在の語を入力にして、その前後の一定範囲内の語を予測する。原論文の実験では最大距離Cを10とした。
違いを表で確認
| 比較軸 | CBOW | Skip-gram |
|---|---|---|
| 予測の向き | 周辺の語から中心の語を予測する | 中心の語から周辺の語を予測する |
| 入力と出力 | 入力は周辺の語、出力は現在の語 | 入力は現在の語、出力は前後の範囲内の語 |
| 1語あたりの計算量の式 | Q = N × D + D × log2(V) | Q = C × (D + D × log2(V)) |
| 原論文の比較表の意味の正確さ | 24% | 55% |
| 原論文の比較表の文法の正確さ | 64% | 59% |
G検定の学習に使う書籍(Amazon)
試験範囲を通して読むときの1冊です。読んだ章は、このサイトの章別問題で確かめられます。
どこで迷っているかを切り分ける
向きを取り違える人
CBOWは周辺の語を足し合わせて中心の語を当てます。名前の由来は、周辺の語の集まり(bag of words)を連続の表現で扱うことです。
word2vecとBERTを混ぜる人
CBOWとSkip-gramはどちらもword2vecの中の2モデルです。BERTとの違いは、word2vecとBERTを比べるページで確認します。
どちらが優れているかを一言で答えたい人
原論文の比較表では、意味の問題はSkip-gram、文法の問題はCBOWが上回りました。常にどちらかが優れているとは言えません。
具体例で使い分ける
例 1
文「猫が魚を食べた」の「魚」を学習するとき
「魚」を中心の語、前後の語を周辺の語として、2つのモデルが何を予測するかを比べます。
- CBOWは、「猫」「が」「を」「食べた」から「魚」を予測します。
- Skip-gramは、「魚」から「猫」「が」「を」「食べた」を予測します。
結論: 周辺から中心を当てるのがCBOW、中心から周辺を当てるのがSkip-gramです。
例 2
選択肢に「現在の語から周辺の語を予測する」とあるとき
設問の説明文に、予測の向きが書かれている場合です。
- 現在の語を入力にする記述は、Skip-gramの特徴です。
- 周辺の語を入力にして現在の語を当てる記述は、CBOWの特徴です。
結論: 入力が現在の語ならSkip-gram、入力が周辺の語ならCBOWと答えます。
例 3
比較表の数値を問われたとき
原論文の同じデータ・640次元のベクトルでの比較を問われた場合です。
- 意味の正確さはCBOWが24%、Skip-gramが55%でした。
- 文法の正確さはCBOWが64%、Skip-gramが59%でした。
- 論文は、Skip-gramは文法の課題でCBOWよりやや劣るが、意味の課題では他のモデルよりはるかに良いと述べます。
結論: 意味の課題ではSkip-gram、文法の課題ではCBOWが上回ったと答えます。
問題文から答えを選ぶ手順
- 1
2つがword2vecの内側だと確認する
どちらもMikolovらの論文が提案したモデルで、単語ベクトルを学習します。
- 2
入力を見る
入力が周辺の語ならCBOW、入力が現在の語ならSkip-gramです。
- 3
出力を確かめる
出力が現在の語ならCBOW、周辺の語ならSkip-gramです。
- 4
優劣の言い過ぎに注意する
比較表では課題の種類によって上回るモデルが入れ替わります。どちらかが常に優れるという選択肢は誤りです。
試験での見分け方
- 1周辺の語から現在の語を予測するのはCBOW。
- 2現在の語から周辺の語を予測するのはSkip-gram。
- 3どちらもword2vecの原論文(2013年)で示された2つのモデル。
- 4原論文の比較表では、意味の課題はSkip-gram、文法の課題はCBOWが上回った。
誤答しやすい選択肢
予測の向きを逆に覚える
修正: CBOWは周辺から中心、Skip-gramは中心から周辺です。Skip-gramは中心の語から周りの語を飛び飛びに予測する、と結び付けます。
どちらかが常に精度で上回ると考える
修正: 原論文の比較表では、意味の課題はSkip-gramが55%でCBOWの24%を上回り、文法の課題はCBOWが64%でSkip-gramの59%を上回りました。
CBOWとSkip-gramをBERTの仕組みと考える
修正: 2つはword2vecのモデルです。BERTは左右の文脈を使う別の事前学習モデルです。
どちらも文脈で表現が変わると考える
修正: word2vecは語ごとに1つの単語ベクトルを学びます。文脈で表現が変わる点は、BERTなどとの違いです。
確認問題
Q1周辺の語から現在の語を予測するword2vecのモデルはどちらですか?
答え: CBOW
原論文は、CBOWは文脈に基づいて現在の語を予測すると述べています。
Q2現在の語から周辺の語を予測するword2vecのモデルはどちらですか?
答え: Skip-gram
原論文は、Skip-gramは現在の語の前後の一定範囲の語を予測すると述べています。
Q3原論文の比較表で、意味の課題の正確さが高かったのはどちらですか?
答え: Skip-gram(55%。CBOWは24%)
文法の課題ではCBOWが64%、Skip-gramが59%で、順位が入れ替わります。
到達チェック
- CBOWとSkip-gramがどちらもword2vecのモデルだと言える
- 予測の向きの違いを説明できる
- 原論文の比較表で、意味と文法のどちらでどちらが上回ったか答えられる
- どちらかが常に優れるという選択肢を誤りと判断できる
関連ページで確認する
同じ資格で次に知りたいこと
- セマンティックセグメンテーションとインスタンスセグメンテーションの違い
セマンティックセグメンテーションとインスタンスセグメンテーションの違いを、画素への割り当て方、同じクラスの物体の扱い、代表的なモデル、G検定での判断手順、確認問題まで解説します。
- ソフトマックス関数とシグモイド関数の違い|多クラス分類と二値分類(G検定)
ソフトマックス関数とシグモイド関数の違いを、式、出力の合計、2要素のソフトマックスとの関係、出力層での使い分け、G検定での判断手順と確認問題まで解説します。
- グリッドサーチとランダムサーチの違い
グリッドサーチとランダムサーチの違いを、候補の選び方、試行回数、重要なハイパーパラメータの探し方、G検定での判断手順、計算例と確認問題まで解説します。
よくある質問
QCBOWとSkip-gramの最大の違いは何ですか?
予測の向きです。CBOWは周辺の語から現在の語を、Skip-gramは現在の語から周辺の語を予測します。
Qどちらもword2vecのモデルですか?
はい。2013年のMikolovらの論文が、単語の連続ベクトル表現を計算する2つのモデルとして示しました。
QCBOWの名前の由来は何ですか?
論文は、標準のbag-of-wordsモデルと違い、文脈を連続の分散表現で扱うことからCBOWと呼ぶと述べています。
Q原論文の比較表の数値はいくつですか?
640次元の同じデータでの比較で、意味の正確さはCBOWが24%、Skip-gramが55%、文法の正確さはCBOWが64%、Skip-gramが59%です。
次に見る比較
- G検定・DS検定・統計検定2級で重なる用語10語の比較
同じ名前の用語の定義と収録章を、資格ごとに並べます。
- ベイズの定理と条件付き確率の違い(統計検定2級の式と計算例)
求める確率の向きの違いと、陽性になる確率の計算例を確かめます。
- 紛らわしい用語ペア早見表
混同しやすい用語の違いと判定の手掛かりを、資格別の一覧で確かめます。
執筆: ミナト編集部(運営者情報を見る)
