AI資格ドリル
資格を選ぶ

用語比較

Top-kとTop-pの違い|候補を個数で切るか、確率の累積で切るか(生成AI・サンプリング)

Top-kは、次の単語の候補を確率の高い順に並べて、上位k個だけを残す設定です。Top-pは、確率を高い順に足していき、合計がp以上になるまでの候補だけを残す設定です。

違いは、残る候補の数が固定かどうかです。Top-kは常にk個、Top-pは確率の偏りに応じて数が変わります。

この記事の根拠と出典

各セクションの見出しの下に、公式資料で確認した内容か編集部の整理かをラベルで示しています。 試験日・料金・申込条件・試験方式は変わることがあるため、申込前に公式サイトで確認してください。

Top-kとTop-pの要点

Top-k

確率の高い順に上位k個の候補だけを残す。Hugging Faceの公式文書では、確率の最も高い語彙トークンをいくつ残すかを整数で指定する。

Top-p

確率を高い順に足し、合計がp以上になる最小の集まりだけを残す。生成AIパスポートのシラバスにはこちらが挙がる。nucleus samplingとも呼ばれる。

違いを表で確認

比較軸Top-kTop-p
候補を切る基準Top-k:順位(上位から何個か)Top-p:確率の累積(合計がいくつに達するか)
残る候補の数Top-k:いつもk個(数字が決まっている)Top-p:場面で変わる。1つが突出していれば少なく、似た確率が並べば多い
値の意味Top-k:個数の整数(Hugging Faceの既定値は50)Top-p:0から1の割合(Hugging Faceの既定値は1.0で、実質的に絞らない)
確率の低い候補の残り方Top-k:突出した1つがあっても、k個になるまで低い確率の候補が残るTop-p:突出した1つで合計がpに達すれば、他は残らない
試験での手掛かりTop-k:「上位k個」「順位で絞る」Top-p:「確率の累積」「一定の割合に達するまで」「nucleus sampling」

どこで迷っているかを切り分ける

01

Top-pの「p」を個数だと思っていた人

pは個数ではなく、確率を足した合計の割合です。個数で絞るのはTop-kなので、2つを並べて覚えると取り違えにくくなります。

02

設定画面にTop-kの欄だけがあるツールを使う人

Top-kのkは候補の個数です。値を小さくするほど候補が減り、出力は決まりやすくなります。他社のサービスに同じ欄があるとは限らないので、使うサービスの説明を確認します。

03

Temperatureとの違いで止まっている人

Temperatureは出力全体のばらつきを動かす設定、Top-kとTop-pは選ぶ候補の範囲を切る設定です。比べ方はTemperatureとTop-pの記事にまとめています。

具体例で使い分ける

例 1

確率がなだらかに散らばっている場合(架空の確率)

次の単語の候補が、確率の高い順にA(40%)、B(25%)、C(15%)、D(10%)、E(6%)、F(4%)だったとします。

  • Top-kを3にすると、A・B・Cの3個が残ります。
  • Top-pを0.8にすると、足した合計はAで40%、Bまでで65%、Cまでで80%。Cで0.8に達するので、残るのはA・B・Cの3個で、Top-k=3と同じ結果です。
  • Top-pを0.9にすると、Cまでで80%、Dまでで90%なので、A〜Dの4個が残ります。

結論: 確率がなだらかなときは、kとpの組み合わせ次第で同じ候補が残ることがあります。pを上げると、残る数は増えます。

例 2

1つの候補が突出している場合(架空の確率)

候補が、A(90%)、B(5%)、C(3%)、D(1%)、E(1%)だったとします。

  • Top-kを3にすると、A・B・Cの3個が残ります。BとCは確率が低いのに残ります。
  • Top-pを0.9にすると、Aだけで90%に達するので、残るのはAの1個です。
  • Top-pを0.95にすると、AとBで95%に達するので、A・Bの2個になります。

結論: 突出した候補があるとき、Top-kは低い確率の候補も個数分は残し、Top-pは必要な分だけに絞ります。これがTop-pで残る数が変わる、という意味です。

例 3

同じ確率の候補が並んでいる場合(架空の確率)

10個の候補がどれも10%だったとします。

  • Top-kを3にすると、3個が残ります。
  • Top-pを0.8にすると、8個で合計80%に達するので、8個が残ります。

結論: 確率の差がない場面では、Top-pは多くの候補を残し、Top-kは個数が固定のまま少ない候補に絞ります。

問題文から答えを選ぶ手順

  1. 1

    絞る基準を読む

    「上位○個」「順位」なら個数で切るTop-k、「確率の合計」「累積」なら割合で切るTop-pです。

  2. 2

    残る候補の数が固定かを見る

    数が固定ならTop-k。確率の偏りで数が変わるならTop-pです。

  3. 3

    値の種類を確認する

    整数ならTop-kの個数、0から1の小数ならTop-pの割合を指す場合が多いです。ただし表記はサービスごとなので、説明文で確かめます。

  4. 4

    試験の範囲を確認する

    生成AIパスポートのシラバスの項目名に挙がるのはTemperatureとTop-pです。Top-kは補足として、Top-pとの対比で押さえます。

試験での見分け方

  • 1Top-kは確率の高い上位k個を残す。残る数は常にk個。
  • 2Top-pは確率を高い順に足し、合計がp以上になる最小の集まりを残す。残る数は変わる。
  • 3pは個数ではなく、確率の合計の割合。
  • 41つが突出して確率が高い場面では、Top-pは少数に絞り、Top-kは個数分を残す。
  • 5Top-pはnucleus samplingとも呼ばれる。

誤答しやすい選択肢

Top-pのpを、残す個数だと考える

修正: pは確率の合計の割合です。0.9なら、確率を高い順に足して90%以上になるまでの候補が残ります。

Top-kとTop-pは、いつも同じ候補を残すと考える

修正: 確率がなだらかな場面で、たまたま同じになることはあります。突出した1つがある場面では、Top-kは3個、Top-pは1個、のように分かれます。

Top-kの値を小さくすると、内容が正確になると考える

修正: 候補が減って出力が決まりやすくなるだけで、内容が事実かどうかは別です。重要な内容は人が確認します。

確認問題

Q1確率の高い順に上位k個の候補だけを残す設定は?

答え: Top-k

順位(個数)で候補を切る設定です。残る数は常にkです。

Q2確率を高い順に足し、合計が一定の割合に達するまでの候補を残す設定は?

答え: Top-p

確率の累積で切る設定で、nucleus samplingとも呼ばれます。残る数は場面で変わります。

Q3候補の確率が A=90%、B=5%、C=3%、D=1%、E=1% のとき、Top-p=0.9で残る候補は?(数字は説明用)

答え: Aの1個

Aだけで90%に達するので、他の候補は残りません。

Q4上の問と同じ候補の確率(A=90%、B=5%、C=3%、D=1%、E=1%)で、Top-k=3にすると残る候補は何個?(数字は説明用)

答え: 3個

Top-kは確率の偏りに関係なく、上位k個を残します。

到達チェック

  • Top-kを上位k個、Top-pを確率の累積で切る設定として説明できる
  • Top-pのpが個数ではなく割合だと分かる
  • 突出した候補があるとき、2つの残り方が違うと数値例で説明できる
  • シラバスの項目名に挙がるのはTemperatureとTop-pだと分かる

同じ資格で次に知りたいこと

よくある質問

QTop-kとTop-pは何が違う?

A

Top-kは確率の高い上位k個を残し、Top-pは確率を高い順に足して合計がp以上になるまでの候補を残します。Top-kは残る数が固定、Top-pは場面で変わります。

QTop-kの既定値は?

A

Hugging Face Transformersの生成設定では、設定が無ければtop_kの既定値は50、top_pの既定値は1.0です。他のサービスでは異なることがあるので、使うサービスの説明を確認してください。

Q生成AIパスポートにTop-kは出る?

A

公式シラバスの項目名に挙がるのはTemperatureとTop-pです。Top-kはTop-pを個数で絞る設定と取り違えないための対比として読んでください。

次に見る比較

執筆: AI資格ドリル編集部(運営者情報を見る)