生成AIの技術の基礎
埋め込み(Embedding)とは(ベクトルと意味の近さ)
埋め込み(Embedding)は、2027年2月試験から適用される生成AIパスポートの公式シラバスで、第2章の「埋め込みとベクトル表現」と第3章のRAGの両方に詳細キーワードとして載る用語です。埋め込みは、文字列の関連の強さを測れるようにするために、文字列を数値のベクトルで表したものです。
このページは、公式シラバスとOpenAIの公式文書の範囲で、ベクトルと距離の考え方、トークン化との違い、RAGでの使われ方、出る章を整理しています。
公式情報の確認
試験日、料金、申込条件、試験方式など変動する情報は、公式情報を最終確認してください。 当サイトの一次情報確認日: 2026-08-31。
試験の出題範囲・実施要項は変動するため、受験前に公式情報を確認してください。
結論
- 埋め込みは、文字列を浮動小数点数のリスト(ベクトル)に変えたもの
- 2つのベクトルの距離が小さいほど関連性が高く、大きいほど低い
- トークン化は文章を区切る前処理、埋め込みは関連をベクトルで表すもの、と段階で区別する
- RAGでは、文書を埋め込み(ベクトル化)して検索し、意味の近い情報を探す
- 用途は検索・クラスタリング・レコメンデーション・分類などで、文章の生成そのものではない
埋め込みとは
OpenAIの公式文書は、テキストの埋め込みを、文字列どうしの関連の強さ(relatedness)を測るものと説明しています。埋め込みそのものは、浮動小数点数のベクトル(リスト)です。「文字列を、関連を計算できる数値の並びにしたもの」と覚えると、選択肢を切り分けやすくなります。
同公式文書は、埋め込みの主な用途として次の4つを挙げています(ほかに異常検知、多様性の測定もあります)。
| 用途 | 埋め込みで何をするか |
|---|---|
| 検索 | クエリの文字列との関連の強さで結果を並べる |
| クラスタリング | 似ている文字列どうしをグループにまとめる |
| レコメンデーション | 関連する文字列を持つ項目をすすめる |
| 分類 | いちばん近いラベルの文字列に割り当てる |
言葉をベクトルにする考え方そのものは古くからあります。2013年のMikolovらの論文は、大規模なデータから単語の連続的なベクトル表現を計算する2つのモデル構造を提案し、その品質を単語の類似度のタスクで測っています。
一次資料: OpenAI「Vector embeddings」、Mikolov et al.「Efficient Estimation of Word Representations in Vector Space」(arXiv 1301.3781)
距離で関連性を測る仕組み
OpenAIの公式文書は、2つのベクトルの距離が関連性を測るものさしだと説明します。距離が小さいほど関連性が高く、距離が大きいほど関連性が低いことを示します。「近い=意味が似ている、遠い=意味が離れている」が、距離の読み方です。
この性質のおかげで、キーワードが一字も一致しない文章でも、意味が近ければ見つけられます。これが、シラバスの第3章に載る意味的検索(セマンティック検索)の土台です。
ベクトルの長さ(次元数)は、モデルによって決まります。同公式文書によると、既定の長さはtext-embedding-3-smallが1536、text-embedding-3-largeが3072です。長い埋め込みほど保存や検索に費用・計算量・メモリがかかるため、dimensionsパラメータで短くして費用とのバランスをとれます。これは特定のモデルの仕様で、試験で数値を覚える必要があるという意味ではありません。
一次資料: OpenAI「Vector embeddings」
トークン化との違い
シラバスの同じ学習単元には、トークン化、サブワード、埋め込み、ベクトルが順に並んでいます。名前が近いので取り違えやすい2つを、段階で分けて整理します。
| 段階 | 何をするか | 得られるもの |
|---|---|---|
| トークン化 | 文章をトークン(サブワードなど)に区切る前処理 | 区切られたトークンの並び |
| 埋め込み | 文字列の意味や関連の強さを、数値の並びで表す | ベクトル(浮動小数点数のリスト) |
OpenAIの公式文書は、埋め込みの利用料金を、入力に含まれるトークンの数で計算すると説明しています。トークンは入力の単位、埋め込みは関連を表すベクトル、と役割が違います。設問で「文章を区切る」とあればトークン化、「意味の近さを距離で測る」とあれば埋め込み、と手掛かり語で切り分けます。トークンとコンテキストウィンドウの違いは、トークンとコンテキストウィンドウの違いで比べています。
RAGでの使われ方
Microsoft Learnの説明では、RAGは、独自のコンテンツに応答を接地(grounding)させてLLMの能力を拡張するパターンです。検索の準備の段階で、大きな文書をチャンク(かたまり)に分け、埋め込みを作るベクトル化を行います。検索の段階では、キーワード検索とベクトル検索を組み合わせたハイブリッド検索も使われます。RAGでは、「文書を埋め込みにしておき、質問と意味の近いかたまりを探す」のが埋め込みの役割です。
シラバスのRAGの項目には、埋め込み(Embedding)とベクトルデータベースが並んでいます。RAG全体の仕組みと、ハルシネーションを減らす考え方はRAG(検索拡張生成)とはにまとめています。
一次資料: Microsoft Learn「Retrieval-augmented generation (RAG) in Azure AI Search」
シラバスのどこに出るか
2027年2月試験から適用される公式シラバスでは、次の2か所に埋め込み(Embedding)が載っています。
| 場所 | 内容 |
|---|---|
| 第2章 中項目「生成AIの生成(推論)プロセス」の学習項目「埋め込みとベクトル表現」 | 詳細キーワードにトークン化、サブワード、埋め込み(Embedding)、ベクトル、確率分布、ハルシネーション、RAGなどが並ぶ |
| 第3章 中項目「RAG(検索拡張生成)」 | 詳細キーワードに埋め込み(Embedding)、ベクトルデータベース、意味的検索(セマンティック検索)が載る |
第2章は「文字列をベクトルにする」基礎として、第3章は「RAGで意味の近い情報を探す」道具として読みます。章立ての変更は2027年2月試験の新シラバスに整理しています。試験での出題を予想するものではありません。
よくある質問
埋め込み(Embedding)とは、一言でいうと何ですか?
文字列の関連の強さを測れるようにするために、文字列を数値の並び(ベクトル)に変えたものです。OpenAIの公式文書は、埋め込みを浮動小数点数のベクトル(リスト)と説明し、2つのベクトルの距離で関連の強さを測るとしています。
ベクトルの距離が小さいと、何が分かりますか?
OpenAIの公式文書は、距離が小さいほど関連性が高く、距離が大きいほど関連性が低いことを示すと説明しています。キーワードが一致しなくても、意味の近い文章を探すセマンティック検索の土台になります。
埋め込みとトークン化は同じものですか?
同じではありません。トークン化は文章を区切る前処理で、埋め込みは文字列の関連を数値のベクトルで表したものです。シラバスは、トークン化とサブワードに続けて、埋め込み(Embedding)とベクトルを並べています。
埋め込みは文章を生成するための仕組みですか?
OpenAIの公式文書は、埋め込みが測るのは文字列の関連の強さで、用途は検索、クラスタリング、レコメンデーション、異常検知、多様性の測定、分類だと説明しています。文章を生成する仕組みそのものとは区別して覚えます。
ベクトルの長さ(次元数)は、大きいほど良いのですか?
一概には言えません。OpenAIの公式文書は、大きい埋め込みは保存や検索で費用・計算量・メモリが多くかかるとして、dimensionsパラメータで短くして性能と費用のバランスをとれると説明しています。既定の長さはtext-embedding-3-smallが1536、text-embedding-3-largeが3072です。数値は特定のモデルの仕様で、他社サービスとは限りません。
生成AIパスポートの学習に使う書籍(Amazon)
試験範囲を通して読むときの1冊です。読んだ章は、このサイトの章別問題で確かめられます。
