LLM

LLMとは、Large Language Modelの略で、大規模言語モデルを意味します。大量のテキストを使って学習し、多数のパラメーターを持つ言語モデルです。パラメーターは、学習によって調整されるモデル内部の値です。文章の中のトークンの関係を扱い、文章生成や要約・翻訳などに利用されます。[1][2]

この言葉はモデルの種類を表します。特定の対話サービスの名前や、Web検索機能そのものの名前ではありません。モデルが文章を処理する働きと、そのモデルを使ったサービスが提供する機能を分けると理解しやすくなります。[3]

Googleの入門資料は、言語モデルを、トークンやトークン列が文章の中に現れる確率を見積もるモデルとして説明しています。トークンは必ずしも一つの単語と同じではなく、単語の一部や一文字などになる場合があります。前後の情報である文脈は、予測する内容の手がかりになります。[1]

文章生成では、入力された内容や、それまでに生成された文章を手がかりに、続きとなるトークンを生成します。Googleの資料は、decoder-onlyの構成が、すでにあるテキストから新しいトークンを作り、会話履歴などの続きを生成することを説明しています。[2]

たとえば、「この案内文を短くしてください」と文章を渡す場合、指示と元の文章が、出力を作る際の手がかりになります。同じ短縮の指示でも、何を残してほしいかを入力で示すと、確認したい条件を明確にできます。これは入力と文脈の関係を理解するための例です。

学習では、データに含まれるパターンを取り込むために、モデルのパラメーターが更新されます。一方、利用時には、学習済みのモデルに質問や文脈を渡して出力を得ます。NISTは、モデルの学習段階と、運用時の推論・入力の段階を区別して説明しています。[2][3]

利用時の文脈には、アプリケーション側で取得した資料が含まれることもあります。NISTはRAGなどで、外部文書やWebページからの情報を、問い合わせに応じて実行時の文脈へ入れる構成を説明しています。モデルの学習済み知識と、その回答のために追加された情報は、確認の対象が違います。[3]

Googleの現行入門資料は、TransformerをLLMの構築で広く使われる主要な構成として紹介しています。Transformerでは、文脈中のトークン同士の関係を重み付けするself-attentionなどを使います。[2]

同資料には、encoder-only、decoder-only、両方を含む構成が説明されています。「LLMだから、必ず同じ内部構成を持つ」と考えず、具体的な構成は対象モデルの説明で確認します。ここでは、数式や内部設計の詳細には踏み込みません。[2]

文章を生成できるモデルを使っていても、そのサービスが現在のWeb情報を取得できるかは別の機能です。モデル名だけから検索の有無を判断せず、サービス側の機能と、その回答で使われた情報源を確認します。[3]

NISTは、言語モデルによる統計的な予測が、正しい内容だけでなく誤った内容や矛盾した内容も生成しうると説明しています。読みやすい文章になっていることと、事実が正確であることは分けて考え、重要な固有名詞・数値・根拠は元の資料で確かめます。[4]

• [1] Google: Introduction to Large Language Models（英語）
• [2] Google: LLMs: What's a large language model?（英語）
• [3] NIST: Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations (NIST AI 100-2e2025)（英語）
• [4] NIST: Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1)（英語）

寄稿: 2026年10月5日 ／ 出典確認: 2026年10月5日 ／ 最終監修: 2026年10月5日 ---