LLM（Large Language Mode：大規模言語モデル）とは、大量の文章を学習して言葉の意味や使い方を理解し、人間のように文章を生成できるAIです。わかりやすい言葉で直感的に質問できるため、ビジネスでも当たり前のように利用する機会も増えていますが、深く知ろうとすると難しい用語が多いと感じる人も多いようです。

そこで今回は、いまさら人に聞けないLLMの基本的な用語を解説します。

そもそもなぜ大規模？

LLMが「大規模」と呼んでいるのは、学習に使うデータの量とモデル自体の構造(パラメータ数)がとても大きいことを意味しています。書籍、Webページ、論文、会話データなど、数兆単語に及ぶ膨大な文章データを使って学習されているため、文脈理解や言語生成の能力を獲得しています。さらに、モデル内部の数百億〜数兆個のパラメータによって、「この言葉の次に何が来るか」を予測するような仕組みになっています。

出典：テキスト生成 AI の導入・運用ガイドライン｜独立行政法人情報処理推進機構

プロンプト

LLMへの質問あるいは指示の文章です。内容や表現を工夫することで、出力の精度や質を大きく変えることができます。

トークン

LLMの性能比較で語られることの多い「トークン」とは、AIが文章を処理する際の最小単位です。英語では単語、日本語では文字や文節などをトークンとして扱います。モデルはこのトークンを読み取り、次に来るトークンを予測することで文章を生成します。

コンテキスト長

一度に理解・処理できるトークン数を「コンテキスト長」と呼ぶこともあります。コンテキスト長はLLMによって異なります。たとえばOpenAIが開発しているGPT-4oのコンテキスト長は、128Ｋトークンのコンテキスト長を持っています。つまり、最大で128,000トークン分の文章を一度に処理できるという意味です。この長さを超えてしまうと、最初の方は押し出されるように忘れられてしまいます。トークン数が多い方がより沢山の内容を処理できますが、費用や処理時間に影響します。

モデルサイズ

LLMが内部にもつパラメータの数を「モデルサイズ」と呼びます。これはLLMが学習によって得た知識の量に相当し、多ければ多いほど複雑な言語パターンや意味を理解できます。

マルチモーダル

マルチモーダルとは、LLMが文章だけでなく、画像・音声・動画など「複数の情報の種類（モード）」を同時に扱える機能を意味しています。たとえば画像を見て説明したり、音声を聞いて文字起こしをしたり、映像と文章を組み合わせて回答を生成することができます。

RAG (Retrieval-Augmented Generation)

RAG（Retrieval-Augmented Generation）は、AIが手元の知識だけで答えるのではなく、外部の情報を検索して取り込みながら回答を作る仕組みです。たとえば社内マニュアル、FAQ、社内DB、検索エンジンなどから必要な情報を探し、質問に応じて正確で信頼性のある応答を生成します。

自己回帰 (Autoregressive)

文章を1語（1トークン）ずつ順番に予測して生成する仕組みを「自己回帰 (Autoregressive)」と呼びます。主要なLLMの多くは自己回帰の仕組みによって、「すでに出力した単語」を元に「次に何が来るか」を予測しながら文章をつなげるように動作するため、文脈に合った自然な文をリアルタイムで作ることができるようになっています。

一方、「非自己回帰 (Non-autoregressive)」という仕組みもあります。これは、複数トークンを一気に生成するため高速処理が可能ですが、文脈が崩れやすいという問題もあります。データの分類や翻訳には非自己回帰が採用されていることもあります。

注意機構 (Attention)

注意機構（Attention）は、文章中のどの単語に注目するかを判断する仕組みです。人間が話の要点を自然に掴むように、AIも文中の重要なトークンに「注意」を向けて処理します。

LLMが注意を向けるトークンは、各トークン同士の「関係の強さ（関連度）」を計算し、「重み」をつけることで判断します。そのため、長くて複雑な文脈であっても、「主語と述語の関係」「誰が何をしたか」「前後の因果関係」などを判断し、意味を見失うことなく自然な理解と出力が可能になります。

注意機構はLLMの頭脳とも呼べる仕組みであり、さまざまな発展形があります。

自己注意機構 (Self-Attention)

自分のトークン同士が互いに「何が大事か」を見るため、単語間の関係を保つ力が強い。

多頭注意機構 (Multi-Head Attention)

複数の視点 (ヘッド)から同時に注目することで、豊かな理解を実現し、一文に含まれる複雑な情報を整理できる。

クロス注意機構 (Cross-Attention)

入力（文章など）と外部情報（画像やRAGの知識など）をリンクさせることで、「質問と資料」「画像と説明文」など異なるソース間の関連付けに強い。

ファインチューニング

既に学習済みのLLMに対し、特定の業務や用途に応じて追加学習をさせることを「ファインチューニング」と呼びます。たとえば、法律や医療など特殊な知識や用語が必要な分野では、ファインチューニングを実施することで、その分野に特化した回答を得られるようになります。汎用的なLLMをファインチューニングすることで、初期から学習しなおすことなくカスタマイズされたLLMが利用できます。ただし、学習データの質や量、コスト、過学習のリスクなどには注意が必要です。

また、利用したいLLMがファインチューニングに対応しているかについても確認が必要です。たとえば、2025年7月現在では、OpenAIのGPT-3.5はファインチューニングに対応していますが、GPT-4oは対応していません。Google のGeminiはVertex AIであれば対応しています。AnthropicのClaudeは、高精度設計であるため、ファインチューニングよりもRAGを推奨しています。

温度 (Temperature)

「温度（temperature）」は、応答の「ゆらぎ」や「創造性」を調整するパラメータです。低く設定すると慎重に安定した回答を、高く設定すると自由で意外性のある回答を生成するようになります。質問に「正確で堅実な返答」を求める場合には低い温度を、「アイデアをたくさん出してほしい」「詩やストーリーを創作してほしい」といった場合には温度高めに設定すると良い結果を得られる確度が高くなります。そのため、LLMの「冒険心」や「遊び心」などに例えられることも多いようです。

ただし、主要LLMの多くはAPIでのみ温度の設定を変更できるようになっているため、実際に温度の設定を変更できるユーザーはまだ少ないかもしれません。

関連記事：主要LLMを徹底比較！業務に合ったサービスを利用しよう
https://hypervoice.jp/LargeLanguageModel

5つの生成AIが全部使える | ナレフルチャット

ChatGPT、Claude、Grok、Gemini、Perplexity含む最新の生成AIモデルを利用できます。また料金についても、月額4万円（税別）で利用人数は無制限です。利用者数が多いほどお得なサービスと言えるでしょう。そのほか、入力データが学習データとして利用されることがないため、セキュリティ面も安心です。生成AI利用による情報漏えいが不安な企業も安心して導入することができるでしょう。

詳細はこちら：ナレフルチャット - HYPER inc

まとめ

LLMの「大規模」は、学習データの量とパラメータ数が大きいことを意味している
マルチモーダルは、文章だけでなく画像や音声など複数の情報（モード）を同時に扱える機能
ファインチューニングや温度設定などカスタマイズができるLLMもある