Grokなど大規模言語モデル（LLM）の仕組み

Grokは大規模言語モデル（LLM）です。膨大なテキストデータで学習し、入力された文章に続く自然で有用な言葉を予測して生成します。難しい数学の知識がなくても基本原理は理解できますし、それを知っておくだけで使いこなしの幅が一気に広がります。なぜGrokが文章の書き換えに優れているのか、なぜ全く誤った日付を確信満々に答えてしまうことがあるのか、なぜこのチャットでは先週のニュースを知らないのか、そしてなぜ的確なプロンプトを与えるほど回答の質が上がるのか、すべて仕組みから説明できます。

基本原理：次に続く言葉を予測する

LLMが根本で行っていることは1つだけです。与えられた文章に対し、その次に続く確率が最も高い小さなテキストの断片を予測して付け加え、それを繰り返します。ユーザーからの質問、それまでの会話履歴、システムからモデルへの指示は、すべてこの予測の起点となる文章に含まれます。画面に表示される回答は、それまでに書かれたすべてを手がかりに、この小さな予測を何千回も積み重ねて作られています。

それだけで税務ルールの解説や動くプログラムコードが作れるというのは、単純すぎるように思えるかもしれません。しかし、それを可能にしているのが「学習規模」です。何十億もの文章例を通じて高精度な予測を行ううちに、モデルは文法、事実、論理的な思考パターン、文体、そして人が物事を説明する構造を自然と吸収します。「予測」というタスクを極限まで突き詰めた結果、副産物として言語と世界に関する広大で柔軟な理解が生まれたのです。

単語を選ぶ際にはあえてわずかなランダム性が持たされているため、同じ質問でも再生成するたびに少しずつ言い回しの異なる回答が得られます。

トークン：モデルが処理する言葉の単位

モデルは文章を文字や単語そのものではなく、「トークン」という単位で読み込みます。短い単語1つ、長い単語の一部、スペースを含んだ単語、あるいは句読点などが1つのトークンになります。英語の一般的な単語なら1単語＝1トークンであることが多いですが、珍しい単語や日本語などの非ラテン文字は複数のトークンに分割されるのが一般的です。

トークンを意識すべき理由は2つあります。まず、モデルが読み書きできる情報量の制限は単語数や文字数ではなくトークン数で測られます。また、モデルは個々の文字ではなくこの断片の単位で認識するため、より高度な言語処理はいとも簡単にこなせる一方で、「単語内の文字数を数える」「文字列を逆順にする」といった単純な作業で思わぬミスをすることがあります。

当チャットのGrokモデルは画像入力にも対応しています。画像はテキストと一緒に処理できる形式に変換されるため、グラフの読み取りや写真の説明も可能です。ただし、回答は通常どおりテキストで返されます。

学習プロセス：生のテキストから頼れるアシスタントへ

Grokのようなモデルの開発はいくつかの段階を経て行われます。各企業独自の細かな手順は非公開の部分が多いものの、全体的な流れは共通しています。

1. 事前学習：書籍、ウェブサイト、コードなどの膨大なデータセットをもとに、文章の続きを予測する訓練を行います。一般的な知識や言語能力の基礎はここで身につきます。
2. ファインチューニング：次に、質の高い対話例（質問と、それに対する親切で整理された回答のペア）を使って学習します。これにより、単なるテキスト予測エンジンから指示に従うアシスタントへと進化します。
3. 人間のフィードバックによる調整：人間や自動評価システムが回答の質を評価し、正確で分かりやすく安全な回答を好んで出力するようモデルの挙動を微調整します。

こうして完成したのが「重み（パラメータ）」と呼ばれる膨大な数値の塊です。モデルは学習に使ったテキストそのものを保持して辞書のように引いているわけではありません。身につけたのはあくまで「パターン」であるため、概念を新しい言葉で分かりやすく説明できる一方で、細かな事実の記憶があいまいになることがあります。

知識のカットオフとインターネット非接続について

学習はある時点で終了し、それ以降に起きた出来事はモデルにとって未知の世界となります。この学習終了日を「知識のカットオフ」と呼びます。一部のGrok（grok.com公式やX上のGrok）にはリアルタイムのウェブ検索機能が備わっていますが、当サイトのチャットには検索機能がありません。そのため、ここでのGrokは事前学習された知識と会話内で入力された情報のみをもとに回答します。

実際の使い方として、最新ニュース、価格情報、スポーツの試合結果、時刻表、法改正、最新のソフトウェア仕様などを扱う際は、最新の一次情報源をご利用ください。最新記事の本文をチャットに直接貼り付ければ、その情報が会話の一部となるため、Grokに正しく処理させることができます。

コンテキストウィンドウ：モデルの作業メモリ

コンテキストウィンドウとは、モデルが一度に把握できるテキスト量の上限であり、ユーザーのメッセージ、モデルの返答、システム指示のすべてが含まれます。xAIのGrokモデルは非常に大きなウィンドウを備えており、OpenRouterの仕様ではGrok 4.20で200万トークン、Grok 4.3で100万トークン、Grok 4.7で50万トークンとなっています。ただし当チャットでは、応答の速さと無料提供を維持するため、長い会話では古いメッセージを順次省略し、よりコンパクトな範囲で送信しています。

ここから2つの特徴が生じます。1つの会話の中では、ウィンドウ内に残っている情報しか「記憶」できません。また、別の会話同士では記憶が一切引き継がれません。ブラウザの履歴に過去のチャットが残っていても、新規チャットを開くとまっさらな状態で始まります。長いやり取りで話が噛み合わなくなってきたら、一度これまでの内容を要約してもらい、新しいチャットにその要約を貼って仕切り直すのがおすすめです。

推論：考えてから答えるモデル

モデルの中には、最終的な答えを出す前に前提条件を整理したり、別のアプローチを試して検証したりといった「思考プロセス」を挟むよう訓練されたものがあります。これは「推論（Reasoning）」と呼ばれ、数学、論理問題、計画立案、コードのデバッグなどで特に威力を発揮します。当チャットでは、Grok 4.3 ThinkingとGrok 4.7が回答前に推論を行う一方、Grok 4.20は速度を重視して推論をオフにして動作します。待ち時間をかける価値があるケースについては、推論モデルの解説ガイドをご覧ください。

モデルが事実無根の情報を生成する理由

モデルは「それらしい続きの文章」を作ろうとし続けるため、自身の知識の限界に来ても自然に立ち止まることができません。見たこともない出典を尋ねられると実在しそうな論文名を創作し、小さな町について聞かれると似たような別の町の情報を混ぜて答えてしまうことがあります。これは一般に「ハルシネーション（幻覚）」と呼ばれ、流暢な文章を生み出す仕組みそのものの裏返しとして発生します。学習や「分からない場合はそう答えて」といったプロンプト指示である程度抑えられますが、完全になくすことは現在の技術では困難です。注意すべきポイントはAI回答のファクトチェック方法で解説しています。

プロンプト作成への活かし方

ここまでの仕組みを理解すると、プロンプトの工夫の仕方が見えてきます。モデルは目の前にある情報をもとに予測するため、必要な材料は手元から渡すこと。知識のカットオフがあるため、最新情報は自分で貼り付けること。推測で答えてしまうのを防ぐため、不確かな点は申告させること、などが効果的です。

改善前：
私のビザの更新ルールを教えてください。

改善後：
以下は、本日コピーした私のビザ種別に関する公式サイトの案内文です。
ビザの期限が切れる前に私が何をすべきか、記載されている期限を含めて
平易な言葉で説明してください。回答には必ずこのテキストの情報のみを使用し、
不明な点や読み取れない部分があれば推測せず明記してください。
---
[貼り付けたテキスト]

改善前のプロンプトでは、すでに変更されているかもしれない過去のルールをGrokの記憶頼みで引き出そうとしています。一方、改善後のプロンプトでは最新の材料を直接渡し、LLMが最も得意とする「文章を読み、噛み砕いて整理する」作業に専念させています。こうした用途には要約ツールを活用するか、Grok自身に分かりやすく説明してもらうのもおすすめです。

よくある質問

Grokは自分が話している内容を理解していますか？

これには専門家の間でも議論があります。はっきり言えるのは、実用に足るレベルで説明、要約、推論を行える一方で、間違いを自分自身で認識できないことがあるという点です。自信ありげに聞こえる口調に惑わされず、出力された内容を客観的にチェックして判断してください。

Grokは今しているチャットの内容をリアルタイムで学習していますか？

対話中にモデルそのものが学習・更新されることはありません。事前学習を終えたモデルの重みパラメータは固定されています。1つのチャット内では入力内容を文脈として参照しているだけで、別のチャットを始めれば以前の会話内容は引き継がれません。

AIモデルによって回答が異なるのはなぜですか？

モデルごとに学習させたデータ、学習手法、目指した目標が異なるためです。Grokと他のモデルとの違いや特徴については、モデル比較やGrokとは？で詳しく解説しています。

Grokの開発元はどこですか？

Grokは、2026年2月にSpaceXに買収されたxAIによって開発されています。当サイトはクラウドAPI経由でGrokモデルを提供する独立した無料サイトであり、xAI、SpaceX、X社とは提携関係にありません。開発の歩みについてはGrokの歴史をご覧ください。