output生成AIのトークンとコンテキストウィンドウとは｜AIの制限を正しく理解して使いこなす入門ガイド

AIと話しているうちに、「なぜかさっきの内容をAIが忘れてしまった」という経験はないでしょうか。
実はこれ、AIが気まぐれなのではありません。「トークン」と「コンテキストウィンドウ」と呼ばれる、生成AI共通の仕組みが関係しています。

この記事では、ChatGPT・Claude・Geminiを業務で使う方向けに、トークンとコンテキストウィンドウの基本から、制限を回避する実践テクニックまでを解説します。
「AIが途中で忘れる理由」が分かるだけで、使い方が格段に変わります。

「トークン」とは何か｜AIが言葉を処理する最小単位

生成AIは、私たちが入力した文章を「そのまま」読んでいるわけではありません。文章を「トークン」と呼ばれる小さなかたまりに分解してから処理しています。

トークンは単語と完全に一致しているわけではなく、日本語の場合は1文字～数文字、英語の場合は単語の一部や1単語がトークンひとつに対応することが多いです。

たとえば英語の “understanding” は “under”・”stand”・”ing” の3トークンに分割されることがあります。日本語は英語より1文字あたりのトークン数が多くなる傾向があり、同じ文章量でも消費トークン数が増えます。

【ポイント】トークン数の目安

・英語: 1トークン ≒ 4文字、または 0.75単語
・日本語: 1トークン ≒ 1～2文字（英語の約3倍消費しやすい）
・具体例: 「生成AIを業務で使いこなす方法」≒ 約15～20トークン
・カウント対象: 入力テキスト・添付ファイルの内容・会話履歴・出力テキストすべてが対象

「コンテキストウィンドウ」とは何か｜AIが一度に記憶できる範囲

コンテキストウィンドウとは、AIが「一度に処理できるトークン数の上限」のことです。人間に例えると、「作業机の広さ」に近いイメージです。

机が広ければたくさんの資料を広げて作業できますが、机の面積には限りがあります。コンテキストウィンドウも同じで、この上限を超えた情報はAIが参照できなくなります。

会話が長くなるにつれ、古いやり取りがコンテキストウィンドウの外に押し出され、AIが「忘れた」ように見える現象が起きます。

【ポイント】主要ツールのコンテキストウィンドウ比較（2025年5月時点）

※ 料金プランや設定によって異なります。執筆時点（2025年5月）の情報です。

なぜコンテキストウィンドウが業務で重要なのか

コンテキストウィンドウを意識しないと、次のような問題が起きます。

・会議メモの要約が不完全になる: 長い議事録を一度に貼り付けると、後半の発言が処理されず要約から抜け落ちる
・連続した修正指示が引き継がれない: 10往復以上の会話で、最初に伝えた前提条件をAIが参照できなくなる
・大量ファイルを読み込ませたら回答がおかしくなった: ファイルの後半部分がコンテキスト上限を超えて無視される

逆に言えば、コンテキストウィンドウを理解して使えば、これらの問題を事前に回避できます。

具体的な使い方｜コンテキストウィンドウを意識した実務活用

1. 長文書類の処理は「分割送信」が基本

契約書や調査レポートをAIに処理させる場合、一度に全文を貼り付けるのではなく、章ごと・ページごとに分割して送る方が確実です。

# 分割送信のプロンプト例

以下は〇〇レポートの第1章です。内容を把握しておいてください。
まとめや分析はすべての章を送り終えた後にお願いします。

[第1章の本文をここに貼り付け]

このように「後でまとめる」と事前に伝えることで、AIも章ごとの内容を整理しながら受け取れます。

2. 長い会話は「新しいチャット」でリセットする

同じチャットで会話を続けるより、話題や作業の内容が変わるタイミングで新しいチャットを開く方が精度が安定します。

新しいチャットを開く際は、前回の重要な前提をひとつのメッセージにまとめて共有するのが効果的です。

# 前提引き継ぎプロンプト例

今回のタスクで引き継ぐ前提は以下のとおりです：
- 対象読者: 中小企業の経営者（非エンジニア）
- 記事のトーン: 平易な日本語、具体例重視
- 禁止事項: 専門用語の羅列、否定的な表現

この前提のもとで、次の作業を手伝ってください。

3. システムプロンプト・前提設定はコンパクトにまとめる

「あなたはプロのコピーライターです。対象は30代のビジネスパーソンで、業界経験10年以上の…」のような役割設定が長すぎると、それだけでトークンを消費します。

前提条件は箇条書きで簡潔にまとめ、毎回の会話で使うテンプレートとして手元に保存しておくと効率的です。

4. 大きなファイルはClaudeかGeminiを選ぶ

100ページ以上のPDFや大量のCSVを処理するなら、コンテキストウィンドウが広いClaudeやGeminiが適しています。

・Claude 3.7 Sonnet: 200,000トークン（約10万文字相当）— 長文の契約書・技術文書の要約に強い
・Gemini 2.5 Pro: 1,000,000トークン（約50万文字相当）— 複数ファイルの同時処理に最適

ChatGPTの128,000トークン（約6万文字）でも多くの業務には十分ですが、ファイルが大きい場合はツールを使い分けると安心です。

実務でのBefore/After｜コンテキストを意識するだけで変わること

Before: 議事録を一括で貼り付けて要約を依頼した場合

60分の会議録（約2万文字）を一度にChatGPTへ貼り付けて「要約してください」と依頼。後半部分の発言が要約に含まれていないことに気づかず、そのまま社内共有してしまった。

After: 前半・後半に分割して要約し、最後にまとめる

前半30分分を送り「この部分の要点を3つにまとめてください」と依頼。後半30分分も同様に処理した後、「先ほどの前半要点と後半要点を統合して、全体サマリーを作ってください」と指示。精度の高い要約が完成し、確認工数も半分になった。

うまくいかない時の対処法

「AIが前に言ったことを忘れた」場合

会話の早い段階で伝えた前提が参照されていない場合は、会話が長くなりすぎているサインです。重要な前提を再度メッセージに追記するか、新しいチャットに移行しましょう。

「ファイルを添付したら回答の質が落ちた」場合

ファイルサイズが大きすぎてコンテキストを大量に消費している可能性があります。ファイルの必要部分だけをテキストで貼り付けるか、ClaudeやGeminiなどコンテキストウィンドウが広いツールに切り替えてみてください。

「途中で話題を変えたら最初の前提が効かなくなった」場合

同じチャット内で大きく話題が変わると、AIが文脈を整理しきれなくなることがあります。役割や目的が異なる作業は別のチャットで行うのが基本です。

本記事のまとめ

生成AIの「トークン」と「コンテキストウィンドウ」は、AIを業務で使いこなすための基礎知識です。

AIを道具として使いこなすには、「なぜそうなるのか」を理解することが近道です。
トークンとコンテキストウィンドウを把握しておくだけで、同じツールでも格段に精度が上がります。

AIを業務に取り入れるための全体戦略については、姉妹サイトDXマスター.JPでも詳しく解説しています。