AIに長い資料を渡す前に知りたい、コンテキストウィンドウの基本

今回の回答に使う情報には範囲がある

コンテキストウィンドウは、AIが回答を生成するときに扱える情報の枠です。学習時に得た知識とは別に、今回渡す指示や資料、会話の履歴などが入ります。容量を表す「トークン」は文章などを処理する単位で、文字数と一対一には対応しません。

Anthropicのコンテキストウィンドウの解説では、入力だけでなく生成する出力もこの枠に含まれ、情報を増やせば自動的に精度が上がるわけではないと説明されています。ここでは基本概念を扱い、モデル別の容量や料金は比較しません。

資料が入力できることと、必要な条件が回答に正しく反映されることは、別に確かめる必要があります。 ファイルを受け付けた表示だけでは、図表や例外規定まで正確に扱えたかは分かりません。

資料を減らす前に、答えてほしい問いを絞る

たとえば、施設の利用案内をAIに渡し、予約変更の手順をまとめる場面を考えます。以下は説明用の仮例で、実際の施設の規約ではありません。

資料には利用料金、備品、駐車場、キャンセル、予約変更の説明があります。「全部を短くして」では、変更期限や例外が省かれても気付きにくくなります。一方、「予約日を変更できる条件、連絡先、期限を整理して」と問いを絞ると、照合する対象が明確になります。

必要な節を選ぶときも、見出しだけで切らないことが肝心です。「前日まで変更可能」という段落の次に「団体利用は別途相談」とあれば、二つを一緒に渡す意味があります。前提や例外を残したまま、関係の薄い資料を外すという順序です。

本記事で提案する確認メモは、次の三つです。

• 問い：どの利用者の、どの操作を説明したいか。
• 資料の範囲：文書名、版、該当する節と例外。
• 照合点：期限、対象者、連絡方法など、回答に欠かせない条件。

長い会話を引き継ぐときは、決定と未決定を分ける

資料を読みながら相談を重ねると、採用した案と取り下げた案が同じ会話に残ります。AIがどの範囲を参照しているかだけでなく、履歴そのものが紛らわしくなっていないかも見直してみましょう。

別の会話へ引き継ぐなら、目的、確定した条件、未解決の疑問、次にすること、参照資料を短くまとめる方法があります。「案Aも検討したが、現在は案Bを採用」のように判断の状態を明記すると、過去の案を現在の方針と取り違えにくくなります。

この引き継ぎメモは本記事の提案です。AIが作った要約をそのまま正本にせず、期限や数量、除外条件を元の会話・文書と照合してください。要約で落ちた内容は、次の会話でも判断材料になりません。

答えがずれたときに見る場所

前の条件を無視した回答でも、原因が容量不足だとは限りません。指示が矛盾していたり、資料の版が違っていたり、答えのない問いに推測で応じていたりする場合も考えられます。

まず、外せない条件と該当資料を短く示し、その条件に沿った回答と根拠箇所を求めてみましょう。それでも違う答えなら、どの記述をどう解釈したかを元文書と比べます。会話を新しくするだけで解決したと判断せず、回答の中身で確かめることが大切です。

まとめ

• コンテキストウィンドウは、その回答のために扱える情報の枠です。
• 長い資料では、問いに必要な節と、前提・例外を一緒に残します。
• 会話の引き継ぎでは、確定事項と未決定事項を分け、要約を元の情報と照合します。

手元の資料で試すなら、まず一つの疑問を選び、回答に必ず含めたい条件を書き出してみてください。指示の組み立てはClaudeへの伝え方、大量の文書から関連箇所を探す仕組みはRAGの基礎で説明しています。