コンテキストウィンドウ（Context Window）とは、LLM（大規模言語モデル）が一度の処理で扱うことができるトークン数の上限を指します。GPT-4では128,000トークン、Claudeでは200,000トークンなど、AIモデルによってその容量は大きく異なり、この制限がAIの実用性を左右する重要な要素となっています。
コンテキストウィンドウの大きさは、AIが実際のビジネス現場で処理できる情報量を決定します。例えば、長文の契約書を分析したり、複数の会議録を同時に要約したりする際、コンテキストウィンドウが小さいと文書を分割して処理する必要があり、文脈の一貫性が失われる可能性があります。一方、大きなコンテキストウィンドウを持つモデルでは、企業の年次報告書全体を一度に読み込んで包括的な分析を行うことが可能になります。
ただし、コンテキストウィンドウが大きくなるほど処理コストも増加し、応答速度も低下する傾向があります。そのため、プロンプトエンジニアリングやRAG（検索拡張生成）といった技術を組み合わせて、効率的に情報を処理する工夫が求められます。企業がAIツールを選定する際は、想定する用途に対してコンテキストウィンドウの容量が十分かどうかを事前に検証することが重要です。