コンテキストウィンドウ

大規模言語モデルが一度に処理・記憶できる情報量の上限で、トークン数で表される。入力されたプロンプトだけでなく生成された回答も消費し、セッションをまたいで保持されない「短期記憶」の範囲を定める。

この用語が出てくる記事