コンテキストウィンドウ
モデルが一度に扱える最大トークン数。それを超えると切り捨てられるか忘れる。
最新モデルは約8Kから100万トークン超まで様々。大きな窓は文書やコードベース全体を渡せるが、埋めるほどコストが増え焦点も薄れるため、関連する内容だけを送るとよい。
モデルが一度に扱える最大トークン数。それを超えると切り捨てられるか忘れる。
最新モデルは約8Kから100万トークン超まで様々。大きな窓は文書やコードベース全体を渡せるが、埋めるほどコストが増え焦点も薄れるため、関連する内容だけを送るとよい。