Aller au contenu

Fenêtre de contexte

Nombre maximal de tokens qu’un modèle peut considérer à la fois ; au-delà, le contenu est tronqué ou oublié.

Les modèles actuels vont d’environ 8K à plus d’un million de tokens. Une grande fenêtre permet de passer des documents ou des bases de code entiers, mais la remplir coûte cher et peut disperser l’attention du modèle : n’envoyez que l’essentiel.

Ressources associées