Ventana de contexto

Número máximo de tokens que un modelo puede considerar a la vez; lo que queda fuera se trunca u olvida.

Los modelos actuales van desde unos 8K hasta más de un millón de tokens. Una ventana mayor permite pasar documentos o bases de código enteros, pero llenarla cuesta más y puede dispersar la atención del modelo: envía solo lo relevante.

Recursos relacionados

La guía completa de la API de OpenAI

Guía completa y paso a paso del ecosistema de la API de OpenAI: cubre en profundidad los modelos GPT, DALL·E y Whisper. Te acompaña desde el registro y la autenticación hasta tu primera llamada a la API, patrones de diseño de prompts y estrategias de optimización de costes; ideal para desarrolladores que se inician en la plataforma.