¿Por qué Next.js por la IA?

Next.js proporciona la base perfecta para aplicaciones de IA: renderizado en el lado del servidor para SEO, rutas API para lógica backend y soporte de streaming para respuestas en tiempo real.

Preparando

  • Instalar el SDK de Vercel AI: 'npm install ai @ai-sdk/openai'
  • Crear una ruta API en 'app/api/chat/route.ts'
  • Utilizar el asistente 'streamText' para la transmisión de tokens en tiempo real.

Patrones Centrales

### Chat en streaming

Usa el gancho 'useChat' en el lado del cliente. Se encarga de la transmisión, el estado del mensaje y el aborto automáticamente.

### Integración RAG

  • Almacenar documentos en una base de datos vectorial (Pinecone, Qdrant o pgvector).
  • En la consulta del usuario, recuperar los fragmentos relevantes.
  • Incluir fragmentos en la consigna del sistema como contexto.

### Generación de Imagen

  • Utilizar APIs DALL-E o Stable Diffusion.
  • Mostrar estados de carga con actualizaciones optimistas de la interfaz.

Consejos de interpretación

  • Tiempo de ejecución en el borde: Despliega rutas API al borde para menor latencia.
  • Caché: Embeddings de caché y respuestas comunes.
  • Batching: Agrupar múltiples llamadas a API cuando sea posible.

Despliegue

  • Desplegar en Vercel para el despliegue automático del borde.
  • Utilizar variables de entorno para las claves API.
  • Establecer límites de tasa para controlar los costes.