Le problème

Les LLM sont excellents pour générer du texte, mais les applications nécessitent souvent des données structurées — objets JSON, tableaux, valeurs typées. Obtenir une sortie structurée fiable nécessite des techniques spécifiques.

Approche 1 : Ingénierie de prompts

Demandez au modèle de répondre au format JSON :

  • Spécifiez le schéma exact dans la demande.
  • Inclure un exemple de paire entrée/sortie.
  • Ajouter « Répondre uniquement avec un JSON valide. Aucune explication. »

Approche 2 : Appel de fonction / Utilisation de l’outil

La plupart des API majeures prennent désormais en charge l’appel de fonctions :

  • Définir un schéma JSON pour la sortie attendue.
  • Le modèle est contraint à la sortie correspondant au schéma.
  • Fonctionne avec OpenAI, Anthropic, Google et la plupart des fournisseurs.

Approche 3 : Décodage contraint

Des bibliothèques comme Outlines et LMQL obligent le modèle à produire une sortie valide :

  • Définir un modèle pydantique ou un schéma JSON.
  • Le processus de décodage fait respecter le schéma token par token.
  • Garantie à 100 % d’une structure de sortie valide.

Approche 4 : Bibliothèque Instructor

La bibliothèque Instructor enveloppe toute API LLM avec une validation Pydantic :

  • Définir votre modèle de données avec Pydantic.
  • La bibliothèque Instructor gère automatiquement les nouvelles tentatives et les validations.
  • Fonctionne avec OpenAI, Anthropic, Gemini et des modèles locaux.

Meilleures pratiques

  • Toujours valider la sortie par rapport à un schéma.
  • Utiliser les types d’enum pour les champs aux options limitées.
  • Inclure la logique de réessai pour les réponses malformées.
  • Garder les schémas simples — les structures imbriquées augmentent les taux d’erreur.
  • Tester avec 50+ exemples pour mesurer la fiabilité.

Modèles pratiques

La façon la plus fiable d’obtenir une sortie structurée est de combiner une définition claire du schéma dans le prompt système avec des exemples few-shot. Montrez au modèle 2–3 paires entrée/sortie dans le format exact que vous voulez. Pour les modèles OpenAI, utilisez le paramètre response_format avec un JSON schema. Pour Claude, utilisez l’API tool_use pour forcer des réponses structurées.

Pièges courants

  • Complexité du schéma : gardez les schémas plats et simples. Les objets profondément imbriqués augmentent les taux d’erreur. Si vous avez besoin de données imbriquées, construisez-les par étapes.
  • Validation : validez toujours la sortie par rapport à votre schéma avant de l’utiliser. Les LLM produisent parfois du JSON invalide ou omettent des champs obligatoires.
  • Gestion des enums : lorsque vous utilisez des enums, incluez toutes les valeurs valides dans le prompt. Les modèles inventent parfois des valeurs absentes de votre schéma.
  • Échappement : le JSON à l’intérieur de chaînes JSON est une source courante de bugs. Utilisez un échappement correct ou passez à un format comme YAML pour la couche externe.

Contraindre le décodeur quand c’est possible

Tous les fournisseurs proposent désormais une forme de décodage contraint par grammaire ou par schéma, et quand elle est disponible elle est strictement meilleure que demander du JSON poliment. La différence n’est pas l’exactitude du format ; c’est la suppression de la boucle de réparation. Un modèle structurellement incapable d’émettre une accolade non fermée vous épargne la nouvelle tentative, le gestionnaire de troncature et la branche d’exception de l’analyseur qu’il faudrait sinon tester.

Là où la contrainte n’existe pas, demandez le plus petit objet possible et validez-le avant usage. Le mode de défaillance du JSON non contraint n’est pas la syntaxe invalide, mais du JSON valide avec les mauvais types, un champ supplémentaire inattendu, ou un nul là où vous exigiez une chaîne.

Concevoir les schémas pour le modèle, pas pour votre base de données

Un schéma avec quatorze champs obligatoires et une union imbriquée produira plus d’erreurs qu’un schéma à quatre champs plats, même si la version base de données est celle que vous voulez réellement stocker. Le compromis pratique consiste à faire émettre au modèle une petite forme intermédiaire et à laisser votre code la mapper vers le schéma de stockage. Ce mapping est fait de quelques lignes de code ordinaire, testable sans modèle, et il retire au modèle la capacité de violer vos invariants.

Les champs optionnels méritent une attention particulière. Un champ marqué optionnel apprend au modèle que l’omettre est acceptable, et il l’omettra précisément quand la valeur est difficile à déterminer, qui est le cas dont vous aviez le plus besoin de preuves. Préférez une valeur sentinelle explicite à l’absence quand vous devez distinguer inconnu de non applicable.

Valider, puis réparer une seule fois

Quand la validation échoue, réessayez en ajoutant l’erreur concrète plutôt que la sortie brute seule. Incluez le chemin exact qui a échoué. Une nouvelle tentative ciblée résout la plupart des échecs ; une nouvelle tentative aveugle reproduit souvent la même erreur. Après le deuxième échec, faites échouer la requête plutôt que de boucler, et journalisez les deux tentatives, car la paire est la preuve la plus utile que vous obtiendrez sur votre prompt.