LMQL (Language Model Query Language) est un langage de programmation pour travailler avec les LLMs, conçu pour rendre les prompts plus fiables, modulaires et plus simples à contrôler.
Des prompts programmables, pas seulement du texte
Au lieu d’écrire un prompt ponctuel, LMQL permet de définir des requêtes de modèle à l’aide de modèles et de types, puis d’appliquer des contraintes à la sortie. Cela aide les équipes à réutiliser des composants de prompt, à réduire les réponses imprévisibles et à rendre le comportement du modèle plus cohérent.
Optimisation de l’exécution
LMQL inclut un runtime qui optimise la manière dont les requêtes sont exécutées auprès d’un LLM. C’est utile lorsque la vitesse, le coût et la stabilité de génération comptent, par exemple dans des systèmes de production ou lors de la création de chaînes de requêtes en plusieurs étapes.
Conçu pour les développeurs et les équipes
LMQL convient bien aux ingénieurs qui créent des fonctionnalités alimentées par des LLMs et qui recherchent une approche plus structurée que le prompting manuel :
Composants de prompt réutilisables
Contraintes de sortie vérifiables
Génération plus contrôlée et plus prévisible
