Mellea est une bibliothèque Python open-source qui permet d’obtenir des sorties LLM structurées et validées via le décorateur @generative et des type hints Pydantic. Elle supporte le constrained decoding au niveau token (Ollama, vLLM, HuggingFace), un système de requirements avec retry automatique, et s’intègre avec OpenAI, Bedrock, LiteLLM et d’autres providers. Compatible MCP, elle inclut aussi des guardrails via Granite Guardian pour détecter hallucinations et tentatives de jailbreak.
Commentaires
Vous devez
vous inscrire
ou
vous connecter
pour poster un commentaire