Mellea est une bibliothèque Python open-source qui permet d’obtenir des sorties LLM structurées et validées via le décorateur @generative et des type hints Pydantic. Elle supporte le constrained decoding au niveau token (Ollama, vLLM, HuggingFace), un système de requirements avec retry automatique, et s’intègre avec OpenAI, Bedrock, LiteLLM et d’autres providers. Compatible MCP, elle inclut aussi des guardrails via Granite Guardian pour détecter hallucinations et tentatives de jailbreak.

Commentaires

Vous devez vous inscrire ou vous connecter pour poster un commentaire