NeMo Guardrails
App : Un produit que vous utilisez directement
Garde-fous programmables de NVIDIA pour contrôler dialogues, sujets et appels d'outils.
Le plus complet pour des garde-fous de conversation en entreprise ; exigeant à configurer.
La sécurité reflète la destination des données, les permissions demandées et les incidents recensés à la date de vérification. Ce n’est pas une garantie d’absence de risque : vérifiez le mode de déploiement et les connexions que vous activez.
Ce que ça fait, concrètement
Les applications conversationnelles basées sur des modèles de langage peuvent produire des réponses hors sujet, inexactes ou potentiellement dangereuses. NeMo Guardrails répond à ce problème en permettant aux développeurs d'intercaler une couche de contrôle programmable entre leur code applicatif et le modèle de langage.
Concrètement, l'outil s'appuie sur un langage de configuration dédié appelé Colang, dont la syntaxe s'inspire de Python. Le développeur définit des règles sous forme de fichiers texte : quels sujets sont autorisés ou interdits, quels chemins de dialogue suivre, comment réagir à certaines formulations. Ces règles s'appliquent à cinq points de contrôle distincts : l'entrée utilisateur, le dialogue, les données récupérées (RAG), les appels d'outils et la sortie du modèle.
NeMo Guardrails s'adresse aux équipes techniques qui construisent des assistants conversationnels, des points de terminaison LLM ou des pipelines RAG en entreprise, et qui ont besoin de garanties de comportement vérifiables. L'outil est compatible avec plusieurs modèles de langage, dont GPT-3.5, GPT-4, LLaMA-2, Falcon et Mosaic, ainsi qu'avec LangChain.
En revanche, il n'est pas adapté à un usage sans compétences en développement Python : la configuration requiert d'écrire du code et des fichiers Colang, de gérer un environnement Python 3.10 à 3.13, et de comprendre l'architecture de son application LLM. Les utilisateurs non techniques ne trouveront pas d'interface graphique pour paramétrer les règles.
Ce que ça propose
- ·Garde-fous d'entrée : filtrage, rejet ou transformation du message utilisateur avant tout traitement.
- ·Garde-fous de dialogue : pilotage du chemin conversationnel via des flux définis en Colang, avec réponses prédéfinies ou invocation conditionnelle du modèle.
- ·Garde-fous de récupération (RAG) : filtrage ou modification des passages récupérés avant qu'ils ne soient transmis au modèle.
- ·Garde-fous d'exécution : contrôle des entrées et sorties des actions personnalisées (outils) appelées par le modèle.
- ·Garde-fous de sortie : vérification des faits, détection d'hallucinations et modération du contenu généré avant restitution à l'utilisateur.
- ·Bibliothèque de garde-fous intégrés : détection de jailbreaks et d'injections de prompt, masquage de données sensibles, modèles de sécurité NVIDIA, intégrations tierces.
- ·Serveur HTTP exposant une API compatible avec le format Chat Completions d'OpenAI, déployable via CLI ou Docker.
- ·Compatibilité avec plusieurs modèles de langage et intégration optionnelle avec LangChain.
En pratique
- Prix
- Gratuit
- Usage commercial
- Usage commercial : oui
- Disponible sur
- cli, docker
- Licence
- Apache-2.0
Sécurité et données
- Pastille
- Sécu : rien à signaler
- Vos données
- Données en local
- Maintenance
- Active
- Dernière release
- 16 septembre 2026
Liens et dépôt vérifiés le 25 octobre 2026 · ajoutée le 1 avril 2023
Comment installer NeMo Guardrails
pip install nemoguardrails