LLM Guard (Protect AI)
Tool : Une action précise que l’IA peut appeler · nécessite protectai
Scanners open source d'entrées et de sorties : injection, données personnelles, toxicité.
Le meilleur gratuit, auto-hébergé.
La sécurité reflète la destination des données, les permissions demandées et les incidents recensés à la date de vérification. Ce n’est pas une garantie d’absence de risque : vérifiez le mode de déploiement et les connexions que vous activez.
Ce que ça fait, concrètement
Les applications qui utilisent des modèles de langage sont exposées à des risques spécifiques : injections de prompts, fuite de données personnelles, contenus toxiques ou biaisés dans les réponses. LLM Guard répond à ce besoin en ajoutant une couche de contrôle entre l'utilisateur et le modèle.
L'outil fonctionne comme une bibliothèque Python que l'on intègre directement dans son code. Il propose des scanners appliqués aux entrées (les prompts envoyés au modèle) et aux sorties (les réponses reçues). Chaque scanner est indépendant et couvre un risque précis : détection d'injection de prompt, anonymisation de données personnelles, repérage de secrets ou de clés d'API, filtrage de sujets interdits, détection d'URLs malveillantes, vérification de la cohérence factuelle, et bien d'autres.
LLM Guard s'adresse aux développeurs et équipes techniques qui construisent des applications basées sur des LLMs et souhaitent en sécuriser les échanges sans envoyer leurs données à un service tiers. Tout le traitement s'effectue localement.
Ce n'est pas un outil adapté aux utilisateurs non techniques : il n'existe pas d'interface graphique et son intégration nécessite des compétences en Python. Par ailleurs, le projet est désormais archivé et n'est plus maintenu activement, ce qui implique qu'aucune mise à jour de sécurité ni nouvelle fonctionnalité ne sera publiée.
Ce que ça propose
- ·Détection d'injections de prompts pour bloquer les tentatives de manipulation du modèle.
- ·Anonymisation des données personnelles dans les entrées, avec possibilité de désanonymisation dans les sorties.
- ·Détection de secrets et de clés d'API dans les prompts pour éviter les fuites accidentelles.
- ·Filtrage de sujets, mots-clés ou expressions interdits, aussi bien en entrée qu'en sortie.
- ·Détection de toxicité et de biais dans les réponses du modèle.
- ·Vérification de la cohérence factuelle entre le prompt et la réponse générée.
- ·Détection d'URLs malveillantes dans les sorties du modèle.
- ·Contrôle de la langue utilisée et détection de texte invisible ou incohérent (gibberish).
En pratique
- Prix
- GratuitGratuit, MIT.
- Usage commercial
- Usage commercial : oui
- Disponible sur
- sdk-python
- Hôte
- protectai
- Licence
- MIT
- Interface FR
- Non
Sécurité et données
- Pastille
- Sécu : rien à signaler
- Capacités
- litécritexécuteréseau
- Vos données
- Données en local
- Permissions
- Analyse locale.
- Maintenance
- Inactive depuis plus de six mois
Liens et dépôt vérifiés le 25 octobre 2026 · ajoutée le 1 août 2023
Comment installer LLM Guard (Protect AI)
pip install llm-guard