Granite 4.1 8B
Une option solide pour l'auto-hébergement et le contrôle total des données.
Présentation
Granite 4.1 8B est un modèle dense décodeur-seul d'IBM, distribué sous licence Apache 2.0, conçu pour rester utile tout en tenant sur du matériel modeste : résumé, RAG, code, appel d'outils et dialogue multilingue (dont le français) fonctionnent sur un simple laptop. Ses scores en tool-calling et en code progressent nettement, mais son score SimpleQA très bas rappelle qu'il reste peu fiable pour répondre sans support documentaire — mieux vaut le coupler à une brique RAG. Poids ouverts et licence permissive en font un candidat sérieux pour un déploiement on-premise en Europe, sans dépendance à un cloud tiers.
Profil de compétences
Non communiqué
Trois mesures indépendantes
Ce que les gens préfèrent, ce que le modèle sait faire, ce que le marché utilise. Chaque source a ses biais, aucune ne suffit seule : nous les affichons séparément, sans les mélanger.
Forces
- Très long contexte
- Open-source et auto-hébergeable
Limites
- Tarification API non publiée
À qui ça s'adresse
- vous voulez maîtriser vos coûts ou auto-héberger
- vos données doivent rester en UE
Cas d'usage idéaux
- Assistant interne multilingue
- Agents avec appel d'outils
- RAG documentaire d'entreprise
- Prototypage code sur laptop
- Déploiement souverain on-premise
Accès & disponibilité
Caractéristiques clés
Combien ça coûte par mois
Estimation à partir des prix API sourcés et d’un palier matériel pour l’auto-hébergement. Hypothèses modifiables.
Hypothèses : 36 mois d’amortissement, 0.25 €/kWh, 22 jours/mois, conversion 1 $ = 0.92 €. Hors main-d’œuvre, hors licences logicielles, hors redondance.
nAIvigate Trust Index
Ce que l’éditeur offre et documente pour un usage professionnel en Europe. Un critère non documenté vaut zéro et reste visible : le score monte quand l’éditeur publie, pas quand nous supposons.
19/19 critères documentés · 100 % · dont 12 posés par règle
Voir les critères▾
Badge Trust Index
Affichez ce score dans votre documentation, votre README ou votre page sécurité. Il se met à jour automatiquement.
[](https://naivigate.com/fr/model/granite-4-1-8b)Données & conformité
Ce que nous savons, ligne par ligne, avec la source et la date. Ces lignes alimentent les familles Données et Entreprise du Trust Index ci-dessus. La conformité RGPD dépend de votre traitement, pas du modèle seul.
| Résidence des données en UE | Oui |
| Accord de traitement (DPA) | Sans objet· auto-hébergé : les données ne sortent pas |
| Transfert hors UE | Non |
| Entraînement sur vos données | Non |
| Rétention configurable | Sans objet· auto-hébergé : les données ne sortent pas |
| Zero Data Retention | Sans objet· auto-hébergé : les données ne sortent pas |
| Auto-hébergeable | Oui |
| Hébergement déclaré | self |
Qualité des données de la fiche
Ce score mesure la qualité des données de cette fiche : prix, contexte, Elo, licence, documentés, sourcés et récents. Il ne mesure ni le modèle ni sa conformité : pour cela, voir le Trust Index plus haut.
6/8 documentées · 2/8 sources primaires
Faire tourner en local
| Quantization | Disque | RAM / VRAM | Matériel type |
|---|---|---|---|
| Q4 · recommandé | 4.6 Go | 7 Go | PC 16 Go / Mac M1+ / GPU 8 Go |
| Q8 · équilibré | 8.6 Go | 11 Go | PC 32 Go / Mac 24 Go / RTX 4070 Ti+ |
| FP16 · qualité max | 16 Go | 20 Go | Mac 32 Go / RTX 3090-4090 |
Estimations pour un contexte modéré. Un long contexte augmente la RAM nécessaire (KV cache).
Déployer
Commandes prêtes à copier, générées depuis la fiche. Ajustez le contexte et le nombre de GPU à votre machine.
Serveur OpenAI-compatible pour la production sur GPU NVIDIA.
pip install vllm
vllm serve ibm-granite/granite-4.1-8b \
--max-model-len 32768 \
--tensor-parallel-size 1 \
--dtype autoDonnées avancées · pour expertsArchitecture, modalités, coût détaillé, benchmarks complets▾
| Arena Elo | 1304 |
| MMLU | — |
| GPQA | — |
| HumanEval | — |
| SWE-Bench | — |
| MATH | — |