InternLM3 8B
Une option solide pour l'auto-hébergement et le contrôle total des données.
Présentation
InternLM3-8B-Instruct est un modèle généraliste open source doté d'un mode de raisonnement long qui le place devant Llama3.1-8B et Qwen2.5-7B sur les benchmarks de maths et de logique, malgré un entraînement limité à 4 000 milliards de tokens. Avec 8,8 milliards de paramètres et une fenêtre de 32 000 tokens, il tient sur un laptop. Sa licence Apache 2.0 autorise un déploiement on-premise en Europe, données conservées en local, mais son score en code (HumanEval) reste en retrait sur Qwen2.5-7B, un vrai point faible pour les équipes dev.
Profil de compétences
Non communiqué
Trois mesures indépendantes
Ce que les gens préfèrent, ce que le modèle sait faire, ce que le marché utilise. Chaque source a ses biais, aucune ne suffit seule : nous les affichons séparément, sans les mélanger.
Forces
- Open-source et auto-hébergeable
Limites
- Tarification API non publiée
À qui ça s'adresse
- vous voulez maîtriser vos coûts ou auto-héberger
- vos données doivent rester en UE
Cas d'usage idéaux
- Raisonnement mathématique embarqué
- PoC souverain sur laptop
- Assistant interne on-premise
- Prototypage rapide sans cloud
Accès & disponibilité
Caractéristiques clés
Combien ça coûte par mois
Estimation à partir des prix API sourcés et d’un palier matériel pour l’auto-hébergement. Hypothèses modifiables.
Hypothèses : 36 mois d’amortissement, 0.25 €/kWh, 22 jours/mois, conversion 1 $ = 0.92 €. Hors main-d’œuvre, hors licences logicielles, hors redondance.
nAIvigate Trust Index
Ce que l’éditeur offre et documente pour un usage professionnel en Europe. Un critère non documenté vaut zéro et reste visible : le score monte quand l’éditeur publie, pas quand nous supposons.
19/19 critères documentés · 100 % · dont 12 posés par règle
Voir les critères▾
Badge Trust Index
Affichez ce score dans votre documentation, votre README ou votre page sécurité. Il se met à jour automatiquement.
[](https://naivigate.com/fr/model/internlm3-8b)Données & conformité
Ce que nous savons, ligne par ligne, avec la source et la date. Ces lignes alimentent les familles Données et Entreprise du Trust Index ci-dessus. La conformité RGPD dépend de votre traitement, pas du modèle seul.
| Résidence des données en UE | Oui |
| Accord de traitement (DPA) | Sans objet· auto-hébergé : les données ne sortent pas |
| Transfert hors UE | Non |
| Entraînement sur vos données | Non |
| Rétention configurable | Sans objet· auto-hébergé : les données ne sortent pas |
| Zero Data Retention | Sans objet· auto-hébergé : les données ne sortent pas |
| Auto-hébergeable | Oui |
| Hébergement déclaré | self |
Qualité des données de la fiche
Ce score mesure la qualité des données de cette fiche : prix, contexte, Elo, licence, documentés, sourcés et récents. Il ne mesure ni le modèle ni sa conformité : pour cela, voir le Trust Index plus haut.
5/8 documentées · 1/8 sources primaires
Faire tourner en local
| Quantization | Disque | RAM / VRAM | Matériel type |
|---|---|---|---|
| Q4 · recommandé | 5 Go | 7 Go | PC 16 Go / Mac M1+ / GPU 8 Go |
| Q8 · équilibré | 9.4 Go | 12 Go | PC 32 Go / Mac 24 Go / RTX 4070 Ti+ |
| FP16 · qualité max | 17.6 Go | 21 Go | Mac 32 Go / RTX 3090-4090 |
Estimations pour un contexte modéré. Un long contexte augmente la RAM nécessaire (KV cache).
Déployer
Commandes prêtes à copier, générées depuis la fiche. Ajustez le contexte et le nombre de GPU à votre machine.
Serveur OpenAI-compatible pour la production sur GPU NVIDIA.
pip install vllm
vllm serve internlm/internlm3-8b-instruct \
--max-model-len 32000 \
--tensor-parallel-size 1 \
--dtype autoDonnées avancées · pour expertsArchitecture, modalités, coût détaillé, benchmarks complets▾
| Arena Elo | — |
| MMLU | — |
| GPQA | — |
| HumanEval | — |
| SWE-Bench | — |
| MATH | — |