🇨🇳 Chine generalistSortie janvier 2025
InternLM3 8B
Shanghai AI Lab
Open-sourceSelf-host
Verdict
Une option solide pour l'auto-hébergement et le contrôle total des données.
Profil de compétences
Non communiqué
Forces
- Open-source et auto-hébergeable
Limites
- Pas de garantie RGPD native
- Tarification API non publiée
À qui ça s'adresse
Pour vous si…
- vous voulez maîtriser vos coûts ou auto-héberger
À éviter si…
- vous manipulez des données sensibles européennes
Accès & disponibilité
Auto-hébergeable (poids ouverts)
Caractéristiques clés
Contexte
32K
Prix entrée
—
Prix sortie
—
Vitesse
—
Prix non auditéBenchmarks non audités
Confidentialité
Non conforme RGPD
Faire tourner en local
Tourne sur un laptop84k232
| Quantization | Disque | RAM / VRAM | Matériel type |
|---|---|---|---|
| Q4 · recommandé | 5 Go | 7 Go | PC 16 Go / Mac M1+ / GPU 8 Go |
| Q8 · équilibré | 9.4 Go | 12 Go | PC 32 Go / Mac 24 Go / RTX 4070 Ti+ |
| FP16 · qualité max | 17.6 Go | 21 Go | Mac 32 Go / RTX 3090-4090 |
Estimations pour un contexte modéré. Un long contexte augmente la RAM nécessaire (KV cache).
Données avancées · pour expertsArchitecture, modalités, coût détaillé, benchmarks complets▾
Données avancées · pour experts
Architecture, modalités, coût détaillé, benchmarks complets
Architecture
—
Taille
8.8B
Date de coupe
—
Entrées
text
Sorties
text
Licence
apache-2.0
Hébergement
—
Score d'hallucination
—
Coût estimé (API)
Échange type (~3k entrée / 1k sortie)
Non communiqué
1M entrée + 1M sortie
Non communiqué
Tous les benchmarks
| Arena Elo | — |
| MMLU | — |
| GPQA | — |
| HumanEval | — |
| SWE-Bench | — |
| MATH | — |