🇪🇺 Europe (collectif)💻 CodeSortie février 2024
StarCoder 2
BigCode
Open-sourceGratuitSelf-hostRGPD
Verdict
Une option solide pour l'auto-hébergement et le contrôle total des données.
Présentation
StarCoder 2 est issu du collectif BigCode (HuggingFace + ServiceNow). Apache 2, training data 100% transparent, idéal pour les besoins de souveraineté absolue ou les déploiements locaux/edge. Performance en retrait des frontiers mais c'est le seul totalement transparent.
Profil de compétences
Benchmarks vérifiés
HumanEval46.3%
Que signifient ces scores ?
HumanEval46.3%correct
Génération de code Python à partir de spécifications.
Forces
- Dispose d'un tier gratuit
- Open-source et auto-hébergeable
Limites
- Filtres de sûreté légers
- Tarification API non publiée
À qui ça s'adresse
Pour vous si…
- vous codez avec un agent ou en autonomie
- vous voulez maîtriser vos coûts ou auto-héberger
- vous avez des contraintes RGPD
À éviter si…
- vous voulez des garde-fous stricts
Cas d'usage idéaux
- Autocomplétion locale
- Code on edge
- Apps légères
- IDE plugins
Accès & disponibilité
Tier gratuit disponibleAuto-hébergeable (poids ouverts)
Caractéristiques clés
Contexte
16K
Prix entrée
—
Prix sortie
—
Vitesse
200 tok/s
Prix non auditéBenchmarks non audités
Confidentialité
Conforme RGPDHébergement : EU/selfDonnées anonymisables
Faire tourner en local
PC avec bon GPU / Mac 32 Go+6k674
| Quantization | Disque | RAM / VRAM | Matériel type |
|---|---|---|---|
| Q4 · recommandé | 9.1 Go | 12 Go | PC 32 Go / Mac 24 Go / RTX 4070 Ti+ |
| Q8 · équilibré | 17.1 Go | 21 Go | Mac 32 Go / RTX 3090-4090 |
| FP16 · qualité max | 32 Go | 37 Go | Mac 64 Go / bi-GPU 24 Go |
Estimations pour un contexte modéré. Un long contexte augmente la RAM nécessaire (KV cache).
🤗 Hugging Face
ollama run starcoder2:15b
Données avancées · pour expertsArchitecture, modalités, coût détaillé, benchmarks complets▾
Données avancées · pour experts
Architecture, modalités, coût détaillé, benchmarks complets
Architecture
Dense
Taille
15B
Date de coupe
août 2023
Entrées
text
Sorties
code
Licence
apache-2
Hébergement
EU/self
Score d'hallucination
2/5
Coût estimé (API)
Échange type (~3k entrée / 1k sortie)
Non communiqué
1M entrée + 1M sortie
Non communiqué
Tous les benchmarks
| Arena Elo | — |
| MMLU | — |
| GPQA | — |
| HumanEval | 46.3% |
| SWE-Bench | — |
| MATH | — |