OLMo 2 32B
Une option solide pour l'auto-hébergement et le contrôle total des données.
Présentation
OLMo 2 32B est un modèle entièrement ouvert d'Allen AI : poids, code, données d'entraînement (Dolma) et checkpoints intermédiaires sont publics, avec un post-entraînement Tülu 3 (SFT, DPO, RLVR) qui le rend compétitif face à Qwen2.5-32B ou Mistral-Small-24B sur GSM8K et MATH. Sa fenêtre de contexte reste limitée à 4000 tokens, un vrai frein pour l'analyse de documents longs, et le modèle est conçu avant tout pour l'anglais. Sous licence Apache 2.0, il peut être déployé et fine-tuné en interne pour garder les données en Europe, sur une machine de bureau équipée d'un GPU correct.
Profil de compétences
Non communiqué
Trois mesures indépendantes
Ce que les gens préfèrent, ce que le modèle sait faire, ce que le marché utilise. Chaque source a ses biais, aucune ne suffit seule : nous les affichons séparément, sans les mélanger.
Forces
- Open-source et auto-hébergeable
Limites
- Tarification API non publiée
À qui ça s'adresse
- vous voulez maîtriser vos coûts ou auto-héberger
- vos données doivent rester en UE
Cas d'usage idéaux
- Recherche en IA ouverte
- Fine-tuning académique
- Comparaison de modèles ouverts
- Prototypage souverain local
Accès & disponibilité
Caractéristiques clés
Combien ça coûte par mois
Estimation à partir des prix API sourcés et d’un palier matériel pour l’auto-hébergement. Hypothèses modifiables.
Hypothèses : 36 mois d’amortissement, 0.25 €/kWh, 22 jours/mois, conversion 1 $ = 0.92 €. Hors main-d’œuvre, hors licences logicielles, hors redondance.
nAIvigate Trust Index
Ce que l’éditeur offre et documente pour un usage professionnel en Europe. Un critère non documenté vaut zéro et reste visible : le score monte quand l’éditeur publie, pas quand nous supposons.
19/19 critères documentés · 100 % · dont 12 posés par règle
Voir les critères▾
Badge Trust Index
Affichez ce score dans votre documentation, votre README ou votre page sécurité. Il se met à jour automatiquement.
[](https://naivigate.com/fr/model/olmo-2-32b)Données & conformité
Ce que nous savons, ligne par ligne, avec la source et la date. Ces lignes alimentent les familles Données et Entreprise du Trust Index ci-dessus. La conformité RGPD dépend de votre traitement, pas du modèle seul.
| Résidence des données en UE | Oui |
| Accord de traitement (DPA) | Sans objet· auto-hébergé : les données ne sortent pas |
| Transfert hors UE | Non |
| Entraînement sur vos données | Non |
| Rétention configurable | Sans objet· auto-hébergé : les données ne sortent pas |
| Zero Data Retention | Sans objet· auto-hébergé : les données ne sortent pas |
| Auto-hébergeable | Oui |
| Hébergement déclaré | self |
Qualité des données de la fiche
Ce score mesure la qualité des données de cette fiche : prix, contexte, Elo, licence, documentés, sourcés et récents. Il ne mesure ni le modèle ni sa conformité : pour cela, voir le Trust Index plus haut.
6/8 documentées · 2/8 sources primaires
Faire tourner en local
| Quantization | Disque | RAM / VRAM | Matériel type |
|---|---|---|---|
| Q4 · recommandé | 18.2 Go | 22 Go | Mac 32 Go / RTX 3090-4090 |
| Q8 · équilibré | 34.2 Go | 40 Go | Mac 64 Go / bi-GPU 24 Go |
| FP16 · qualité max | 64 Go | 72 Go | Mac Studio 96-128 Go / 4× GPU |
Estimations pour un contexte modéré. Un long contexte augmente la RAM nécessaire (KV cache).
Déployer
Commandes prêtes à copier, générées depuis la fiche. Ajustez le contexte et le nombre de GPU à votre machine.
Serveur OpenAI-compatible pour la production sur GPU NVIDIA.
pip install vllm
vllm serve allenai/OLMo-2-0325-32B-Instruct \
--max-model-len 4000 \
--tensor-parallel-size 1 \
--dtype autoDonnées avancées · pour expertsArchitecture, modalités, coût détaillé, benchmarks complets▾
| Arena Elo | 1252 |
| MMLU | — |
| GPQA | — |
| HumanEval | — |
| SWE-Bench | — |
| MATH | — |