Voxtral Mini 3B
Une option solide pour l'auto-hébergement et le contrôle total des données.
Présentation
Voxtral Mini 3B est l'extension audio de Ministral 3B signée Mistral AI : il transcrit, traduit et résume la parole dans huit langues, avec une fenêtre de 32 000 tokens couvrant jusqu'à 40 minutes d'audio en une passe. Limite réelle : les prompts système ne sont pas encore supportés, ce qui complique son usage dans des chaînes d'agents complexes. Sous licence Apache 2.0 et exécutable sur un simple laptop, il garde toutes les données sur site — un vrai atout pour les organisations européennes attentives à la souveraineté numérique.
Profil de compétences
Non communiqué
Forces
- Open-source et auto-hébergeable
Limites
- Tarification API non publiée
À qui ça s'adresse
- vous voulez maîtriser vos coûts ou auto-héberger
- vous avez des contraintes RGPD
Cas d'usage idéaux
- Transcription de réunions confidentielles
- Traduction vocale multilingue
- Résumé automatique d'appels
- Commandes vocales vers API
- Sous-titrage local sécurisé
Accès & disponibilité
Caractéristiques clés
Confidentialité
Faire tourner en local
| Quantization | Disque | RAM / VRAM | Matériel type |
|---|---|---|---|
| Q4 · recommandé | 1.7 Go | 4 Go | Tout PC/Mac récent |
| Q8 · équilibré | 3.2 Go | 6 Go | Tout PC/Mac récent |
| FP16 · qualité max | 6 Go | 9 Go | PC 16 Go / Mac M1+ / GPU 8 Go |
Estimations pour un contexte modéré. Un long contexte augmente la RAM nécessaire (KV cache).
Déployer
Commandes prêtes à copier, générées depuis la fiche. Ajustez le contexte et le nombre de GPU à votre machine.
Serveur OpenAI-compatible pour la production sur GPU NVIDIA.
pip install vllm
vllm serve mistralai/Voxtral-Mini-3B-2507 \
--max-model-len 32000 \
--tensor-parallel-size 1 \
--dtype autoDonnées avancées · pour expertsArchitecture, modalités, coût détaillé, benchmarks complets▾
| Arena Elo | — |
| MMLU | — |
| GPQA | — |
| HumanEval | — |
| SWE-Bench | — |
| MATH | — |