🇨🇦 Canada multilingualSortie octobre 2024
Aya Expanse 32B
Cohere
Open-sourceSelf-host
Verdict
Une option solide pour l'auto-hébergement et le contrôle total des données.
Profil de compétences
Non communiqué
Forces
- Open-source et auto-hébergeable
Limites
- Pas de garantie RGPD native
- Tarification API non publiée
À qui ça s'adresse
Pour vous si…
- vous voulez maîtriser vos coûts ou auto-héberger
À éviter si…
- vous manipulez des données sensibles européennes
Accès & disponibilité
Auto-hébergeable (poids ouverts)
Caractéristiques clés
Contexte
128K
Prix entrée
—
Prix sortie
—
Vitesse
—
Prix non auditéBenchmarks non audités
Confidentialité
Non conforme RGPD
Faire tourner en local
PC avec bon GPU / Mac 32 Go+4k298
| Quantization | Disque | RAM / VRAM | Matériel type |
|---|---|---|---|
| Q4 · recommandé | 18.4 Go | 22 Go | Mac 32 Go / RTX 3090-4090 |
| Q8 · équilibré | 34.6 Go | 40 Go | Mac 64 Go / bi-GPU 24 Go |
| FP16 · qualité max | 64.6 Go | 73 Go | Mac Studio 96-128 Go / 4× GPU |
Estimations pour un contexte modéré. Un long contexte augmente la RAM nécessaire (KV cache).
🤗 Hugging Face
ollama run aya-expanse:32b
Données avancées · pour expertsArchitecture, modalités, coût détaillé, benchmarks complets▾
Données avancées · pour experts
Architecture, modalités, coût détaillé, benchmarks complets
Architecture
—
Taille
32.3B
Date de coupe
—
Entrées
text
Sorties
text
Licence
cc-by-nc-4.0
Hébergement
—
Score d'hallucination
—
Coût estimé (API)
Échange type (~3k entrée / 1k sortie)
Non communiqué
1M entrée + 1M sortie
Non communiqué
Tous les benchmarks
| Arena Elo | — |
| MMLU | — |
| GPQA | — |
| HumanEval | — |
| SWE-Bench | — |
| MATH | — |