Mistral Small 22B Instruct
Mistral Small 22B est le modèle intermédiaire de Mistral AI, offrant un excellent rapport performance/coût pour les entreprises. Il supporte 32K de contexte et se montre particulièrement efficace pour la génération de code, les tâches multilingues et le suivi d'instructions structurées.
Caractéristiques principales
Variantes disponibles
| Quantization | Taille | RAM requise | VRAM requise | Vitesse | HuggingFace |
|---|---|---|---|---|---|
| Q4_K_M | 13 Go | 18 Go | 14 Go | ~18 tok/s | HuggingFace → |
| Q8_0 | 23.5 Go | 28 Go | 24 Go | ~10 tok/s | HuggingFace → |
Installation
Ollama
La méthode la plus simple pour lancer Mistral Small 22B Instruct en local.
ollama run mistral-small:22b Pas encore installé ? Voir le guide Ollama
LM Studio
Interface graphique pour exécuter Mistral Small 22B Instruct sans ligne de commande.
- Télécharger et ouvrir LM Studio
- Aller dans l'onglet Discover
- Rechercher Mistral Small 22B Instruct
- Sélectionner la variante souhaitée (Q4_K_M recommandé) et télécharger
- Charger le modèle et démarrer un chat
llama.cpp
Pour les utilisateurs avancés souhaitant un contrôle total sur l'inférence.
# Télécharger le modèle GGUF (exemple Q4_K_M)
huggingface-cli download \
mistralai/Mistral-Small-22B-Instruct \
--include "*.Q4_K_M.gguf" \
--local-dir ./models/mistral-small-22b Fichiers GGUF disponibles sur HuggingFace
Compatible avec votre machine ?
Scannez votre configuration matérielle pour savoir si Mistral Small 22B Instruct peut tourner sur votre ordinateur - RAM, VRAM, et vitesse estimée.