mistral 7B params Open Source
Mistral 7B v0.3 Instruct
Chat Code Multilingue
Mistral 7B v0.3 est la version affinée du modèle phare de Mistral AI, l'un des meilleurs LLM open source à 7 milliards de paramètres. Il excelle dans le suivi d'instructions, le code et les tâches générales tout en restant très léger à déployer localement.
Caractéristiques principales
Paramètres 7B params
RAM min (Q4) 6 Go
Contexte 32K tokens
Famille mistral
Année 2024
Use cases Chat, Code, Multilingue
Variantes disponibles
| Quantization | Taille | RAM requise | VRAM requise | Vitesse | HuggingFace |
|---|---|---|---|---|---|
| Q4_K_M | 4.4 Go | 6 Go | 5 Go | ~45 tok/s | HuggingFace → |
| Q8_0 | 7.7 Go | 10 Go | 8 Go | ~30 tok/s | HuggingFace → |
Installation
Ollama
La méthode la plus simple pour lancer Mistral 7B v0.3 Instruct en local.
ollama run mistral:7b Pas encore installé ? Voir le guide Ollama
LM Studio
Interface graphique pour exécuter Mistral 7B v0.3 Instruct sans ligne de commande.
- Télécharger et ouvrir LM Studio
- Aller dans l'onglet Discover
- Rechercher Mistral 7B v0.3 Instruct
- Sélectionner la variante souhaitée (Q4_K_M recommandé) et télécharger
- Charger le modèle et démarrer un chat
llama.cpp
Pour les utilisateurs avancés souhaitant un contrôle total sur l'inférence.
# Télécharger le modèle GGUF (exemple Q4_K_M)
huggingface-cli download \
mistralai/Mistral-7B-v0.3-Instruct \
--include "*.Q4_K_M.gguf" \
--local-dir ./models/mistral-7b-v0.3 Fichiers GGUF disponibles sur HuggingFace
Compatible avec votre machine ?
Scannez votre configuration matérielle pour savoir si Mistral 7B v0.3 Instruct peut tourner sur votre ordinateur - RAM, VRAM, et vitesse estimée.