- Accueil
- IA locale
OUTIL DE PRÉDIMENSIONNEMENT · 2026-11-05
Quel matériel pour votre IA Mistral locale ?
Une première estimation — sans compte, sans envoyer de documents. Décrivez votre usage et obtenez une configuration à discuter avec un spécialiste.
02 / Résultat indicatif
Modèle recommandé
03 / SOURCES
Modèles ouverts Mistral : poids, contexte et licences
Les dimensions de l’architecture viennent des fichiers config.json/params.json sur Hugging Face. Elles sont vérifiées le 2026-11-05. Les modèles retirés de l’API restent mentionnés si leurs poids sont disponibles.
| Modèle / dépôt source | Paramètres | Couches | Têtes KV | head_dim / MLA | Contexte maximal | Licence |
|---|---|---|---|---|---|---|
| Ministral 3 8B Instruct (2512) | 8.9B | 34 | 8 | 128 | 256k | Apache-2.0 |
| Ministral 3 14B Instruct (2512) | 13.9B | 40 | 8 | 128 | 256k | Apache-2.0 |
| Mistral Small 3.2 24B Instruct (2506)Retired from Mistral's API on 2026-07-31 (replaced by Mistral Small 4); open weights remain downloadable. | 24.0B | 40 | 8 | 128 | 128k | Apache-2.0 |
| Devstral Small 2 24B Instruct (2512) | 24.0B | 40 | 8 | 128 | 256k | Apache-2.0 |
| Mistral Small 4 119B (2603) — MoE | 119.4B6.5B actifs | 36 | — | MLA rank 256 + rope 64 | 256k | Apache-2.0 |
| Devstral 2 123B Instruct (2512) | 125.0B | 88 | 8 | 128 | 256k | Modified MITNot usable if the company's (or employer's) consolidated monthly revenue exceeds USD 20 million; commercial licence from Mistral AI otherwise. |
| Mistral Medium 3.5 128B | 127.7B | 88 | 8 | 128 | 256k | Modified MITNot usable if the company's (or employer's) consolidated monthly revenue exceeds USD 20 million; commercial licence from Mistral AI otherwise. |
| Mistral Large 3 675B Instruct (2512) — MoEModel card: FP8 runs on one 8×H200 (or B200) node; NVFP4 on one node of H100/A100. Parameter count from the model card (params.json has no total). | 675.0B41B actifs | 61 | — | MLA rank 512 + rope 64 | 256k | Apache-2.0 |
« Apache 2.0 » permet généralement un usage commercial sous réserve de respecter la licence. Les licences modifiées comportent des exceptions : lisez le texte lié pour votre activité.
04 / MÉTHODE
Comment nous calculons
Calcul reproductible à partir de la configuration publiée et de caractéristiques matérielles vérifiables. Pas de prix inventé.
1. Poids et KV-cache
poids (GB) = paramètres × bits / 8 / 10⁹KV GQA = 2 × couches × têtes KV × head_dim × octets × tokens × utilisateursKV MLA = couches × (kv_lora_rank + qk_rope_head_dim) × octets × tokens × utilisateursMémoire des poids ≈ paramètres × bits effectifs / 8. KV GQA = 2 (K+V) × couches × têtes KV × head_dim × octets par élément × contexte × utilisateurs. FP8 utilise 1 octet pour K/V ; llama.cpp utilise 2 octets. Besoin total = poids + KV + 10 % de marge de runtime + 2 Go fixes. Charge par utilisateur supposée 50 % du contexte réglé.
2. Débit et matériel
Débit de décodage estimé, pas mesuré : bande passante mémoire × efficacité supposée (GPU 50–75 %, Apple 45–70 %) / poids lus et KV-cache actifs. Modèle de bande passante, batch et kernels simplifié ; résultat réel varie fortement.
Capacité GPU utile estimée à 95 %, mémoire unifiée Apple à 75 %. Deux GPU ont besoin d’un modèle prenant en charge le sharding ; pénalité d’interconnexion estimée 15 %. RAM système ≈ mémoire GPU provisionnée, disque ≥ 2× les poids + 500 Go, alimentation ≈ 1,25× (GPU + 350 W). Sans prix : prix et disponibilité varient.
05 / IA PRIVÉE
Pourquoi une IA locale ?
Une installation locale peut éviter de transmettre les requêtes et documents à un fournisseur d’IA cloud. Mistral AI est une entreprise française, fondée à Paris. Le choix local peut être pertinent pour réduire certains flux de données ; il ne remplace ni une analyse juridique ni les contrôles de sécurité.
Aucune garantie juridique, RGPD, secret professionnel, HDS ou SecNumCloud n’est impliquée.
- RGPD · contrôle des flux à analyser
- Secret professionnel · configuration et accès
- HDS / SecNumCloud · certifications distinctes
- Mistral AI · entreprise française
06 / FAQ
Questions fréquentes
Un serveur local suffit-il pour le RGPD ?
Non. Il limite certains transferts à un fournisseur cloud, mais la conformité dépend de l’ensemble des traitements, mesures de sécurité, accès, sous-traitants et durées de conservation.
Qu’est-ce que HDS et SecNumCloud ?
Ce sont des cadres de certification distincts. Un modèle local ou un poste de travail ne devient pas automatiquement certifié HDS ou SecNumCloud. Faites valider le besoin de conformité applicable à votre activité.
Quelle quantification choisir ?
Q4 réduit la mémoire et peut dégrader certaines tâches ; Q8 est généralement plus proche des poids natifs et consomme davantage. Évaluez les deux sur un échantillon représentatif et la licence de la redistribution quantifiée.
Pourquoi multiplier le cache KV par les utilisateurs ?
Chaque séquence simultanée occupe son propre cache KV. La formule utilise le contexte et le nombre d’utilisateurs simultanés demandés.
Ces tokens/s sont-ils garantis ?
Non. Ce sont des fourchettes théoriques calculées à partir de la bande passante et de l’efficacité supposée. Le modèle serveur, kernels, batching, quantification et longueur de sortie changent le débit.
Quelles données restent locales ?
Les requêtes et documents envoyés au modèle peuvent rester sur votre serveur si le système n’appelle pas de service cloud. Logs, télémétrie, sauvegardes et intégrations doivent aussi être audités.
Mac ou GPU NVIDIA ?
La mémoire unifiée permet des modèles qui ne tiennent pas dans la VRAM d’un seul GPU, mais partage la mémoire avec le système. GPU dédié offre souvent un chemin CUDA plus adapté à vLLM et au service de plusieurs utilisateurs.
Puis-je traiter des données de santé ?
Ne déduisez pas l’éligibilité HDS de la seule installation locale. Cartographiez les données et faites vérifier l’hébergement et les obligations sectorielles avant traitement.
Discuter cette configuration
La configuration est transmise au formulaire de contact pour un échange contextualisé.