LLM open source en local : lesquels passent sur un PC en 2026 ?

En 2026, la question n’est plus de savoir si l’on peut exécuter un grand modèle de langage en local, mais quels modèles restent réellement praticables sur un PC standard, avec quels compromis, et pour quels usages. Le marché a changé vite : Mistral a multiplié les formats ouverts et comprimés pour ses familles Mistral 3 et Mistral Small ; Google a poussé Gemma 3 puis Gemma 4, avec des variantes explicitement pensées pour des GPU grand public ; DeepSeek a imposé un nouveau référentiel pour le raisonnement, surtout via ses distillations ; et l’écosystème Hugging Face, llama.cpp, vLLM ou encore bitsandbytes a transformé ce qui relevait encore du bricolage en workflow presque industriel. Mais cette démocratisation a aussi créé un malentendu : “tourner en local” ne veut pas dire la même chose selon qu’on parle d’un portable 16 Go de RAM, d’un PC avec une RTX 4060 8 Go, d’une station 64 Go de RAM sans GPU puissant, ou d’une machine à 24 Go de VRAM. ([github.com](https://github.com/ggerganov/llama.cpp?ref=sych.io&utm_source=openai))

Le vrai sujet, pour un usage local sérieux, n’est donc pas le benchmark de laboratoire mais la compatibilité opérationnelle. Il faut regarder la taille du modèle, son format, sa quantification, l’outil d’inférence disponible, la mémoire requise, la vitesse obtenue et, surtout, le type de travail que l’on attend de lui. Un modèle de 24 à 27 milliards de paramètres peut être “runnable” sur une machine grand public une fois quantifié, sans pour autant devenir agréable à utiliser pour de longues sessions, du code, du RAG ou du multimodal. À l’inverse, un modèle de 3 à 9 milliards de paramètres peut offrir une bien meilleure expérience quotidienne si l’objectif est l’assistance bureautique, l’IDE local, le support interne ou le travail hors ligne. C’est cette hiérarchie réaliste qu’il faut reconstituer. ([huggingface.co](https://huggingface.co/mistralai/Mistral-Small-3.1-24B-Instruct-2503))

Ce qu’on appelle vraiment un “PC standard” en 2026

Pour éviter les faux débats, il faut définir le terrain. Dans cet article, un PC standard ne désigne ni une workstation multi-GPU, ni un serveur, ni un simple ultrabook d’entrée de gamme. C’est plutôt l’une de ces trois configurations courantes : un portable ou desktop avec 16 à 32 Go de RAM et sans gros GPU dédié ; un PC équipé d’une carte graphique grand public avec 8 à 12 Go de VRAM ; ou une machine plus confortable, encore “grand public”, avec 32 à 64 Go de RAM et éventuellement 16 à 24 Go de VRAM. Cette distinction compte davantage que le nombre brut de paramètres, car le facteur limitant n’est pas seulement la taille des poids mais aussi la mémoire pour le cache de contexte, les activations, le multimodal et la fluidité de l’interface. Les documentations de Hugging Face et de llama.cpp rappellent d’ailleurs que la quantification et le format de déploiement déterminent directement l’accessibilité pratique des modèles locaux. ([huggingface.co](https://huggingface.co/docs/transformers/v4.50.0/quantization/bitsandbytes?utm_source=openai))

Un autre point est souvent sous-estimé : en local, on n’exécute pas “le modèle” au sens abstrait, mais une variante précise de ce modèle. Un checkpoint BF16, une version 8-bit bitsandbytes, une conversion GGUF Q4_K_M ou un modèle QAT officiel n’offrent ni la même empreinte mémoire, ni la même vitesse, ni la même fidélité. La documentation de Hugging Face explique qu’une quantification 8-bit divise en gros par deux l’usage mémoire, tandis que la 4-bit compresse davantage encore ; le README de quantization de llama.cpp détaille de son côté le compromis entre taille, rapidité et perte de qualité selon les schémas Q4, Q5 ou Q6. En clair, quand on demande si un modèle “tourne sur un PC standard”, la seule réponse honnête est : oui, parfois, mais seulement dans certains formats et pour certains scénarios. ([huggingface.co](https://huggingface.co/docs/transformers/v4.50.0/quantization/bitsandbytes?utm_source=openai))

La règle d’or : la quantification change tout

La plupart des modèles cités dans les annonces officielles sont publiés en précision élevée, puis déclinés par l’écosystème en versions compressées. Hugging Face documente le chargement 8-bit et 4-bit via bitsandbytes, tandis que llama.cpp structure le monde CPU et hybride autour du format GGUF et de multiples schémas de quantification. Dans les grandes lignes, la quantification réduit drastiquement l’empreinte mémoire des poids et rend possible l’inférence sur du matériel qui serait sinon insuffisant, au prix d’une perte de qualité variable selon le modèle, le type de quant et la tâche. Les formats Q4 restent le point d’équilibre le plus courant pour le local ; Q5 et Q6 visent une meilleure fidélité ; et les quants très agressives descendent plus bas, mais avec des compromis plus sensibles. ([github.com](https://github.com/ggml-org/llama.cpp/blob/master/tools/quantize/README.md?utm_source=openai))

Si l’on raisonne de manière théorique, un modèle de 24 milliards de paramètres en 4-bit représente environ 13,5 Go pour les poids, un 27B environ 15,19 Go, un 14B environ 7,88 Go, un 9B autour de 5,06 Go, un 8B autour de 4,5 Go et un 3B autour de 1,69 Go. Ces chiffres ne suffisent pas à prévoir la mémoire totale réellement nécessaire, mais ils donnent une bonne boussole pour classer les familles. Ils montrent surtout pourquoi les 7B à 9B restent la zone de confort du “vrai local”, pourquoi les 12B à 14B constituent aujourd’hui le palier supérieur raisonnable sur machine grand public, et pourquoi les 24B à 27B ne deviennent crédibles qu’avec une machine déjà bien équipée ou un usage patient.

Mistral : l’école du modèle local pragmatique

Mistral reste, en 2026, l’un des acteurs les plus structurants pour le local. Son centre d’aide indique que la plupart de ses modèles ouverts sont publiés sous licence Apache 2.0, certains autres relevant d’une licence MIT modifiée avec une condition spécifique pour les entreprises dépassant 20 millions de dollars de chiffre d’affaires mensuel. Surtout, Mistral documente explicitement la possibilité de télécharger et d’exécuter ses modèles ouverts en local via Hugging Face. Cet effort de distribution compte autant que la qualité brute du modèle : un modèle local n’existe vraiment pour le marché que s’il est accessible, documenté et compatible avec les outils d’inférence courants. ([help.mistral.ai](https://help.mistral.ai/fr/articles/347393-sous-quelle-licence-les-modeles-ouverts-de-mistral-sont-ils-disponibles?utm_source=openai))

La première force de Mistral est d’avoir segmenté son offre. D’un côté, la famille Ministral 3 vise les usages edge et local avec des modèles denses de 3B, 8B et 14B, publiés en versions base, instruct et reasoning, avec capacités multimodales et multilingues selon l’annonce de Mistral 3. De l’autre, Mistral Small 3 et surtout Mistral Small 3.1 occupent le haut du segment “encore localisable”. L’annonce de Mistral 3 précise aussi que tous ces modèles sont publiés sous Apache 2.0 et que Mistral diffuse des formats compressés pour faciliter l’accès communautaire. Cela fait de Mistral l’une des gammes les plus cohérentes pour qui veut un escalier progressif du 3B au 24B sans sortir du même écosystème. ([mistral.ai](https://mistral.ai/news/mistral-3/))

Pour un PC standard, la famille Ministral 3 est probablement la plus stratégique. Le 3B s’adresse aux machines très contraintes, au prototypage embarqué, au support offline simple et aux assistants locaux légers. Le 8B apparaît comme le cœur de cible pour un poste développeur ou bureautique sérieux. Le 14B, lui, commence à proposer un palier qualitatif supérieur tout en restant dans une zone encore plausible pour une machine avec bonne RAM ou GPU correct une fois quantifié. Mistral ne fournit pas, dans l’annonce citée ici, un tableau universel de mémoire locale poste par poste ; en revanche, la simple publication des tailles 3B, 8B et 14B pour “edge and local use cases” est un signal clair sur l’intention produit. ([mistral.ai](https://mistral.ai/news/mistral-3/))

Mistral Small 3, présenté en janvier 2025, a été conçu, selon Mistral, pour “saturer” la performance à une taille adaptée au déploiement local. L’entreprise le décrit comme un modèle dense de 24B, optimisé pour la latence, avec plus de 81 % sur MMLU et une latence annoncée de 150 tokens par seconde dans ses propres conditions de test. Mistral ajoute qu’il serait plus de trois fois plus rapide que Llama 3.3 70B sur le même matériel. Comme toujours avec les chiffres éditeur, il faut rester prudent sur la transférabilité réelle à toutes les machines, mais le message important est ailleurs : Mistral a clairement ciblé le segment du “grand modèle encore local”. ([mistral.ai](https://mistral.ai/fr/news/mistral-small-3/?utm_source=openai))

Mistral Small 3.1 confirme cette ambition. Sa carte de modèle sur Hugging Face indique 24 milliards de paramètres, un contexte jusqu’à 128k tokens, une amélioration de la vision et, surtout, une affirmation très concrète pour notre sujet : le modèle “fits within a single RTX 4090 or a 32GB RAM MacBook once quantized”. Cette précision ne veut pas dire qu’un 24B devient soudain confortable partout ; elle signifie qu’en 2026, le haut de gamme “local personnel” s’arrête désormais quelque part autour de ce niveau. Sa carte compare aussi Mistral Small 3.1 24B à Gemma 3 27B IT sur plusieurs benchmarks texte et vision, avec des résultats compétitifs des deux côtés selon les tâches. ([huggingface.co](https://huggingface.co/mistralai/Mistral-Small-3.1-24B-Instruct-2503))

En pratique éditoriale, cela place Mistral en trois couches très lisibles. Pour du local quotidien sans prise de tête, il faut regarder d’abord Ministral 8B, puis 14B si la machine le permet. Pour un poste individuel plus musclé, Mistral Small 3.1 24B devient envisageable, surtout pour qui valorise le multilingue, le long contexte et certains usages documentaires ou visuels. En revanche, les très gros modèles MoE de la marque ne relèvent déjà plus du PC standard : l’annonce de Mistral 3 décrit Mistral Large 3 comme un MoE à 41B actifs et 675B totaux, optimisé pour des systèmes de type 8×A100 ou 8×H100 avec un checkpoint NVFP4, ce qui le sort clairement de notre périmètre. ([mistral.ai](https://mistral.ai/news/mistral-3/))

Gemma : le camp Google, de l’ultra-compact au 27B grand public ambitieux

Gemma s’est imposée comme l’autre grande famille à considérer pour le local, notamment parce que Google a structuré très tôt son offre par paliers de taille. Le billet de présentation de Gemma 3 sur le blog développeur de Google mentionne quatre tailles — 1B, 4B, 12B et 27B — en versions préentraînées et instruction-tunées, ainsi qu’un support multilingue sur plus de 140 langues. Sur Hugging Face, les dépôts Gemma 3 correspondants sont bien visibles, de 1B à 27B, avec les variantes instruction et quantized-aware-trained officielles pour plusieurs modèles. ([developers.googleblog.com](https://developers.googleblog.com/en/introducing-gemma3/?linkId=13402771&utm_source=openai))

Le point différenciant de Gemma n’est pas seulement la qualité, mais la clarté de l’échelonnement matériel. Le billet officiel consacré aux modèles Gemma 3 QAT explique explicitement qu’ils visent les GPU grand public et affirme qu’un Gemma 3 27B peut tourner localement sur une carte comme la RTX 3090 grâce à ces versions quantization-aware-trained. Le même billet donne des repères de taille mémoire particulièrement utiles : le 1B passe d’environ 2 Go en BF16 à 0,5 Go en int4 ; le 4B peut se loger sur des GPU de 6 Go ; le 12B sur des GPU de 12 Go ; et le 27B sur des cartes de 24 Go. C’est l’un des rares cas où un éditeur fournit des balises aussi directement actionnables pour l’utilisateur local. ([developers.googleblog.com](https://developers.googleblog.com/en/gemma-3-quantized-aware-trained-state-of-the-art-ai-to-consumer-gpus/?_bhlid=25d90bb91477b6c91ba873976322fdd3407f338c&linkId=14034718&utm_source=openai))

Cette grille rend Gemma très facile à recommander. Un Gemma 3 1B ou 4B répond à des besoins de test, d’embarqué léger ou d’assistance simple sur machine modeste. Le 12B représente le palier très intéressant pour une carte de 12 Go, avec une montée notable en qualité sans entrer dans le territoire des configurations élitistes. Le 27B, lui, est davantage un “local premium” qu’un vrai modèle pour PC moyen : oui, il reste du côté grand public au sens large, mais seulement pour des machines déjà bien dotées. La comparaison avec Mistral Small 3.1 est ici frontale, puisque la carte de Mistral cite justement Gemma 3 27B IT parmi ses principaux points de référence texte et vision. ([developers.googleblog.com](https://developers.googleblog.com/en/gemma-3-quantized-aware-trained-state-of-the-art-ai-to-consumer-gpus/?_bhlid=25d90bb91477b6c91ba873976322fdd3407f338c&linkId=14034718&utm_source=openai))

Il faut toutefois noter une nuance importante côté licences et accessibilité. Le dépôt Hugging Face de Gemma indique que l’accès aux fichiers impose d’accepter les conditions d’utilisation de Google. On reste donc dans l’univers des open models distribués largement, mais pas dans le schéma ultra-permissif Apache 2.0 que Mistral met en avant pour une grande partie de ses modèles ouverts. Pour certaines équipes juridiques ou sécurité, ce point peut peser autant que la qualité technique. ([huggingface.co](https://huggingface.co/google/gemma-3-270m))

À l’usage, Gemma est particulièrement crédible pour ceux qui veulent un continuum allant du très petit modèle jusqu’au gros modèle personnel, avec une bonne maturité communautaire et une forte présence sur Hugging Face. En revanche, pour un poste de travail ordinaire, les versions 12B et en dessous resteront les plus rationnelles. Le 27B est un exploit d’accessibilité plus qu’un choix universel. Il tourne, oui ; il ne “tourne bien” que sur une fraction du parc installé. ([developers.googleblog.com](https://developers.googleblog.com/en/gemma-3-quantized-aware-trained-state-of-the-art-ai-to-consumer-gpus/?_bhlid=25d90bb91477b6c91ba873976322fdd3407f338c&linkId=14034718&utm_source=openai))

DeepSeek : excellent pour le raisonnement, mais à sélectionner avec discipline

DeepSeek est devenu incontournable dès qu’on parle de raisonnement ouvert, mais c’est aussi la famille qu’il faut aborder avec le plus de discipline si l’on parle vraiment de PC standard. Le dépôt Hugging Face de DeepSeek-R1 est celui d’un très grand modèle de raisonnement, sous licence MIT selon sa carte. Le modèle de base sert surtout de vitrine technologique et de référence de benchmark ; il n’est pas le candidat naturel au poste client local moyen. ([huggingface.co](https://huggingface.co/deepseek-ai/DeepSeek-R1?utm_source=openai))

Pour le local, ce sont les distillations qui comptent. La carte de DeepSeek-R1-Distill-Qwen-7B montre une disponibilité directe dans Transformers, vLLM, SGLang, Docker Model Runner et des quantifications consultables pour llama.cpp, Ollama ou LM Studio. C’est exactement ce qu’on attend d’un modèle local moderne : un socle de qualité hérité d’une grande lignée de raisonnement, mais décliné dans une taille encore praticable. À 7B, ce type de modèle entre dans la zone où l’on peut réellement envisager une utilisation quotidienne sur machine grand public, surtout quantifiée. ([huggingface.co](https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B))

Le compromis DeepSeek est assez net. En échange de bonnes performances en raisonnement pour sa taille, on accepte souvent une génération plus verbeuse, des temps de réponse qui peuvent souffrir sur matériel limité, et parfois une expérience moins nerveuse que des modèles plus compacts ou plus explicitement optimisés pour la latence. Mistral le suggérait d’ailleurs indirectement dès la présentation de Mistral Small 3, en expliquant que ce dernier n’était ni entraîné avec RL ni avec données synthétiques et se situait plus tôt dans le pipeline que des modèles comme DeepSeek R1, présenté comme complémentaire. Cela revient à distinguer deux familles d’usage : les modèles efficaces pour le “80 %” des tâches de génération rapide, et les modèles davantage orientés raisonnement. ([mistral.ai](https://mistral.ai/fr/news/mistral-small-3/?utm_source=openai))

Sur un PC standard, la bonne stratégie consiste donc rarement à viser le plus gros DeepSeek disponible. Il vaut mieux sélectionner un distillé 7B ou 8B pour la réflexion structurée, les plans, certaines tâches de code ou de math, tout en acceptant qu’un modèle de même taille chez Mistral ou Gemma puisse paraître plus vif en conversation générale. DeepSeek n’est pas le mauvais choix pour le local ; c’est le mauvais choix si l’on confond performance de leaderboard et confort quotidien sur une machine ordinaire. ([huggingface.co](https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B))

GLM : une option crédible, surtout si votre contexte est multilingue ou sinophone

La famille GLM de THUDM, reprise aussi sous l’organisation zai-org sur Hugging Face, reste pertinente dans le paysage local, même si elle occupe moins le centre du débat occidental que Mistral, Gemma ou DeepSeek. La documentation Transformers de Hugging Face fournit un exemple explicite de chargement de THUDM/glm-4-9b-chat via AutoModelForCausalLM et trust_remote_code, ce qui confirme son intégration opérationnelle dans l’écosystème. On trouve en outre des conversions GGUF et des variantes 4-bit publiées sur Hugging Face par la communauté, signe d’une appropriation réelle pour le local. ([huggingface.co](https://huggingface.co/docs/transformers/v4.49.0/en/model_doc/glm))

À 9B, GLM-4-9B se situe dans une zone de taille très intéressante. Théoriquement, des poids 4-bit représentent un peu plus de 5 Go, ce qui en fait un gabarit proche du 8B “confortable”, tout en laissant espérer un peu plus de réserve qualitative selon les usages. Son intérêt est particulièrement fort pour les équipes qui travaillent en chinois ou dans des environnements multilingues où la famille GLM bénéficie d’une réputation solide. En revanche, l’écosystème autour de GLM reste un peu moins standardisé, et l’usage de trust_remote_code ou de conversions communautaires peut être un frein dans des contextes entreprise très verrouillés. ([huggingface.co](https://huggingface.co/docs/transformers/v4.49.0/en/model_doc/glm))

Autrement dit, GLM n’est pas le premier modèle à conseiller par défaut à tout le monde. C’est un choix pertinent pour des besoins linguistiques spécifiques, pour des équipes déjà familières de l’écosystème THUDM/Z.ai, ou pour celles qui veulent un 9B compétitif sortant du duo Mistral-Gemma. Sur un poste standard, il est réaliste ; sur un parc hétérogène d’entreprise, il demandera un peu plus de validation et d’industrialisation. ([huggingface.co](https://huggingface.co/docs/transformers/v4.49.0/en/model_doc/glm))

Hugging Face n’est pas un modèle, mais c’est l’infrastructure décisive

Il faut distinguer les familles de modèles et l’écosystème qui les rend réellement utilisables. Sur ce point, Hugging Face joue un rôle central. Les cartes de modèles, les déclinaisons quantifiées, les collections GGUF, la documentation Transformers et l’intégration avec bitsandbytes ont transformé le déploiement local. La page de documentation bitsandbytes de Transformers explique précisément le chargement en 8-bit et 4-bit ; la documentation sur la quantification rappelle que plusieurs backends coexistent ; et les pages de modèles montrent souvent, pour un même checkpoint, les chemins vers Transformers, vLLM, SGLang, Docker, llama.cpp ou des applications locales compatibles. ([huggingface.co](https://huggingface.co/docs/transformers/v4.50.0/quantization/bitsandbytes?utm_source=openai))

La couche Hugging Face change aussi la nature de la décision. En 2026, choisir un LLM local, ce n’est plus seulement arbitrer entre Mistral, Gemma ou DeepSeek. C’est aussi choisir un niveau de maturité d’outillage. Un modèle qui dispose d’une carte propre, de quants GGUF maintenues, d’un support bitsandbytes, d’un chemin vLLM et de nombreux retours communautaires “tournera” mieux dans la vraie vie qu’un concurrent théoriquement bon mais pauvrement intégré. Pour un média ou une PME, cette maturité opérationnelle vaut parfois plus qu’un écart de quelques points sur un benchmark académique. ([github.com](https://github.com/ggerganov/llama.cpp?ref=sych.io&utm_source=openai))

Vitesse, qualité, confidentialité : les trois compromis qui décident vraiment

Le premier compromis est la vitesse. Mistral a beaucoup communiqué sur la latence de Mistral Small 3, avec 150 tokens par seconde dans ses conditions, ainsi que sur son optimisation pour les réponses rapides. À l’autre extrémité, les modèles de raisonnement plus verbeux, en particulier certaines déclinaisons inspirées de DeepSeek, peuvent produire des réponses plus longues et donc sembler plus lents à matériel identique. Mistral souligne d’ailleurs, à propos de Mistral Small 4, que ce modèle de reasoning génère des sorties nettement plus courtes que certains concurrents pour des performances comparables sur ses benchmarks internes. Cela rappelle une réalité pratique : un modèle n’est pas seulement rapide par token, il est aussi plus ou moins bavard. ([mistral.ai](https://mistral.ai/fr/news/mistral-small-3/?utm_source=openai))

Le deuxième compromis est la qualité utile. Les très petits modèles peuvent suffire pour de la reformulation, du classement, de la traduction assistée ou du support interne simple. Dès qu’on monte vers la programmation, l’analyse documentaire, les consignes nuancées ou le raisonnement, les 7B à 14B constituent généralement le meilleur rapport qualité-faisabilité. Au-delà, les 24B à 27B offrent un saut appréciable, mais pas toujours proportionnel au coût matériel. La carte de Mistral Small 3.1 montre par exemple des résultats compétitifs face à Gemma 3 27B IT sur plusieurs jeux de benchmarks ; ce type de voisinage confirme que le segment 24B-27B représente aujourd’hui le haut du local personnel sérieux, mais pas forcément la cible par défaut pour une flotte de PC standard. ([huggingface.co](https://huggingface.co/mistralai/Mistral-Small-3.1-24B-Instruct-2503))

Le troisième compromis est la confidentialité. Ici, le local garde un avantage structurel : les données restent sur le poste ou dans l’environnement contrôlé par l’entreprise. C’est précisément l’un des cas d’usage mis en avant par Mistral pour ses modèles ouverts, avec une référence explicite aux organisations manipulant des données sensibles dans la carte de Mistral Small 3.1. Cette promesse n’exonère pas de gouvernance — journalisation, chiffrement, contrôle des accès, validation des paquets et des modèles téléchargés restent nécessaires — mais elle change radicalement la surface d’exposition par rapport à un appel systématique à une API externe. ([huggingface.co](https://huggingface.co/mistralai/Mistral-Small-3.1-24B-Instruct-2503))

Quels modèles tournent vraiment sur un PC standard ? La réponse courte

Si l’on parle d’une machine modeste, sans gros GPU et avec 16 à 32 Go de RAM, les modèles qui “tournent vraiment” sont d’abord les 1B à 4B, puis certains 7B à 9B bien quantifiés via GGUF ou 4-bit. Dans cette zone, Gemma 3 1B et 4B, Ministral 3B, et des distillés DeepSeek 7B sont les candidats naturels. On n’obtient pas une expérience miracle, mais on obtient quelque chose de réellement exploitable pour de nombreux usages simples à intermédiaires. ([developers.googleblog.com](https://developers.googleblog.com/en/gemma-3-quantized-aware-trained-state-of-the-art-ai-to-consumer-gpus/?_bhlid=25d90bb91477b6c91ba873976322fdd3407f338c&linkId=14034718&utm_source=openai))

Si l’on parle d’un PC équipé d’un GPU de 8 à 12 Go de VRAM, le vrai cœur de marché se situe entre 7B et 14B. C’est ici que les choix deviennent les plus intéressants : Mistral/Ministral 8B et 14B, GLM-4-9B, Gemma 3 12B sur les machines les mieux dotées de cette classe, ainsi que plusieurs distillés DeepSeek. Cette tranche offre le meilleur rapport entre vitesse, qualité et coût matériel. ([mistral.ai](https://mistral.ai/news/mistral-3/))

Enfin, si l’on parle d’un PC “standard haut de gamme” avec 24 Go de VRAM ou 32 à 64 Go de RAM bien exploitée, alors Mistral Small 3.1 24B et Gemma 3 27B deviennent réalistes. Mistral indique explicitement qu’une version quantifiée de Small 3.1 tient dans une RTX 4090 ou un MacBook 32 Go ; Google affirme qu’un Gemma 3 27B en QAT peut tourner sur une RTX 3090. Ces deux références délimitent assez bien la frontière du local ambitieux, sans basculer dans le serveur. ([huggingface.co](https://huggingface.co/mistralai/Mistral-Small-3.1-24B-Instruct-2503))

Tableau de décision : quel choix pour quel profil ?

• Développeur individuel sur PC 32 Go RAM ou GPU 8 à 12 Go : viser d’abord un 7B à 9B pour le confort quotidien, par exemple un distillé DeepSeek 7B pour le raisonnement, ou un Ministral 8B / GLM-4-9B pour l’équilibre général. Monter vers 12B ou 14B si la machine suit. ([huggingface.co](https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B))
• PME cherchant un assistant interne local : privilégier un modèle dense de 8B à 14B avec licence claire et bon support d’outillage. Mistral est souvent le plus simple à industrialiser grâce à l’Apache 2.0 fréquent et à la distribution locale documentée ; Gemma 12B devient pertinent si l’équipe accepte la licence Google et dispose du GPU adapté. ([help.mistral.ai](https://help.mistral.ai/fr/articles/347393-sous-quelle-licence-les-modeles-ouverts-de-mistral-sont-ils-disponibles?utm_source=openai))
• Équipe sécurité ou environnement sensible : préférer un modèle local bien documenté, avec chaîne d’approvisionnement claire, formats stables et exécution hors ligne. Mistral Small 3.1 est explicitement positionné pour les organisations gérant des données sensibles, mais un 8B à 14B sera souvent plus simple à déployer sur l’ensemble du parc. ([huggingface.co](https://huggingface.co/mistralai/Mistral-Small-3.1-24B-Instruct-2503))
• Usage offline strict sur laptop ou machine sans gros GPU : rester sur 1B à 4B pour la fiabilité, voire 7B quantifié si la RAM est suffisante et si l’on accepte une vitesse moindre. Gemma 3 1B/4B et Ministral 3B sont les plus cohérents dans ce scénario. ([developers.googleblog.com](https://developers.googleblog.com/en/gemma-3-quantized-aware-trained-state-of-the-art-ai-to-consumer-gpus/?_bhlid=25d90bb91477b6c91ba873976322fdd3407f338c&linkId=14034718&utm_source=openai))
• Poste “power user” avec 24 Go de VRAM : considérer Mistral Small 3.1 24B ou Gemma 3 27B. Ce sont les options de référence quand on veut le plus haut niveau encore localisable sur matériel personnel haut de gamme. ([huggingface.co](https://huggingface.co/mistralai/Mistral-Small-3.1-24B-Instruct-2503))
• Contexte multilingue fortement orienté chinois : GLM-4-9B mérite un pilote, à condition d’accepter un écosystème un peu moins standardisé que celui de Mistral ou Gemma. ([huggingface.co](https://huggingface.co/docs/transformers/v4.49.0/en/model_doc/glm))

Notre comparatif éditorial : les meilleures options réalistes en 2026

Meilleur point d’entrée ultra-léger : Gemma 3 1B ou Ministral 3B. Leur intérêt n’est pas de rivaliser avec des modèles beaucoup plus gros, mais d’offrir un vrai local de proximité sur matériel contraint. Google documente particulièrement bien les tailles mémoire de Gemma 3 QAT, ce qui facilite l’anticipation matérielle. ([developers.googleblog.com](https://developers.googleblog.com/en/gemma-3-quantized-aware-trained-state-of-the-art-ai-to-consumer-gpus/?_bhlid=25d90bb91477b6c91ba873976322fdd3407f338c&linkId=14034718&utm_source=openai))

Meilleur équilibre grand public : la zone 8B à 9B. Ministral 8B, GLM-4-9B et DeepSeek-R1-Distill-Qwen-7B sont aujourd’hui les formats les plus rationnels pour un développeur, une petite équipe ou un usage personnel avancé. Ils restent quantifiables sans violence, compatibles avec l’outillage courant et assez bons pour des usages sérieux. ([mistral.ai](https://mistral.ai/news/mistral-3/))

Meilleur palier de qualité encore raisonnable : 12B à 14B. Gemma 3 12B bénéficie d’un balisage matériel officiel vers les GPU de 12 Go, tandis que la gamme Ministral 14B apparaît comme le grand frère naturel du 8B pour l’edge et le local selon Mistral. C’est probablement la tranche la plus sous-estimée : suffisamment forte pour un vrai travail, sans basculer immédiatement dans le “local de luxe”. ([developers.googleblog.com](https://developers.googleblog.com/en/gemma-3-quantized-aware-trained-state-of-the-art-ai-to-consumer-gpus/?_bhlid=25d90bb91477b6c91ba873976322fdd3407f338c&linkId=14034718&utm_source=openai))

Meilleur haut de gamme local : Mistral Small 3.1 24B et Gemma 3 27B. Le premier revendique explicitement une compatibilité avec une RTX 4090 ou un MacBook 32 Go une fois quantifié ; le second est présenté par Google comme exécutable sur une RTX 3090 via ses variantes QAT. Pour un usage individuel exigeant, ce sont les deux noms qui structurent le sommet du local ouvert grand public en 2026. ([huggingface.co](https://huggingface.co/mistralai/Mistral-Small-3.1-24B-Instruct-2503))

Meilleur choix pour le raisonnement local compact : DeepSeek-R1 distillé en 7B. Il faut l’accepter avec son style plus long et ses coûts de génération parfois moins nerveux, mais il reste une option de premier plan pour ceux qui veulent maximiser la “capacité de réflexion” dans un budget matériel réaliste. ([huggingface.co](https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B))

Ce qu’il faut retenir avant d’acheter ou de déployer

Le premier enseignement est simple : en 2026, le local n’est plus un gadget. Oui, des LLM ouverts réellement utiles tournent sur des PC standards, au moins dans la tranche 3B à 14B, et parfois jusqu’à 24B ou 27B sur des configurations personnelles haut de gamme. Le deuxième enseignement est plus important encore : la taille idéale n’est pas la plus grande que votre machine peut lancer, mais la plus grande qu’elle peut exécuter confortablement pour votre usage réel. ([huggingface.co](https://huggingface.co/mistralai/Mistral-Small-3.1-24B-Instruct-2503))

Le troisième enseignement, enfin, est stratégique. Pour la plupart des entreprises et des développeurs, le sweet spot ne se situe pas au sommet du leaderboard mais dans les modèles intermédiaires bien outillés. Un 8B, 9B, 12B ou 14B bien quantifié, avec un pipeline propre sous Hugging Face, llama.cpp ou bitsandbytes, fera souvent davantage pour la productivité qu’un 24B trop lent ou trop serré en mémoire. Les gros modèles locaux ont gagné en crédibilité ; les modèles intermédiaires restent les vrais chevaux de bataille. ([github.com](https://github.com/ggerganov/llama.cpp?ref=sych.io&utm_source=openai))

Notre verdict éditorial est donc net. Pour “un PC standard” en 2026, les modèles qui tournent vraiment sont d’abord les petits et moyens gabarits : Gemma 3 1B/4B, Ministral 3B/8B/14B, GLM-4-9B, DeepSeek-R1 distillé en 7B. Si la machine est mieux dotée, Gemma 3 12B devient très attractif. Et si l’on parle d’une configuration grand public haut de gamme, alors Mistral Small 3.1 24B et Gemma 3 27B incarnent la frontière supérieure du local crédible. Au-delà, on quitte le PC standard et on entre dans le territoire de la station spécialisée ou du serveur. C’est moins spectaculaire qu’une guerre de benchmarks, mais beaucoup plus utile pour choisir un modèle que l’on utilisera réellement demain matin. ([developers.googleblog.com](https://developers.googleblog.com/en/gemma-3-quantized-aware-trained-state-of-the-art-ai-to-consumer-gpus/?_bhlid=25d90bb91477b6c91ba873976322fdd3407f338c&linkId=14034718&utm_source=openai))