
2026-10-15
Les modèles de frontière open-weights, en local
Kimi K3, GLM-5.3, DeepSeek-V4.1-Flash, MiMo-V2.6, Hy4 et Qwen3.8-Flash-Next ont des poids publics sur Hugging Face et une recette prête dans le catalogue SophyAI, du Mac au GPU cloud dédié.
À l'automne 2026, l'écart entre modèles fermés et open-weights s'est presque effacé. Sur les benchmarks les plus durs de coding, d'agents et de sécurité (Terminal-Bench, DeepSWE, CyberGym), les modèles téléchargés depuis Hugging Face ne sont qu'à quelques points de GPT-5.6 Sol, Claude Opus et Claude Fable 5 — et les dépassent sur certains.
Pour une entreprise, la question change : non plus quelle API utiliser, mais où faire tourner le modèle. Avec SophyAI, la réponse est sur votre Mac, ou sur un GPU cloud que vous démarrez vous-même et qui répond sur un endpoint exposé uniquement en local. Prompts, code et documents ne passent jamais par une API tierce.
Les modèles de frontière au catalogue
| Modèle | Paramètres totaux / actifs | Contexte | Licence | Recette de référence |
|---|---|---|---|---|
| Kimi K3 | 2,8 T / 104 B | 1 M | Kimi K3 License | vLLM 8× B300, ~215 tok/s, ~40 $/h |
| GLM-5.3 | 753 B / ~40 B | 1 M | GLM-5.3 License | FreeToken NVFP4 sur 1× H200, ~12 tok/s, ~3,7 $/h |
| GLM-5.3-Flash | 320 B / 18 B | 1 M | MIT | GGUF sur 1× RTX PRO 6000, ~51 tok/s, ~1,7 $/h |
| DeepSeek-V4.1-Flash | 552 B / 8 B prefill, 16 B decode | 1 M | MIT | vLLM 8× H200 dès ~16,5 $/h, ou ds4 Metal sur Mac 128 Go |
| MiMo-V2.6-Pro-RL | 1,02 T / 42 B | 1 M | MIT | vLLM 4× B200, 132 tok/s, ~28,5 $/h |
| MiMo-V2.6-Flash-RL | 309 B / 15 B | 1 M | MIT | vLLM 4× RTX PRO 6000, ~57 tok/s, ~3,1 $/h |
| Hy4-preview | 770 B / 49 B | 1 M | Apache 2.0 | vLLM FP8 sur 8× B300/B200 |
| Qwen3.8-Flash-Next | 125 B / 6 B (+51 B n-gram) | 262 k, jusqu'à 1 M | Qwen Community | GGUF sur 1× RTX PRO 6000, ~95 tok/s, ~1,7 $/h |
| Mistral Small 4 | 119 B / 6,5 B | 256 k | Apache 2.0 | vLLM NVFP4 sur 1× RTX PRO 6000 |
Paramètres, contexte et licences proviennent des fiches de modèle Hugging Face (octobre 2026). Vitesses et coûts horaires viennent du catalogue SophyAI : mesurés par nous sur Vast.ai là où c'est indiqué, sinon le prix de l'offre de référence. L'app affiche toujours le prix réel avant chaque lancement.
Ce que disent les fiches de modèle
- Kimi K3 de Moonshot AI est le premier modèle ouvert de classe 3 T : 896 experts, 16 actifs par token, vision native et un contexte d'un million de tokens. Sur les benchmarks d'agents, il est en tête : 91,2 sur BrowseComp et 94,5 sur MCPMark-Verified, devant GPT-5.6 Sol dans le tableau du constructeur.
- GLM-5.3 de Z.ai est présenté comme le modèle open-weights le plus fort en coding, avec +50 % sur GLM-5.2 sur son propre Code Bench. Sur CyberGym (découverte de vulnérabilités), il atteint 84,5.
- GLM-5.3-Flash est le premier GLM nativement multimodal : 18 B actifs, attention hybride éparse et linéaire, licence MIT. Z.ai le décrit comme proche de Claude Opus 4.8 en coding et agents, à un dixième du coût de GLM-5.2.
- DeepSeek-V4.1-Flash introduit une architecture encodeur-décodeur causale : 8 B paramètres en prefill, 16 B en decode, cache KV de 890 octets par token, environ un quart de V4-Flash. Dans le tableau DeepSeek : 74,2 sur DeepSWE v1.1 et 90,6 sur Terminal-Bench 2.1.
- MiMo-V2.6 de Xiaomi est omnimodal (texte, image, vidéo, audio) et entraîné par une seule phase de reinforcement learning mêlant coding, agents, vision et cybersécurité. La version Flash atteint 95,1 sur CyberGym.
- Hy4-preview de Tencent est un MoE de 770 B avec 49 B actifs, Apache 2.0. Dans une comparaison en aveugle sur 203 tâches d'ingénierie, notée par 163 experts internes, il devance légèrement GLM-5.3 et Kimi K3.
- Qwen3.8-Flash-Next est la préversion de l'architecture Qwen4 : seulement 6 B de paramètres actifs, mais 62,5 sur SWE-bench Pro et 81,0 sur SWE-bench Multilingual. Il tourne sur un seul GPU.
Les scores sont annoncés par les constructeurs, avec des harnais et réglages différents d'une fiche à l'autre : pour se repérer, non pour établir un classement absolu.
Pourquoi les exécuter en local
- Confidentialité : code source, logs de sécurité, contrats et données clients restent sur des machines que vous contrôlez. L'endpoint SophyAI écoute sur
127.0.0.1. - Coût prévisible : un agent qui travaille des heures consomme des millions de tokens. Avec un GPU dédié, vous payez à l'heure, pas au token, et vous arrêtez la session quand c'est fini.
- Pas de filtres imposés par un tiers : pour une red team ou un SOC, une API qui refuse une analyse d'exploit légitime est un blocage opérationnel. En local, c'est vous qui fixez la politique d'usage.
- Reproductibilité : les poids ne changent pas sous vos pieds. La version validée est celle qui tourne.
Pour aller plus loin
Nous avons écrit trois articles sur les usages où ces modèles rendent le plus :