
2026-10-15
Los modelos de frontera open-weights, en local
Kimi K3, GLM-5.3, DeepSeek-V4.1-Flash, MiMo-V2.6, Hy4 y Qwen3.8-Flash-Next tienen pesos públicos en Hugging Face y una receta lista en el catálogo de SophyAI, desde el Mac hasta la GPU cloud dedicada.
En el otoño de 2026 la distancia entre modelos cerrados y open-weights casi se ha borrado. En los benchmarks más duros de coding, agentes y seguridad (Terminal-Bench, DeepSWE, CyberGym), los modelos que se descargan de Hugging Face quedan a pocos puntos de GPT-5.6 Sol, Claude Opus y Claude Fable 5, y los superan en algunos.
Para una empresa la pregunta cambia: ya no qué API usar, sino dónde ejecutar el modelo. Con SophyAI la respuesta está en tu Mac, o en una GPU cloud que arrancas tú y que responde en un endpoint expuesto solo en local. Prompts, código y documentos nunca pasan por una API de terceros.
Los modelos de frontera en el catálogo
| Modelo | Parámetros totales / activos | Contexto | Licencia | Receta de referencia |
|---|---|---|---|---|
| Kimi K3 | 2,8 T / 104 B | 1 M | Kimi K3 License | vLLM 8× B300, ~215 tok/s, ~40 $/h |
| GLM-5.3 | 753 B / ~40 B | 1 M | GLM-5.3 License | FreeToken NVFP4 en 1× H200, ~12 tok/s, ~3,7 $/h |
| GLM-5.3-Flash | 320 B / 18 B | 1 M | MIT | GGUF en 1× RTX PRO 6000, ~51 tok/s, ~1,7 $/h |
| DeepSeek-V4.1-Flash | 552 B / 8 B prefill, 16 B decode | 1 M | MIT | vLLM 8× H200 desde ~16,5 $/h, o ds4 Metal en Mac de 128 GB |
| MiMo-V2.6-Pro-RL | 1,02 T / 42 B | 1 M | MIT | vLLM 4× B200, 132 tok/s, ~28,5 $/h |
| MiMo-V2.6-Flash-RL | 309 B / 15 B | 1 M | MIT | vLLM 4× RTX PRO 6000, ~57 tok/s, ~3,1 $/h |
| Hy4-preview | 770 B / 49 B | 1 M | Apache 2.0 | vLLM FP8 en 8× B300/B200 |
| Qwen3.8-Flash-Next | 125 B / 6 B (+51 B n-gram) | 262 k, hasta 1 M | Qwen Community | GGUF en 1× RTX PRO 6000, ~95 tok/s, ~1,7 $/h |
| Mistral Small 4 | 119 B / 6,5 B | 256 k | Apache 2.0 | vLLM NVFP4 en 1× RTX PRO 6000 |
Parámetros, contexto y licencias provienen de las fichas de modelo de Hugging Face (octubre de 2026). Velocidades y costes por hora salen del catálogo de SophyAI: medidos por nosotros en Vast.ai donde se indica, si no el precio de la oferta de referencia. La app siempre muestra el precio real antes de cada arranque.
Lo que dicen las fichas de modelo
- Kimi K3 de Moonshot AI es el primer modelo abierto de clase 3 T: 896 expertos, 16 activos por token, visión nativa y un contexto de un millón de tokens. En los benchmarks de agentes va en cabeza: 91,2 en BrowseComp y 94,5 en MCPMark-Verified, por delante de GPT-5.6 Sol en la tabla del fabricante.
- GLM-5.3 de Z.ai se presenta como el modelo open-weights más fuerte en coding, con un +50 % sobre GLM-5.2 en su propio Code Bench. En CyberGym (descubrimiento de vulnerabilidades) alcanza 84,5.
- GLM-5.3-Flash es el primer GLM nativamente multimodal: 18 B activos, atención híbrida dispersa y lineal, licencia MIT. Z.ai lo describe cerca de Claude Opus 4.8 en coding y agentes, a una décima parte del coste de GLM-5.2.
- DeepSeek-V4.1-Flash introduce una arquitectura codificador-decodificador causal: activa 8 B parámetros en prefill y 16 B en decode, con una caché KV de 890 bytes por token, en torno a un cuarto de V4-Flash. En la tabla de DeepSeek: 74,2 en DeepSWE v1.1 y 90,6 en Terminal-Bench 2.1.
- MiMo-V2.6 de Xiaomi es omnimodal (texto, imagen, vídeo, audio) y entrenado con una sola fase de reinforcement learning que mezcla coding, agentes, visión y ciberseguridad. La versión Flash alcanza 95,1 en CyberGym.
- Hy4-preview de Tencent es un MoE de 770 B con 49 B activos, Apache 2.0. En una comparación a ciegas sobre 203 tareas de ingeniería, valorada por 163 expertos internos, queda ligeramente por delante de GLM-5.3 y Kimi K3.
- Qwen3.8-Flash-Next es la preview de la arquitectura de Qwen4: solo 6 B de parámetros activos, pero 62,5 en SWE-bench Pro y 81,0 en SWE-bench Multilingual. Corre en una sola GPU.
Las puntuaciones las declaran los fabricantes, con harnesses y ajustes distintos de una ficha a otra: sirven para orientarse, no como clasificación absoluta.
Por qué ejecutarlos en local
- Confidencialidad: código fuente, logs de seguridad, contratos y datos de clientes se quedan en máquinas que controlas tú. El endpoint de SophyAI escucha en
127.0.0.1. - Coste previsible: un agente que trabaja durante horas consume millones de tokens. Con una GPU dedicada pagas por hora, no por token, y apagas la sesión cuando terminas.
- Sin filtros impuestos por terceros: para un red team o un SOC, una API que rechaza un análisis de exploit legítimo es un bloqueo operativo. En local, la política de uso la decides tú.
- Reproducibilidad: los pesos no cambian bajo tus pies. La versión que validaste es la que corre.
Para saber más
Escribimos tres artículos sobre los usos donde estos modelos rinden más: