SophyAI Super Local Intelligence
Rack de servidores GPU en un centro de datos

2026-10-15

Los modelos de frontera open-weights, en local

Kimi K3, GLM-5.3, DeepSeek-V4.1-Flash, MiMo-V2.6, Hy4 y Qwen3.8-Flash-Next tienen pesos públicos en Hugging Face y una receta lista en el catálogo de SophyAI, desde el Mac hasta la GPU cloud dedicada.

OpenWeightsHuggingFacePrivateAIFrontier

En el otoño de 2026 la distancia entre modelos cerrados y open-weights casi se ha borrado. En los benchmarks más duros de coding, agentes y seguridad (Terminal-Bench, DeepSWE, CyberGym), los modelos que se descargan de Hugging Face quedan a pocos puntos de GPT-5.6 Sol, Claude Opus y Claude Fable 5, y los superan en algunos.

Para una empresa la pregunta cambia: ya no qué API usar, sino dónde ejecutar el modelo. Con SophyAI la respuesta está en tu Mac, o en una GPU cloud que arrancas tú y que responde en un endpoint expuesto solo en local. Prompts, código y documentos nunca pasan por una API de terceros.

Los modelos de frontera en el catálogo

ModeloParámetros totales / activosContextoLicenciaReceta de referencia
Kimi K32,8 T / 104 B1 MKimi K3 LicensevLLM 8× B300, ~215 tok/s, ~40 $/h
GLM-5.3753 B / ~40 B1 MGLM-5.3 LicenseFreeToken NVFP4 en 1× H200, ~12 tok/s, ~3,7 $/h
GLM-5.3-Flash320 B / 18 B1 MMITGGUF en 1× RTX PRO 6000, ~51 tok/s, ~1,7 $/h
DeepSeek-V4.1-Flash552 B / 8 B prefill, 16 B decode1 MMITvLLM 8× H200 desde ~16,5 $/h, o ds4 Metal en Mac de 128 GB
MiMo-V2.6-Pro-RL1,02 T / 42 B1 MMITvLLM 4× B200, 132 tok/s, ~28,5 $/h
MiMo-V2.6-Flash-RL309 B / 15 B1 MMITvLLM 4× RTX PRO 6000, ~57 tok/s, ~3,1 $/h
Hy4-preview770 B / 49 B1 MApache 2.0vLLM FP8 en 8× B300/B200
Qwen3.8-Flash-Next125 B / 6 B (+51 B n-gram)262 k, hasta 1 MQwen CommunityGGUF en 1× RTX PRO 6000, ~95 tok/s, ~1,7 $/h
Mistral Small 4119 B / 6,5 B256 kApache 2.0vLLM NVFP4 en 1× RTX PRO 6000

Parámetros, contexto y licencias provienen de las fichas de modelo de Hugging Face (octubre de 2026). Velocidades y costes por hora salen del catálogo de SophyAI: medidos por nosotros en Vast.ai donde se indica, si no el precio de la oferta de referencia. La app siempre muestra el precio real antes de cada arranque.

Lo que dicen las fichas de modelo

  • Kimi K3 de Moonshot AI es el primer modelo abierto de clase 3 T: 896 expertos, 16 activos por token, visión nativa y un contexto de un millón de tokens. En los benchmarks de agentes va en cabeza: 91,2 en BrowseComp y 94,5 en MCPMark-Verified, por delante de GPT-5.6 Sol en la tabla del fabricante.
  • GLM-5.3 de Z.ai se presenta como el modelo open-weights más fuerte en coding, con un +50 % sobre GLM-5.2 en su propio Code Bench. En CyberGym (descubrimiento de vulnerabilidades) alcanza 84,5.
  • GLM-5.3-Flash es el primer GLM nativamente multimodal: 18 B activos, atención híbrida dispersa y lineal, licencia MIT. Z.ai lo describe cerca de Claude Opus 4.8 en coding y agentes, a una décima parte del coste de GLM-5.2.
  • DeepSeek-V4.1-Flash introduce una arquitectura codificador-decodificador causal: activa 8 B parámetros en prefill y 16 B en decode, con una caché KV de 890 bytes por token, en torno a un cuarto de V4-Flash. En la tabla de DeepSeek: 74,2 en DeepSWE v1.1 y 90,6 en Terminal-Bench 2.1.
  • MiMo-V2.6 de Xiaomi es omnimodal (texto, imagen, vídeo, audio) y entrenado con una sola fase de reinforcement learning que mezcla coding, agentes, visión y ciberseguridad. La versión Flash alcanza 95,1 en CyberGym.
  • Hy4-preview de Tencent es un MoE de 770 B con 49 B activos, Apache 2.0. En una comparación a ciegas sobre 203 tareas de ingeniería, valorada por 163 expertos internos, queda ligeramente por delante de GLM-5.3 y Kimi K3.
  • Qwen3.8-Flash-Next es la preview de la arquitectura de Qwen4: solo 6 B de parámetros activos, pero 62,5 en SWE-bench Pro y 81,0 en SWE-bench Multilingual. Corre en una sola GPU.

Las puntuaciones las declaran los fabricantes, con harnesses y ajustes distintos de una ficha a otra: sirven para orientarse, no como clasificación absoluta.

Por qué ejecutarlos en local

  • Confidencialidad: código fuente, logs de seguridad, contratos y datos de clientes se quedan en máquinas que controlas tú. El endpoint de SophyAI escucha en 127.0.0.1.
  • Coste previsible: un agente que trabaja durante horas consume millones de tokens. Con una GPU dedicada pagas por hora, no por token, y apagas la sesión cuando terminas.
  • Sin filtros impuestos por terceros: para un red team o un SOC, una API que rechaza un análisis de exploit legítimo es un bloqueo operativo. En local, la política de uso la decides tú.
  • Reproducibilidad: los pesos no cambian bajo tus pies. La versión que validaste es la que corre.

Para saber más

Escribimos tres artículos sobre los usos donde estos modelos rinden más:

← Todos los artículos