2026-10-20
Project Maya: GLM-5.3-Flash y DeepSeek con más memoria y una factura GPU baja
Maya cuantiza GLM-5.3-Flash y DeepSeek-V4.1-Flash-1017 y los sirve desde una sola GPU, moviendo los expertos entre VRAM, RAM y NVMe. En el catálogo los perfiles Maya apuntan a una PRO 6000 y a una H200.
Project Maya ejecuta dos MoE open-weight en hardware propio: GLM-5.3-Flash de Z.ai y DeepSeek-V4.1-Flash-1017. Licencia MIT en el código. Los quant de Maya conservan la licencia de los pesos originales, también MIT. SophyAI los añade como perfiles de referencia, junto a los caminos que ya se pueden arrancar.
Los quant
Maya publica quant propios, con el bloque MTP que adelanta tokens.
| Quant | Modelo | Descarga | Fidelidad que declara Maya |
|---|---|---|---|
| Maya-M | GLM-5.3-Flash | 116 GB | 97,9% de la precisión zero-shot del FP8; el mismo token siguiente el 86% de las veces |
| Maya-S | DeepSeek-V4.1-Flash-1017 | 178 GB, más unos 203 GB de tablas Engram de Unsloth | el mismo token siguiente que el original el 92,6% de las veces |
GLM-5.3-Flash tiene 321 mil millones de parámetros y unos 18 mil millones activos por token. El contexto nativo llega a 1 millón. El perfil del catálogo sirve 262.144, la ventana de la medida upstream en la PRO 6000. DeepSeek-V4.1-Flash-1017 es la actualización de pesos del 17 de octubre de 2026, 748 mil millones de parámetros. El perfil sirve 131.072, como el camino vLLM que ya está en el catálogo. El contexto nativo sigue en 1 millón.
Dos máquinas, una factura más baja
| Perfil | Máquina | Franja GPU del catálogo | Cifra upstream |
|---|---|---|---|
glm53flash-maya-pro6000 | 1× RTX PRO 6000, al menos 64 GB de RAM | 1,2–2,0 USD/h | 81 tok/s en decode, 3102 en prefill, contexto 256k |
dsv41-maya-h200 | 1× H200, al menos 192 GB de RAM, NVMe | 2,5–5,0 USD/h | tok/s no publicados para una sola H200 |
La fila de 81 tok/s es de Maya, versión 1.1.7, en una RTX PRO 6000 Blackwell, Ryzen 7 9800X3D y 61 GB de RAM, con Maya-M. SophyAI midió el camino Unsloth del mismo GLM-5.3-Flash en la misma clase de tarjeta a unos 51 tok/s y 1,70 USD/h. El flagship GLM-5.3 en una H200, en una sesión nuestra, está a 3,68 USD/h. Son modelos distintos: Flash y flagship. El perfil Maya es la vía Flash, con más decode declarado, en una sola GPU de estación de trabajo.
Para DeepSeek, vLLM en 8× H200 está en el catálogo entre 16 y 32 USD/h, con los pesos completos de unos 510 GB. Una H200 está entre 2,5 y 5,0 USD/h. Maya-S pone los expertos calientes en la tarjeta y lee los demás desde la RAM o el NVMe. Más memoria cercana, más velocidad. La cifra exacta en una H200 la mediremos nosotros: Maya no la publica.
API y límites
El servidor habla OpenAI en http://127.0.0.1:8080/v1 y Anthropic en /v1/messages, con tool calling e imágenes. Al arrancar, Maya reserva casi toda la RAM libre para los expertos. Las recipes son reference: ninguna sesión SophyAI, ningún tok/s nuestro, launchable=false.
El drafter opcional DFlash2 es CC BY-NC-ND 4.0. Los perfiles del catálogo no lo descargan. Los perfiles Strata en la 5090 y en la PRO 6000, en el otro artículo, son el mismo runtime en el escalón de precio más bajo.