SophyAI Super Local Intelligence
Rack di server GPU in un data center

2026-10-24

Kimi K3.1 Pro: pesi aperti entro il 4 novembre

Moonshot AI ha presentato Kimi K3.1 Pro, post-training di Kimi K3 con contesto da 1M token. Oggi è solo via API. I pesi arrivano entro il 4 novembre e quel giorno proviamo a eseguirlo su 8 GPU B300.

KimiMoonshotOpenWeightsvLLM

Il 23 ottobre Moonshot AI ha presentato Kimi K3.1 Pro, il primo modello della serie K3.1. Oggi si usa solo su Kimi.ai, Kimi Work, Kimi Code e tramite l'API Kimi. Moonshot ha promesso i pesi completi entro il 4 novembre 2026. Nel catalogo SophyAI c'è già la scheda. Quel giorno proveremo a eseguirlo.

Che modello è

K3.1 Pro non è un modello addestrato da zero. È un post-training di Kimi K3 con molto più calcolo di reinforcement learning, distribuito su centinaia di domini. L'architettura resta quella di K3:

  • 2,8 trilioni di parametri totali, 104 miliardi attivi per token (MoE, 16 esperti su 896);
  • contesto da 1M token (1.048.576);
  • input testo, immagini e video, output testo;
  • ragionamento sempre acceso, con intensità low, high o max.

Insieme al modello esce K3.1 Pro Highspeed, che secondo Moonshot è 2–3 volte più veloce. Per ora è solo via API.

I numeri dichiarati

Questi numeri vengono da Moonshot, salvo dove indicato:

  • Terminal-Bench 4.0: 65,7%, a ridosso di Claude Opus 5.5 (66,4%) e sopra GPT-6 Astra (58,2%).
  • BenchCAD con strumenti: 92,7%. È la ricostruzione 3D tramite codice CAD.
  • OfficeQA Pro v2: 64,4, che Moonshot indica come stato dell'arte.
  • Tasso di allucinazione per affermazione sul benchmark interno Hard: dal 23,4% di K3 all'8,3%.

Artificial Analysis, una fonte indipendente, gli assegna 55 punti sull'Intelligence Index. È dietro solo a tre modelli proprietari. Con i pesi pubblicati diventerebbe il modello open weights con il punteggio più alto.

Una nota: Moonshot dichiara di aver tolto dal training dei pesi aperti i dati legati alla cybersecurity offensiva. È possibile che i pesi rilasciati non coincidano del tutto con il modello servito via API.

Cosa serve per eseguirlo

Se l'architettura è davvero quella di K3, valgono gli stessi requisiti. Servono 8 GPU B300 o B200, almeno 512 GB di RAM e 3 TB di disco NVMe. In MXFP4 il checkpoint dovrebbe pesare circa 1,7 TB. Il motore è vLLM, con l'immagine dedicata a Kimi K3. È un modello da sessione cloud, non da Mac.

Il 4 novembre

Il piano è riusare il kit che già usiamo per Kimi K3 su 8× B300. Abbiamo reso configurabili il repository dei pesi e il nome del modello servito. Appena il repository Hugging Face ha i file faremo quattro cose:

  1. leggere la licenza, che non è ancora stata annunciata;
  2. scaricare i pesi e avviare vLLM;
  3. misurare token al secondo e costo orario, con e senza la decodifica speculativa DSpark;
  4. aggiornare la ricetta e renderla avviabile dal portale.

Fino ad allora la scheda k31pro-vllm-b300-upcoming è visibile ma non avviabile. Chi vuole provare il modello oggi può usare l'API Kimi. Su SophyAI resta disponibile Kimi K3 su 8× B300.

← Tutti gli articoli