2026-10-24
Kimi K3.1 Pro: offene Gewichte bis zum 4. November
Moonshot AI hat Kimi K3.1 Pro vorgestellt, ein nachtrainiertes Kimi K3 mit 1M Token Kontext. Heute gibt es das Modell nur per API. Die Gewichte kommen bis zum 4. November, und an dem Tag versuchen wir es auf 8 B300-GPUs auszuführen.
Am 23. Oktober hat Moonshot AI Kimi K3.1 Pro vorgestellt, das erste Modell der K3.1-Reihe. Heute ist es nur auf Kimi.ai, in Kimi Work, in Kimi Code und über die Kimi-API verfügbar. Moonshot hat die vollständigen Gewichte bis zum 4. November 2026 zugesagt. Im SophyAI-Katalog steht die Karte schon. An diesem Tag versuchen wir, das Modell auszuführen.
Was für ein Modell
K3.1 Pro ist nicht von Grund auf neu trainiert. Es ist ein nachtrainiertes Kimi K3, mit deutlich mehr Rechenaufwand für Reinforcement Learning über Hunderte von Domänen. Die Architektur bleibt die von K3:
- 2,8 Billionen Parameter insgesamt, 104 Milliarden aktiv pro Token (MoE, 16 von 896 Experten);
- ein Kontextfenster von 1M Token (1.048.576);
- Eingabe Text, Bild und Video, Ausgabe Text;
- Reasoning immer aktiv, mit Stufe
low,highodermax.
Zusammen mit dem Modell erscheint K3.1 Pro Highspeed, laut Moonshot 2- bis 3-mal schneller. Highspeed gibt es vorerst nur per API.
Die genannten Zahlen
Die Zahlen stammen von Moonshot, sofern nicht anders angegeben:
- Terminal-Bench 4.0: 65,7 %, knapp hinter Claude Opus 5.5 (66,4 %) und vor GPT-6 Astra (58,2 %).
- BenchCAD mit Werkzeugen: 92,7 %. Der Benchmark misst 3D-Rekonstruktion über CAD-Code.
- OfficeQA Pro v2: 64,4, laut Moonshot Stand der Technik.
- Halluzinationsrate pro Aussage im internen Hard-Benchmark: von 23,4 % bei K3 auf 8,3 %.
Artificial Analysis, eine unabhängige Quelle, gibt ihm 55 Punkte im Intelligence Index. Nur drei proprietäre Modelle liegen davor. Mit veröffentlichten Gewichten wäre es das am besten bewertete Open-Weights-Modell.
Ein Vorbehalt: Moonshot gibt an, Daten zu offensiver Cybersicherheit aus dem Training der offenen Gewichte entfernt zu haben. Die veröffentlichten Gewichte könnten daher vom per API bereitgestellten Modell abweichen.
Was man zum Ausführen braucht
Wenn die Architektur wirklich die von K3 ist, gelten dieselben Anforderungen. Nötig sind 8 GPUs vom Typ B300 oder B200, mindestens 512 GB RAM und 3 TB NVMe-Speicher. In MXFP4 dürfte der Checkpoint etwa 1,7 TB groß sein. Die Engine ist vLLM mit dem Kimi-K3-Image. Das ist ein Modell für Cloud-Sitzungen, nicht für den Mac.
Der 4. November
Der Plan ist, das Kit wiederzuverwenden, mit dem wir Kimi K3 schon auf 8× B300 betreiben. Repository der Gewichte und Name des bereitgestellten Modells sind jetzt konfigurierbar. Sobald das Hugging-Face-Repository die Dateien enthält, machen wir vier Dinge:
- die Lizenz lesen, die noch nicht angekündigt ist;
- die Gewichte herunterladen und vLLM starten;
- Token pro Sekunde und Stundenkosten messen, mit und ohne spekulatives Decoding per DSpark;
- das Rezept aktualisieren und im Portal startbar machen.
Bis dahin ist die Karte k31pro-vllm-b300-upcoming sichtbar, aber nicht startbar. Wer das Modell heute ausprobieren will, nutzt die Kimi-API. Auf SophyAI bleibt Kimi K3 auf 8× B300 verfügbar.