SophyAI Super Local Intelligence

2026-10-07

Mistral Large 4: Gewichte am 31. Oktober

Mistral Large 4 steht schon als Infokarte im Katalog, die Gewichte erscheinen am 31. Oktober 2026. Bis dahin läuft Mistral Small 4 auf einer einzigen RTX PRO 6000.

MistralOpenWeightsvLLM

Mistral Large 4 steht als Infokarte im Katalog: Die Gewichte sind für den 31. Oktober 2026 angekündigt. Bis dahin lässt es sich nicht starten.

Was es brauchen wird

Das geplante Rezept nutzt vLLM auf 8 GPUs B300 oder B200, mit mindestens 512 GB RAM und 2,5 TB NVMe. Ein Modell für Cloud-Sitzungen, nicht für den Mac.

Sobald die Gewichte öffentlich sind, prüfen und messen wir sie und aktualisieren das Rezept mit echten Stundenkosten und Geschwindigkeit.

Bis dahin: Mistral Small 4

Mistral Small 4 lässt sich schon starten:

Beide laufen über vLLM und werden als lokaler OpenAI-Endpunkt veröffentlicht.

← Alle Beiträge