2026-10-05
DeepSeek-V4.1-Flash auf einem Mac mit 128 GB
Mit ds4 Metal und SSD-Streaming läuft DeepSeek-V4.1-Flash in Q2 auf einem Apple-Silicon-Mac mit 128 GB Speicher, ganz ohne Cloud-GPU.
DeepSeek-V4.1-Flash hat ein lokales Rezept für den Mac: ds4 Metal in Q2, mit Gewichten, die von der SSD gestreamt werden.
Voraussetzungen
- Ein Apple-Silicon-Mac mit 128 GB Unified Memory.
- Etwa 400 GB frei auf der SSD.
- Keine GPU-Kosten: Alles bleibt auf deinem Rechner.
Wann in die Cloud wechseln
Für Geschwindigkeit und lange Kontexte gibt es die vLLM-Rezepte:
- 4× B200 (TP4): etwa 20 $/h gemessen.
- 8× H200: etwa 16,5 $/h gemessen.
Die Cloud-Sitzung startet, antwortet auf dem lokalen Endpunkt und schaltet sich ab, wenn du sie stoppst. Mit dem Free-Plan hast du eine Stunde am Tag zum Ausprobieren.