2026-10-15
Agentisches Coding, lokal betrieben
Auf SWE-bench, DeepSWE und Terminal-Bench sind die Open-Weights-Modelle inzwischen auf dem Niveau der besten geschlossenen. Mit SophyAI bindest du sie über einen lokalen Endpunkt an Cursor, OpenCode, Aider, Continue und Cline an, ohne deinen Code herauszugeben.
Agentisches Coding ist keine Autovervollständigung: Das Modell liest das Repository, öffnet Dateien, führt Terminalbefehle aus, lässt Tests laufen und iteriert. Es ist der härteste Test – und auch der, bei dem die Open-Weights-Modelle den Abstand geschlossen haben.
Die von den Herstellern gemeldeten Zahlen
| Modell | DeepSWE v1.1 | Terminal-Bench 2.1 | Hinweise |
|---|---|---|---|
| DeepSeek-V4.1-Flash | 74,2 | 90,6 | Codeforces 3471, höchster Wert der Tabelle |
| Kimi K3 | 67,5 | 88,3 | FrontierSWE 81,2; ProgramBench 77,8 |
| MiMo-V2.6-Pro | 71,9 | 89,9 | Terminal-Bench 4.0 34,9 |
| GLM-5.3 | 66,9 | 88,2 | Open-SOTA auf Terminal-Bench 3.0 (28,3) |
| GLM-5.3-Flash | — | — | 18B aktiv, nahe Opus 4.8 zu einem Zehntel der Kosten |
| Qwen3.8-Flash-Next | 58,7 | — | SWE-bench Pro 62,5; SWE-bench Multilingual 81,0 |
Zum Vergleich liegen die besten geschlossenen Modelle in denselben Tabellen bei DeepSWE v1.1 um 73–74 (Claude Opus 74,0, GPT-5.6 Sol 73,0). Die Werte sind herstellerangegeben, mit unterschiedlichen Harnesses und Einstellungen, also nicht eins zu eins vergleichbar – sie zeigen aber, wie stark der Abstand geschrumpft ist.
Welches Rezept wählen
- Eine GPU, geringe Kosten. Qwen3.8-Flash-Next in GGUF auf 1× RTX PRO 6000 schafft ~95 tok/s bei ~1,7 $/h: leicht genug, um es den ganzen Arbeitstag laufen zu lassen. GLM-5.3-Flash auf derselben GPU schafft ~51 tok/s bei ~1,7 $/h.
- Höchste Code-Qualität. GLM-5.3 und DeepSeek-V4.1-Flash sind hier die stärksten offenen Modelle. DeepSeek-V4.1-Flash läuft auch lokal auf einem 128-GB-Mac mit ds4 Metal in Q2 oder mit vLLM auf 8× H200 ab ~16,5 $/h für lange Kontexte und Geschwindigkeit.
- Lange Horizonte. Alle erreichen 1M Token Kontext: ein ganzes Repository passt hinein, ohne zu kürzen.
So bindest du es an deinen Editor
SophyAI veröffentlicht einen OpenAI-Endpunkt auf 127.0.0.1. Du trägst ihn als Base-URL in Cursor, OpenCode, Aider, Continue oder Cline ein, und der Assistent nutzt das lokale Modell. Kundencode verlässt dein Netz nie, und der Preis ist die GPU-Stunde, nicht das Token.
Die anderen beiden Szenarien: lokale KI-Agenten und Cybersecurity mit lokalen Modellen. Vollständige Übersicht: Open-Weights-Spitzenmodelle, lokal betrieben.