2026-10-15
Coding agentico in locale
Su SWE-bench, DeepSWE e Terminal-Bench i modelli open-weights sono ormai al livello dei migliori chiusi. Con SophyAI li colleghi a Cursor, OpenCode, Aider, Continue e Cline con un endpoint locale, senza mandare il codice fuori.
Il coding agentico non è autocompletamento: il modello legge il repository, apre file, lancia comandi nel terminale, esegue i test e itera. È il banco di prova più severo, ed è anche quello dove i modelli open-weights hanno colmato il distacco.
I numeri dichiarati dai produttori
| Modello | DeepSWE v1.1 | Terminal-Bench 2.1 | Note |
|---|---|---|---|
| DeepSeek-V4.1-Flash | 74,2 | 90,6 | Codeforces 3471, il più alto della sua tabella |
| Kimi K3 | 67,5 | 88,3 | FrontierSWE 81,2; ProgramBench 77,8 |
| MiMo-V2.6-Pro | 71,9 | 89,9 | Terminal-Bench 4.0 34,9 |
| GLM-5.3 | 66,9 | 88,2 | SOTA open su Terminal-Bench 3.0 (28,3) |
| GLM-5.3-Flash | — | — | 18B attivi, vicino a Opus 4.8 a un decimo del costo |
| Qwen3.8-Flash-Next | 58,7 | — | SWE-bench Pro 62,5; SWE-bench Multilingual 81,0 |
Per riferimento, nelle stesse tabelle i modelli chiusi migliori stanno su DeepSWE v1.1 attorno a 73–74 (Claude Opus 74,0, GPT-5.6 Sol 73,0). I punteggi sono dichiarati dai produttori con harness e impostazioni diversi, quindi non sono confrontabili uno-a-uno: danno però la misura di quanto il divario si sia ridotto.
Quale ricetta scegliere
- Una GPU, costo basso. Qwen3.8-Flash-Next in GGUF su 1× RTX PRO 6000 fa ~95 tok/s a ~1,7 $/h: abbastanza leggero da tenerlo acceso tutta la giornata di lavoro. GLM-5.3-Flash sulla stessa GPU fa ~51 tok/s a ~1,7 $/h.
- Massima qualità sul codice. GLM-5.3 e DeepSeek-V4.1-Flash sono i modelli open più forti qui. DeepSeek-V4.1-Flash gira anche in locale su un Mac da 128 GB con ds4 Metal in Q2, oppure con vLLM su 8× H200 da ~16,5 $/h per contesti lunghi e velocità.
- Lunghi orizzonti. Tutti questi modelli arrivano a 1M di token di contesto: entra un intero repository senza dover tagliare.
Come lo colleghi al tuo editor
SophyAI pubblica un endpoint OpenAI su 127.0.0.1. Lo imposti come base URL in Cursor, OpenCode, Aider, Continue o Cline e l'assistente usa il modello locale. Il codice del cliente non lascia la tua rete, e il costo è l'ora di GPU, non il token.
Gli altri due scenari: agenti AI in locale e cybersecurity con modelli locali. Panoramica completa: I modelli di frontiera open-weights, in locale.