2026-10-16
Meta Muse Spark Open: 816B multimodali, anche in locale
Il nuovo MoE open-weight di Meta legge testo, immagini, audio e video. Vediamo l'architettura e l'hardware realmente necessario, dal Mac da 512 GB a quattro GPU Blackwell.
Muse Spark Open è il nuovo modello open-weight di frontiera di Meta per coding agentico e ragionamento multimodale. Accetta testo, immagini, audio e video, usa gli strumenti e produce testo. Entra nel catalogo SophyAI con due profili hardware di riferimento.
Cosa c'è dentro
È un Mixture of Experts da circa 816 miliardi di parametri, ma ne attiva circa 42 miliardi per token. Ognuno dei 62 layer contiene 256 esperti e il router ne seleziona 8. Il calcolo per token è quindi molto più contenuto del totale, ma tutti gli esperti devono comunque risiedere in memoria.
| Caratteristica | Valore |
|---|---|
| Parametri totali / attivi | ~816B / ~42B |
| Esperti | 256 per layer, 8 attivi |
| Input | testo, immagini, audio, video |
| Output | testo |
| Contesto nativo | fino a 1.048.576 token |
| Checkpoint | BF16 e NVFP4 |
Le immagini e i frame video passano attraverso un perception encoder da 1,8B parametri. L'audio viene convertito in 12,5 token al secondo. Il modello è addestrato per attività agentiche lunghe: leggere repository, modificare più file, eseguire strumenti, osservare il risultato e correggersi.
Il vero limite è la memoria
Il checkpoint BF16 occupa circa 1,5 TB. Meta e Hugging Face documentano l'esecuzione Transformers su 4 nodi da 8 H200, cioè 32 GPU. Il contesto da 1M aggiunge un altro vincolo: la KV cache BF16 vale circa 250 KB per token, quindi può arrivare a circa 266 GB.
La versione NVFP4 riduce molto il peso, ma richiede NVIDIA Blackwell. La configurazione vLLM di riferimento usa 4 GPU Blackwell, tensor parallel 4 ed expert parallel, con contesto limitato a 131.072 token. Supporta testo e immagini.
Per tutte le modalità, SGLang è documentato su 4×GB300. Hugging Face offre inoltre profili prevalidati da 8×RTX PRO 6000 per 128k oppure 8×H200 per il contesto da 1M.
Può girare davvero in locale?
Sì, ma “locale” significa un Mac fuori scala per la maggior parte degli utenti. Il GGUF Q2_K pesa circa 304 GB in 22 shard. Hugging Face riporta:
- Mac Studio M3 Ultra con 512 GB di memoria unificata;
- circa 304 GB occupati dal modello;
- circa 18 token/s con llama.cpp;
- input testo, immagini e audio.
Il quant MLX oQ3e usa circa 344 GB e arriva a circa 21 token/s in generazione sullo stesso Mac. Un Mac da 256 GB non basta. Anche sul modello da 512 GB il contesto va limitato: pesi e KV cache devono condividere la stessa memoria.
I profili nel catalogo SophyAI
Abbiamo aggiunto due recipe visibili ma non ancora avviabili:
- vLLM NVFP4 su 4×B200/B300, 128k, testo e immagini.
- llama.cpp Q2_K su Mac M3 Ultra 512 GB, testo, immagini e audio.
Sono marcate come reference: non pubblichiamo prezzi o benchmark SophyAI finché non completiamo una sessione end-to-end. I repository ufficiali Meta sono inoltre gated e la licenza dei pesi è indicata come other, quindi i termini vanno verificati prima dell'uso commerciale.
La configurazione consigliata
Per un deployment aziendale oggi sceglierei:
- 4×B200/B300 + vLLM per coding agentico con testo e immagini;
- 8×H200 + SGLang se il contesto da 1M è indispensabile;
- Mac M3 Ultra 512 GB + llama.cpp per uso locale, privato e senza cloud, accettando la quantizzazione Q2;
- BF16 su 32×H200 solo per ricerca, fine-tuning o quando la qualità del checkpoint pieno giustifica l'infrastruttura.
Il prossimo passo è provare la recipe NVFP4 su un nodo Blackwell, misurare download, startup, memoria, velocità e tool calling, e solo allora abilitarne l'avvio dalla piattaforma.