2026-10-16
vLLM-Omni entra nel catalogo SophyAI
Un inference server unificato per testo, immagini, audio, video e azioni. SophyAI lo aggiunge al catalogo come riferimento, separato da vLLM classico.
vLLM-Omni entra nel catalogo degli inference server di SophyAI. È un progetto Apache 2.0 della comunità vLLM pensato per servire modelli che non si fermano al testo: comprensione e generazione di immagini, audio, video e azioni, oltre ai normali output testuali.
Perché non è semplicemente vLLM
vLLM nasce per la generazione autoregressiva dei language model. vLLM-Omni estende quel runtime a pipeline eterogenee e architetture non autoregressive, inclusi i Diffusion Transformer. Può coordinare più stadi, sovrapporne l'esecuzione e trasferire dati multimodali tra componenti distinti.
L'elenco ufficiale dei modelli supportati comprende famiglie come Qwen3-Omni, MiniCPM-o 4.5, Qwen-Image, Z-Image, Wan, LTX, MiniMax H3, diversi modelli TTS e robot-policy. Questo permette di usare un'unica architettura di serving per attività prima gestite da server separati.
API e integrazione
Il server espone API compatibili con OpenAI dove previste dal modello. Il quickstart ufficiale mostra, per esempio, Z-Image Turbo tramite:
vllm serve Tongyi-MAI/Z-Image-Turbo --omni --port 8091e l'endpoint POST /v1/images/generations. Il progetto supporta anche streaming e, per alcuni modelli, conversazioni audio full-duplex in tempo reale.
Come lo inseriamo in SophyAI
vLLM-Omni è ora un motore distinto da vLLM nel catalogo. La prima integrazione è intenzionalmente classificata come reference:
- il server e la documentazione sono disponibili nel catalogo;
- non viene ancora proposta una sessione cloud one-click;
- non pubblichiamo stime di GPU, velocità o costo non misurate;
- ogni futura recipe fisserà modello, versioni vLLM/vLLM-Omni, hardware, endpoint e test di prontezza.
Questa distinzione evita una promessa sbagliata: essere supportati dal progetto upstream non significa essere già validati su una specifica macchina. Il prossimo passo è misurare una prima recipe end-to-end e renderla avviabile dalla piattaforma.
Un solo controllo, più modalità
Per SophyAI l'opportunità è chiara: mantenere sotto lo stesso controllo locale modelli testuali, generatori di immagini e video, sintesi vocale e sistemi omni-modali, senza consegnare dati e workflow a API esterne. vLLM-Omni amplia il numero di modelli che potranno essere integrati in questa architettura.