2026-10-16
Kolibri-1: il modello tedesco da 78B che sta su una GPU
Aleph Alpha pubblica un MoE open-weight per tedesco e inglese, con 3,46 miliardi di parametri attivi. Vediamo l'architettura e l'hardware minimo, da una H200 a due H100.
Kolibri-1 è il modello open-weight di Aleph Alpha per assistenti in tedesco e inglese. È uscito il 3 ottobre 2026 con licenza Apache 2.0 e entra nel catalogo SophyAI con tre profili di riferimento.
Architettura
È un Mixture of Experts da 78,1 miliardi di parametri, di cui 3,46 miliardi attivi per token. Ha 50 layer e 384 esperti per layer: il router ne usa 6, più un esperto condiviso. L'attenzione alterna finestre locali e attenzione globale, in rapporto 4 a 1. Il tokenizer è costruito sulla struttura delle parole tedesche.
| Caratteristica | Valore |
|---|---|
| Parametri totali / attivi | 78,1B / 3,46B |
| Lingue | tedesco e inglese |
| Input / output | testo |
| Contesto nativo | 262.144 token |
| Contesto validato | fino a 1.048.576 token |
| Precisione | FP8, con KV cache FP8 |
| Licenza | Apache 2.0 |
Il pretraining ha usato circa 20.000 miliardi di token: 62,5% inglese, 23,9% tedesco e 13,6% codice. Il cutoff di conoscenza è il 18 giugno 2026. Reasoning e tool calling si controllano dal template: lo sforzo può essere basso, medio, alto oppure spento.
Aleph Alpha è firmataria del Codice di buone pratiche GPAI dell'Unione europea. Questo non rende automaticamente conforme un deployment: il sistema che incorpora il modello va ancora valutato sul caso d'uso.
Memoria e hardware
L'impronta dichiarata è di circa 78 GB. Il repository Hugging Face occupa 78,9 GB. Per questo il minimo pubblicato è:
- 2× A100 80 GB oppure 2× H100 SXM5;
- 1× H200, 1× B200 o 1× B300.
La configurazione raccomandata è 2× H100, 2× H200, 1× B200 o 1× B300. Una sola H100 da 80 GB non contiene i pesi.
Il servizio consigliato resta entro 262.144 token. La qualità è stata validata fino a 1M, ma Aleph Alpha sconsiglia quel contesto quando contano latenza e compiti complessi. Per estenderlo servono --max-model-len 1048576 e l'override di max_position_embeddings.
Il runtime non è vLLM stock. Serve il plugin aleph-alpha-inference, oppure l'immagine ghcr.io/aleph-alpha/aleph-alpha-inference, con parser kolibri1 per reasoning e tool calling.
Profili SophyAI
Tre recipe sono visibili e non ancora avviabili:
- vLLM FP8 su 1× H200, contesto di servizio 262k.
- vLLM FP8 su 1× B200, la singola GPU Blackwell raccomandata.
- vLLM FP8 su 2× H100, quando H200 e B200 non sono disponibili.
Sono reference: non pubblichiamo prezzi né tok/s SophyAI, perché Aleph Alpha non fornisce una misura assoluta e noi non abbiamo ancora completato una sessione. Esistono GGUF della comunità, tra cui un Q4 da 47 GB, ma non li cataloghiamo finché il runtime non è verificato.