Trois modèles sur une carte : ce que disent les mesures
Gemma 4 26B, Qwen 3.8 27B et Qwen 3.6 35B servis sur la même carte : conversations simultanées, vitesse réelle, tenue sur gros dossiers.
Ce qu'on mesure quand on croit mesurer un modèle
Quatre défauts rencontrés pendant une campagne de mesure LLM, chacun capable de produire un chiffre faux d'apparence parfaitement normale.
Pourquoi l'inférence LLM est memory-bound (et ce que ça change pour le sizing)
Le débit d'un LLM en génération est limité par la bande passante mémoire du GPU, pas par sa puissance de calcul. Démonstration chiffrée sur Gemma 4 12B.
Déployer un LLM on-premise : les décisions d'architecture qui comptent
Déployer une stack IA fiable en production ne se résume pas à lancer Ollama en local. Moteur d'inférence, interface, automation et sizing : ce qui compte.