Trois modèles sur une carte : ce que disent les mesures
Gemma 4 26B, Qwen 3.8 27B et Qwen 3.6 35B servis sur la même carte : conversations simultanées, vitesse réelle, tenue sur gros dossiers.
Ce qu'on mesure quand on croit mesurer un modèle
Quatre défauts rencontrés pendant une campagne de mesure LLM, chacun capable de produire un chiffre faux d'apparence parfaitement normale.
Anatomie d'un modèle : ce que contient un fichier de poids
Un LLM open-source, c'est un dossier de sept fichiers. Anatomie du safetensors de Gemma 4 12B en production : poids, tenseurs, architecture, embeddings.
Les dimensions d'un LLM : embedding, couches, attention
Embedding, vocabulaire, couches, paramètres : ce que chaque dimension de Gemma 4 12B mesure vraiment, et ce qui se passe à l'intérieur d'une couche.
Pourquoi l'inférence LLM est memory-bound (et ce que ça change pour le sizing)
Le débit d'un LLM en génération est limité par la bande passante mémoire du GPU, pas par sa puissance de calcul. Démonstration chiffrée sur Gemma 4 12B.
Déployer un LLM on-premise : les décisions d'architecture qui comptent
Déployer une stack IA fiable en production ne se résume pas à lancer Ollama en local. Moteur d'inférence, interface, automation et sizing : ce qui compte.
Comment on a simplifié notre stack IA avec LiteLLM chez Evaneos
Comment Evaneos a remplacé des clés API éparpillées entre OpenAI, Anthropic, Gemini et Deepgram par un proxy LiteLLM unique déployé sur Kubernetes avec FluxCD.