Trois modèles sur une carte : ce que disent les mesures
Gemma 4 26B, Qwen 3.8 27B et Qwen 3.6 35B servis sur la même carte : conversations simultanées, vitesse réelle, tenue sur gros dossiers.
Ce qu'on mesure quand on croit mesurer un modèle
Quatre défauts rencontrés pendant une campagne de mesure LLM, chacun capable de produire un chiffre faux d'apparence parfaitement normale.
Anatomie d'un modèle : ce que contient un fichier de poids
Un LLM open-source, c'est un dossier de sept fichiers. Anatomie du safetensors de Gemma 4 12B en production : poids, tenseurs, architecture, embeddings.
Les dimensions d'un LLM : embedding, couches, attention
Embedding, vocabulaire, couches, paramètres : ce que chaque dimension de Gemma 4 12B mesure vraiment, et ce qui se passe à l'intérieur d'une couche.
Pourquoi l'inférence LLM est memory-bound (et ce que ça change pour le sizing)
Le débit d'un LLM en génération est limité par la bande passante mémoire du GPU, pas par sa puissance de calcul. Démonstration chiffrée sur Gemma 4 12B.