Anatomie d'un modèle : ce que contient un fichier de poids
Un LLM open-source, c'est un dossier de sept fichiers. Anatomie du safetensors de Gemma 4 12B en production : poids, tenseurs, architecture, embeddings.
Les dimensions d'un LLM : embedding, couches, attention
Embedding, vocabulaire, couches, paramètres : ce que chaque dimension de Gemma 4 12B mesure vraiment, et ce qui se passe à l'intérieur d'une couche.
Pourquoi l'inférence LLM est memory-bound (et ce que ça change pour le sizing)
Le débit d'un LLM en génération est limité par la bande passante mémoire du GPU, pas par sa puissance de calcul. Démonstration chiffrée sur Gemma 4 12B.
Déployer un LLM on-premise : les décisions d'architecture qui comptent
Déployer une stack IA fiable en production ne se résume pas à lancer Ollama en local. Moteur d'inférence, interface, automation et sizing : ce qui compte.
Comment on a simplifié notre stack IA avec LiteLLM chez Evaneos
Comment Evaneos a remplacé des clés API éparpillées entre OpenAI, Anthropic, Gemini et Deepgram par un proxy LiteLLM unique déployé sur Kubernetes avec FluxCD.