Liste de contrôle pour la maîtrise de l'ingénierie LLM

En tant qu'ingénieur en IA, veuillez apprendre >Maîtriser l'ingénierie, pas seulement l'ingénierie de prompt >Ingénierie du contexte, pas seulement des prompts longs >Compromis entre mise en cache de prompt et mise en cache sémantique >Gestion du cache KV, éviction, réutilisation et pression mémoire à grande échelle >Latence de préremplissage vs. décodage et pourquoi elles s'optimisent différemment >Traitement par lots continu, attention paginée et optimisation du débit >Compromis entre décodage spéculatif, quantification et distillation >INT8, INT4, FP8, AWQ, GPTQ et quand la quantification nuit à la qualité >Échecs de sortie structurée, validation de schéma, boucles de réparation et chaînes de repli >Fiabilité des appels de fonction, contrats d'outils, validation d'arguments et idempotence >Garde-fous d'agent, budgets de boucle, budgets d'outils et conditions de terminaison >Routage de modèles, logique de repli gracieuse et UX en mode dégradé >Architecture RAG : découpage, embeddings, recherche hybride, reclassement et fraîcheur >Évaluations de récupération : rappel, précision, ancrage, attribution et qualité des citations >Évaluations : ensembles dorés, tests de régression, tests adverses, LLM-comme-juge et évaluations humaines >Observabilité LLM comme discipline de premier ordre : traces, spans, jetons, latence, erreurs et dérive >Attribution des coûts par fonctionnalité, workflow, locataire et parcours utilisateur, pas seulement par modèle >Ingénierie de sécurité : défense contre l'injection de prompt, prévention des fuites de données et limites de permissions >Isolation multi-locataires, sécurité du cache et prévention de la contamination de contexte entre utilisateurs >Ajustement fin vs. apprentissage en contexte vs. RAG vs. distillation et quand chacun est le mauvais outil >Compromis de latence, qualité, coût et fiabilité sur toute la pile d'inférence >Modes de défaillance en production : appels d'outils hallucinés, JSON malformé, récupération obsolète, agents incontrôlés et régressions d'évaluation silencieuses