Liste de maîtrise de l’ingénierie IA

Maîtrise de l'ingénierie, pas seulement de l'ingénierie de prompt Ingénierie du contexte, pas seulement des prompts longs Compromis entre mise en cache de prompts et mise en cache sémantique Gestion du cache KV, éviction, réutilisation et pression mémoire à grande échelle Latence de préremplissage vs. latence de décodage et pourquoi elles s'optimisent différemment Batching continu, attention paginée et optimisation du débit Compromis entre décodage spéculatif, quantification et distillation INT8, INT4, FP8, AWQ, GPTQ et quand la quantification nuit à la qualité Échecs de sortie structurée, validation de schéma, boucles de réparation et chaînes de repli Fiabilité des appels de fonction, contrats d'outils, validation d'arguments et idempotence Garde-fous d'agent, budgets de boucle, budgets d'outils et conditions de terminaison Routage de modèles, logique de repli gracieuse et UX en mode dégradé Architecture RAG : découpage, embeddings, recherche hybride, reclassement et fraîcheur Évaluations de récupération : rappel, précision, ancrage, attribution et qualité des citations Évaluations : ensembles dorés, tests de régression, tests adverses, LLM-comme-juge et évaluations humaines Observabilité LLM comme discipline de premier ordre : traces, spans, jetons, latence, erreurs et dérive Attribution des coûts par fonctionnalité, workflow, locataire et parcours utilisateur, pas seulement par modèle Ingénierie de sécurité : défense contre l'injection de prompts, prévention des fuites de données et limites de permissions Isolation multi-locataires, sécurité du cache et prévention de la contamination de contexte entre utilisateurs Fine-tuning vs. apprentissage en contexte vs. RAG vs. distillation et quand chacun est le mauvais outil Compromis de latence, qualité, coût et fiabilité sur l'ensemble de la pile d'inférence Modes de défaillance en production : appels d'outils hallucinés, JSON malformé, récupération obsolète, agents incontrôlables et régressions d'évaluation silencieuses