Lista de Dominio en Ingeniería de LLM

Como Ingeniero de IA. Por favor, aprenda >Aprovechar la ingeniería, no solo la ingeniería de prompts >Ingeniería de contexto, no solo prompts largos >Compensaciones entre caché de prompts y caché semántica >Gestión de caché KV, desalojo, reutilización y presión de memoria a escala >Latencia de prefill vs. decode y por qué se optimizan de manera diferente >Batching continuo, atención paginada y optimización de rendimiento >Compensaciones entre decodificación especulativa, cuantización y destilación >INT8, INT4, FP8, AWQ, GPTQ y cuándo la cuantización perjudica la calidad >Fallos en salidas estructuradas, validación de esquemas, bucles de reparación y cadenas de respaldo >Fiabilidad en llamadas a funciones, contratos de herramientas, validación de argumentos e idempotencia >Guardarraíles de agentes, presupuestos de bucles, presupuestos de herramientas y condiciones de terminación >Enrutamiento de modelos, lógica de respaldo elegante y UX en modo degradado >Arquitectura RAG: fragmentación, embeddings, búsqueda híbrida, reordenamiento y frescura >Evaluaciones de recuperación: recall, precisión, fundamentación, atribución y calidad de citas >Evaluaciones: conjuntos dorados, pruebas de regresión, pruebas adversariales, LLM-como-juez y evaluaciones humanas >Observabilidad de LLM como disciplina de primera clase: trazas, spans, tokens, latencia, errores y deriva >Atribución de costos por característica, flujo de trabajo, inquilino y recorrido del usuario, no solo por modelo >Ingeniería de seguridad: defensa contra inyección de prompts, prevención de fugas de datos y límites de permisos >Aislamiento multiinquilino, seguridad de caché y prevención de contaminación de contexto entre usuarios >Ajuste fino vs. aprendizaje en contexto vs. RAG vs. destilación y cuándo cada uno es la herramienta incorrecta >Compensaciones de latencia, calidad, costo y fiabilidad en toda la pila de inferencia >Modos de fallo en producción: llamadas a herramientas alucinadas, JSON malformado, recuperación obsoleta, agentes descontrolados y regresiones silenciosas en evaluaciones