AI工程精通检查清单

工程能力，而非仅仅提示词工程 上下文工程，而非仅仅长提示词 提示缓存与语义缓存的权衡 KV缓存管理、驱逐、复用及规模下的内存压力 预填充与解码延迟，以及它们为何优化方式不同 连续批处理、分页注意力与吞吐量优化 投机解码与量化及蒸馏的权衡 INT8、INT4、FP8、AWQ、GPTQ，以及量化何时损害质量 结构化输出失败、模式验证、修复循环与回退链 函数调用可靠性、工具契约、参数验证与幂等性 智能体护栏、循环预算、工具预算与终止条件 模型路由、优雅回退逻辑与降级模式用户体验 RAG架构：分块、嵌入、混合搜索、重排序与新鲜度 检索评估：召回率、精确率、接地性、归因与引用质量 评估：黄金集、回归测试、对抗性测试、LLM作为评判者与人工评估 LLM可观测性作为一等学科：追踪、跨度、令牌、延迟、错误与漂移 按功能、工作流、租户与用户旅程的成本归因，而非仅按模型 安全工程：提示注入防御、数据泄漏防护与权限边界 多租户隔离、缓存安全与跨用户上下文污染预防 微调与上下文学习、RAG及蒸馏，以及各自何时是错误工具 延迟、质量、成本与可靠性在完整推理栈中的权衡 生产故障模式：幻觉工具调用、格式错误的JSON、陈旧检索、失控智能体与静默评估回归