LLM 엔지니어링 마스터리 체크리스트

AI 엔지니어로서, 다음을 학습하십시오: >엔지니어링 활용 - 프롬프트 엔지니어링만이 아니라 >컨텍스트 엔지니어링 - 긴 프롬프트만이 아니라 >프롬프트 캐싱과 의미적 캐싱의 트레이드오프 >KV 캐시 관리, 축출, 재사용, 그리고 대규모 환경에서의 메모리 압박 >프리필과 디코드 지연 시간 - 그리고 이들이 다르게 최적화되는 이유 >연속 배치, 페이지드 어텐션, 그리고 처리량 최적화 >추측 디코딩, 양자화, 증류의 트레이드오프 >INT8, INT4, FP8, AWQ, GPTQ - 그리고 양자화가 품질을 저하시키는 경우 >구조화된 출력 실패, 스키마 검증, 복구 루, 그리고 폴백 체인 >함수 호출 신뢰성, 도구 계약, 인자 검증, 그리고 멱등성 >에이전트 가드레일, 루 예산, 도구 예산, 그리고 종료 조건 >모델 라우팅, 우아한 폴백 로직, 그리고 성능 저하 모드 UX >RAG 아키텍처: 청킹, 임베딩, 하이브리드 검색, 리랭킹, 그리고 신선도 >검색 평가: 재현율, 정밀도, 근거, 귀속, 그리고 인용 품질 >평가: 골든 세트, 회귀 테스트, 적대적 테스트, LLM-심판, 그리고 인간 평가 >LLM 관측 가능성을 일급 학문으로: 트레이스, 스팬, 토큰, 지연 시간, 오류, 그리고 드리프트 >모델별 비용이 아닌 기능, 워크플로우, 테넌트, 사용자 여정별 비용 귀속 >안전 엔지니어링: 프롬프트 인젝션 방어, 데이터 유출 방지, 그리고 권한 경계 >멀티 테넌트 격리, 캐시 안전성, 그리고 교차 사용자 컨텍스트 오염 방지 >파인튜닝, 인컨텍스트 학습, RAG, 증류 - 그리고 각각이 잘못된 도구가 되는 경우 >전체 추론 스택에 걸친 지연 시간, 품질, 비용, 그리고 신뢰성 트레이드오프 >프로덕션 실패 모드: 환각된 도구 호출, 잘못된 형식의 JSON, 오래된 검색, 통제 불능 에이전트, 그리고 조용한 평가 회귀