Benchmark de otimização de flags do llama-server

Benchmark de flags do llama-server no RTX 5090, prompt de 16K, seis modelos (Qwen3.8-27B, Gemma 4 31B, Qwen3.6-35B-A3B, Nemotron Lightning, Ornith 35B, Qwopus Flash). --flash-attn ativado: irrelevante, o auto já seleciona Flash Attention. --parallel 1: útil, não custa nada, melhora a decodificação em até 10% no Gemma em profundidade, libera cerca de 2,3 GB de VRAM. Cache KV Q8_0: economiza 1-2,6 GB em modelos densos, apenas 0,1 GB em MoE com 3B ativos, custa 5-7% da velocidade de decodificação. Cache KV Q4_0: a decodificação cai -17%, -23%, -27%, -23%, -29%, -17% nos seis modelos; a qualidade quase não muda (GPQA: F16 100, Q8 100, Q4 98). Cabeças de rascunho MTP: Qwen3.8-27B ~2,2x, Gemma ~1,5x, Nemotron Lightning 0,7x (mais lento). A decodificação especulativa não é automaticamente benéfica acima de ~300 tok/s. Primeira solicitação com prompt de 16K: processamento de 5-6s; em cache: 0,1-0,4s. Conclusão: não copie comandos cegamente; faça benchmark da sua carga de trabalho real.