双RTX 3090 Qwen3.8-27B SGLang推测解码设置

设置： 双RTX 3090 Qwen3.8-27B SGLang 0.5.19 AutoRound INT4 FP8 KV缓存 DFlash2与z-lab BF16块草稿器 262K上下文 基准结果（关闭思考，3次预热运行+5次测量运行）： 代码解码：219.8 token/s 叙事：124.6 token/s TTFT：64毫秒 代码CV：2.9% 叙事CV：3.3% 预填充： 约10K令牌：1,543 token/s 约90K令牌：1,195 token/s 内存： GPU 1：约22.5 GiB GPU 2：约22.1 GiB 内存泄漏：约20 MiB 对比： 内置MTP路径（相同量化）：约112代码token/s 死草稿器路径：约39 token/s DFlash2块草稿器：219.8代码token/s vLLM双3090对比： 双超级快：约141代码token/s 超快：约231代码token/s（但切换至BF16 KV缓存，放弃完整262K上下文） 注意事项： SGLang不输出vLLM SpecDecoding行，因此无法直接提取接受长度。 启用思考时，可见的聊天输出会变慢（推理令牌包含在生成中）。