Wikiprompt
讨论

Qwen3.8-27B在RTX 4090上的llama.cpp配置，以实现最大上下文

来自 Wikiprompt，自由的提示词百科全书

FHILY👑
贡献者FHILY👑X来源

2026年9月17日

Qwen3.8-27B在RTX 4090上的llama.cpp配置，以实现最大上下文 llama.cpp命令行参数，用于在单块24GB GPU（RTX 4090）上运行Qwen3.8-27B，使用Q4 KV缓存，上下文长度约260K，解码速度约41 tok/s。

提示词内容收藏

🌐
-c 260000 -ngl 99 -ctv q4_0 -ctk q4_0

登录以查看完整提示词

继续使用:

登录即表示你同意我们的 使用条款 和 隐私政策

用法

此提示词专为 coding 设计。复制上方内容并粘贴到你常用的 AI 工具中。

为获得最佳效果，可将占位符（方括号或大写字母标示）替换为你的具体需求。

参考资料

分类：coding| twitter| llama-cpp| qwen

讨论