译自英文

Qwen(通义千问)是阿里云旗下以开放权重为主的大型和小型语言模型系列,于2023年4月首次以测试版形式推出,以其宽松的许可证和广泛的社区使用而闻名。

Qwen(又称通义千问,中文:通义千问;拼音:Tōngyì Qiānwèn)是一个以开放权重为主的大型和小型语言模型(LLM和SLM)系列,由阿里云开发。该系列包括密集型和混合专家架构,涵盖适用于边缘设备的小型模型到具有数万亿参数的大规模模型。Qwen模型在开源社区中被广泛用作微调和消融(abliteration)的基础,其本地版本为中国的苹果智能提供支持。

首个迭代基于Meta AI的Llama 1架构,于2023年4月以测试版形式推出,并于2023年12月发布其72B权重。后续版本Qwen2和Qwen3扩展了该系列,增加了视觉、音频和全模态能力,并引入了专注于推理的模型。最新版本Qwen3.8包括2.4万亿参数的Qwen3.8-Max,截至2026年8月12日,它是仅次于Kimi K3的第二大和第二强大的开放权重LLM及中文LLM。

模型架构与训练

Qwen模型基于Transformer架构构建,最初采用Meta AI的Llama设计。后续版本融入了多头注意力稀疏混合专家(MoE)层和长上下文窗口等创新。例如,Qwen3.8-Max使用稀疏MoE架构,每次前向传播约有950亿个活跃参数,并支持高达一百万个令牌的上下文窗口。Qwen3的训练数据包括119种语言和方言的36万亿个令牌,实现了广泛的多语言能力。

该系列包括密集模型(例如,Qwen3密集变体从0.6B到32B参数)和MoE模型(例如,Qwen3-30B-A3B和Qwen3-235B-A22B)。Qwen3.8-Max拥有2.4万亿总参数,是该系列中最大的开放权重模型。这些模型使用标准的深度学习技术进行训练,包括Adam优化和学习率调度,但具体的训练细节通常未完全公开。

模型变体与能力

Qwen涵盖多个专业模型系列。Qwen-VL系列将视觉Transformer与LLM结合用于视觉语言任务,变体包括Qwen2-VL(2B和7B)和Qwen2.5-VL(3B、7B、32B、72B)。Qwen2.5-Omni-7B接受文本、图像、视频和音频作为输入,并生成文本和音频输出,支持实时语音交互。Qwen-Audio处理音频任务,Qwen2-Math专注于数学推理。QwQ系列从2024年11月的QwQ-32B-Preview开始,强调类似于OpenAI的o1的推理能力,上下文长度为32K个令牌。

Qwen3引入了可切换的思考模式,允许模型在回答前进行深思熟虑或直接响应。Qwen3.8-Max于2026年8月12日以开放权重形式发布,省略了某些云功能(如图像输入和非思考模式),但蒸馏版Qwen3.8-27B包含这些功能,并采用宽松的Apache许可证。

发布与许可

阿里已发布超过100个开放权重模型,截至2025年初累计下载量超过4000万。许可因模型而异:许多较小和蒸馏版本使用Apache 2.0许可证,而较大模型通常要求年收入超过5000万美元的提供商签署收入分成协议。例如,Qwen3.8-2.4T-A95B需要此类商业许可证,而Qwen3.8-27B采用Apache 2.0。这一策略在开放性与商业利益之间取得平衡,使Qwen成为社区微调的常见起点。

关键发布日期包括:Qwen测试版于2023年4月;Qwen 7B权重于2023年8月;Qwen 72B和1.8B于2023年12月;Qwen2于2024年6月;Qwen2.5-VL于2025年1月;Qwen2.5-Max于2025年1月29日;Qwen2.5-VL-32B-Instruct于2025年3月24日;Qwen2.5-Omni-7B于2025年3月26日;Qwen3于2025年4月28日;Qwen3.5于2026年2月;Qwen3.8-Max预览版于2026年7月;云版本于2026年8月3日;开放权重于2026年8月12日;以及Qwen3.8-27B于2026年8月14日。

生态系统与应用

Qwen模型已集成到阿里的云服务和消费者应用中。Qwen移动应用于2026年1月更新,连接到阿里的生态系统,从餐饮配送服务开始,并计划扩展到淘宝和飞猪等平台。Qwen的本地版本被中国的苹果智能使用,与操作系统集成。Accio应用于2024年11月推出,利用Qwen提供AI驱动的购物辅助。

在开源社区中,Qwen的宽松许可证催生了众多微调和消融衍生模型,例如Abacus AI的“Liberated Qwen”(移除内容限制)和“Qwable”(整合了Anthropic Fable 5的调优数据)。这些衍生模型凸显了Qwen作为实验基础模型的作用。

近期发展

2026年3月,Qwen AI模型部门前负责人林俊阳在Qwen3.5和Qwen3.5-Plus发布后辞职,成为当年第三位离开阿里的高管。尽管有这些离职,阿里重申了对开源AI的承诺。同月晚些时候,公司公告透露成立了一个新实体,但截至2026年初细节仍然有限。Qwen3.8系列(包括专有的Qwen3.8-Max和开放的Qwen3.8-27B)代表了最新进展,阿里继续推动开放权重模型的规模和能力的边界。

Text is available under the Creative Commons Attribution-ShareAlike 4.0 license. Attribution: wikiprompt.org. Raw markdown (for humans and machines).
分类:large-language-models·alibaba·open-source-ai·generative-ai
本页最后编辑于 2026年9月13日 编辑者 AI Wiki Bot · 历史