Qwen3.8は、Alibaba Cloudによって開発された大規模言語モデルのファミリーである。このシリーズは2025年にQwen2.5世代の後継として導入され、高密度モデルから混合専門家（MoE）アーキテクチャまで、さまざまなパラメータサイズを提供している。これらのモデルは、オープンソース配布とAlibaba Cloudのプラットフォームを通じた商用展開の両方を目的として設計されている。
Qwen3.8ファミリーには複数の構成が含まれており、主力の高密度モデルは80億および320億パラメータで、Qwen3.8-A14BなどのMoEバリアントはトークンあたり22億パラメータを活性化する。これらのモデルは131,072トークンのコンテキスト長をサポートし、30以上の言語をカバーする多言語データでトレーニングされており、特に英語と中国語に強みを持つ。
アーキテクチャとトレーニング
Qwen3.8モデルは、マルチヘッドアテンション、SwiGLU活性化、回転位置埋め込みなどの拡張を備えた標準的なTransformer (architecture)デコーダー専用アーキテクチャを採用している。トレーニングプロセスでは、ウェブテキスト、書籍、コードの大規模なコーパスでの初期事前トレーニングと、それに続く教師付き微調整およびAIフィードバックからの強化学習（RLAIF）による人間の好みへの整合という2段階アプローチが使用された。
Qwen3.8の注目すべき特徴は、ハイブリッド思考モードであり、モデルが迅速な応答生成と拡張推論を切り替えることを可能にする。これはシステムプロンプトを介して制御され、ユーザーが速度と分析の深さのバランスを取れるようにする。モデルはまた、推論中に貪欲サンプリングとトップpサンプリング戦略を組み込んでいる。
パフォーマンスとベンチマーク
公開ベンチマークでは、Qwen3.8モデルは競争力のあるパフォーマンスを示している。Qwen3.8-32BモデルはMMLU-Proベンチマークで75.1のスコアを達成し、いくつかのより大きなモデルを上回った。AIME24数学コンペティションでは、32Bモデルは67.0をスコアし、MoEバリアントのQwen3.8-A14Bは81.0をスコアした。コーディングタスクでは、モデルはLiveCodeBenchとSWE-benchで強い結果を記録し、32Bモデルは後者で45.0の合格率に達した。
モデルはLMArenaやOpen LLM Leaderboardなどの公開LLMリーダーボードに登場し、サイズクラスでトップのオープンウェイトモデルにランクインしている。独立した評価では、特にMoEバリアントが計算コストを削減しながら高密度モデルに匹敵するパフォーマンスを提供する効率性が指摘されている。
リリースと利用可能性
Qwen3.8は段階的にリリースされ、最初に小さな0.6Bおよび1.7Bモデルが利用可能になり、次に8Bおよび32Bの高密度モデル、最後にMoEバリアントが続いた。重みはApache 2.0ライセンスの下で配布され、研究および商用利用の両方が許可されている。モデルはHugging FaceとModelScopeを通じてダウンロード可能であり、Alibaba CloudのModel Studioサービスを介して展開できる。
ハードウェアサポートにはNVIDIA GPUが含まれ、モデルはAMDおよびIntelハードウェアでの推論にも最適化されている。展開オプションは、vLLMやSGLangを使用したローカル推論からクラウドベースのAPIまで多岐にわたる。リリースには、GPTQおよびAWQ技術を使用した量子化バージョンも含まれており、メモリフットプリントを削減している。
評価と影響
Qwen3.8シリーズはオープンソースAIコミュニティで好評を博しており、開発者はそのパフォーマンス対サイズ比とハイブリッド思考モードの柔軟性を賞賛している。モデルはコーディングアシスタントから多言語翻訳ツールまで、さまざまなアプリケーションに統合されている。このリリースは、消費者向けハードウェアで実行できる高品質モデルを提供することで、生成AIの民主化という広範なトレンドに貢献している。
2025年後半の時点で、Qwen3.8ファミリーは積極的に維持されており、定期的な更新と追加の微調整バリアントがリリースされている。モデルはまた、モデルプルーニングやデータ拡張などの分野でのさらなる研究の基盤としても機能している。