Qwen3 A22Bは、大規模言語モデルのファミリーであり、Alibaba Cloudによって開発され、2025年4月に初めてリリースされた。このファミリーには、公開されたLLMおよびメディアのリーダーボードに登場した4つのバリアントが含まれており、AIベンチマークプラットフォームであるArtificial AnalysisやLMArenaリーダーボードが含まれる。モデルは混合専門家（MoE）アーキテクチャに基づいており、総パラメータ数は220億、トークンあたりのアクティブパラメータ数は約30億である。このファミリーは、より広範なQwen3シリーズの一部であり、さまざまなサイズの高密度モデルも含まれている。
Qwen3 A22Bモデルは、推論タスクと非推論タスクの両方に対応するように設計されており、コンテキスト長は256,000トークンをサポートする。これらはオープンソースライセンス、具体的にはApache 2.0ライセンスの下でリリースされており、商用利用が可能である。モデルはベースバリアントと命令チューニング済みバリアントで利用でき、命令チューニング済みバージョンはチャットおよびエージェントアプリケーション向けに最適化されている。
アーキテクチャとトレーニング
Qwen3 A22Bは、トランスフォーマーベースのMoEアーキテクチャを使用しており、マルチヘッドアテンション、残差接続、レイヤー正規化などの技術を組み込んでいる。モデルは語彙サイズ151,936のトークナイザーを採用し、生成時にはtop-pサンプリングと温度スケーリングを使用する。トレーニングには2段階のプロセスが含まれる。多言語テキストの大規模コーパスでの初期事前トレーニングと、その後の教師ありファインチューニングおよびAIフィードバックからの強化学習（RLAIF）による人間の好みへの整合である。
モデルは、英語と中国語に焦点を当てた、ウェブ、書籍、コードからのデータの混合でトレーニングされた。トレーニング計算量は数千GPU日と推定されているが、正確な数値は公開されていない。モデルはAdamオプティマイザーをコサイン学習率スケジュールと勾配クリッピングとともに使用して安定性を確保している。
ベンチマークパフォーマンス
公開リーダーボードでは、Qwen3 A22B命令チューニング済みバリアントは競争力のあるパフォーマンスを示している。2025年5月には、LMArenaリーダーボードでトップのオープンウェイトモデルの中にランクインし、Eloレーティングは約1300で、多くのより大きなプロプライエタリモデルを上回った。Artificial Analysis Intelligence Indexでは46ポイントを獲得し、GPT-4o-miniやClaude 3.5 Haikuなどのモデルを上回った。標準ベンチマークでは、MMLU-Proで83.2%、GPQA-Diamondで86.1%、AIME 2025で91.1%を達成し、強力な推論および数学的能力を示している。
ベースバリアントもコーディングベンチマークで良好なパフォーマンスを示し、LiveCodeBenchで72.6%、SWE-bench Verifiedで65.4%を獲得した。これらの結果はメディアの報道や学術的評価で引用されているが、独立した再現は進行中である。
バリアントと可用性
Qwen3 A22Bファミリーには、Qwen3-22B（ベース）、Qwen3-22B-Instruct、Qwen3-22B-Instruct-2507、Qwen3-22B-Instruct-2507-AWQの4つのバリアントが含まれる。2507バージョンは2025年7月にリリースされ、命令チューニングの更新とツール呼び出しのサポートが含まれている。AWQバリアントは、4ビット重みを使用した効率的な推論用に量子化されている。すべてのバリアントはHugging FaceおよびModelScopeからダウンロード可能であり、Amazon SageMaker、Azure AI、Google Cloudの提供に統合されている。
評価と影響
Qwen3 A22Bのリリースは、そのオープンウェイトアプローチで注目され、研究者や開発者がGroqやSambaNovaアクセラレータを使用してコンシューマーハードウェアでモデルを実行できるようにした。これは、生成AIチャットボットやコーディングアシスタントを含むさまざまなアプリケーションで使用されている。モデルのパフォーマンスは、特に推論タスクにおいて、OpenAIのGPT-4.1やAnthropicのClaude 3.5 Sonnetと好意的に比較されている。ただし、一部の評価では、モデルの多言語能力は中国語以外の非英語言語ではそれほど堅牢ではないと指摘されている。
2025年後半の時点で、Qwen3 A22Bファミリーはオンプレミス展開の人気のある選択肢であり続けており、強力なコミュニティの支持を得ている。そのリリースは、オープンウェイトモデルがプロプライエタリシステムとの差を縮めるというトレンドに貢献している。