Qwen3 A22B es una familia de modelos de lenguaje de gran tamaño desarrollada por Alibaba Cloud, publicada por primera vez en abril de 2025. La familia incluye cuatro variantes que han aparecido en tablas de clasificación públicas de LLM y en medios, incluyendo la plataforma de evaluación de IA Artificial Analysis y la tabla de clasificación LMArena. Los modelos se basan en una arquitectura de mezcla de expertos (MoE), con 22 mil millones de parámetros totales y aproximadamente 3 mil millones de parámetros activos por token. La familia forma parte de la serie más amplia Qwen3, que también incluye modelos densos de diversos tamaños.
Los modelos Qwen3 A22B están diseñados tanto para tareas de razonamiento como para tareas que no requieren razonamiento, con una longitud de contexto de 256,000 tokens. Se publican bajo una licencia de código abierto, específicamente la licencia Apache 2.0, que permite su uso comercial. Los modelos están disponibles en variantes base y ajustadas por instrucciones, con las versiones ajustadas optimizadas para aplicaciones de chat y de agentes.
Arquitectura y Entrenamiento
El Qwen3 A22B utiliza una arquitectura MoE basada en transformadores, incorporando técnicas como atención de múltiples cabezas, conexiones residuales y normalización de capas. El modelo emplea un tokenizador con un tamaño de vocabulario de 151,936 y utiliza muestreo top-p y escalado de temperatura durante la generación. El entrenamiento implicó un proceso de dos etapas: preentrenamiento inicial en un gran corpus de texto multilingüe, seguido de ajuste fino supervisado y aprendizaje por refuerzo a partir de retroalimentación de IA (RLAIF) para alinearse con las preferencias humanas.
El modelo se entrenó con una mezcla de datos de web, libros y código, con un enfoque en inglés y chino. El cómputo de entrenamiento se estima en varios miles de días de GPU, aunque las cifras exactas no se divulgan públicamente. El modelo utiliza optimizador Adam con un programa de tasa de aprendizaje coseno y recorte de gradientes para la estabilidad.
Rendimiento en Evaluaciones
En tablas de clasificación públicas, la variante ajustada por instrucciones del Qwen3 A22B ha demostrado un rendimiento competitivo. En mayo de 2025, se clasificó entre los mejores modelos de peso abierto en la tabla de clasificación LMArena, con una puntuación Elo de aproximadamente 1300, situándose por encima de muchos modelos propietarios más grandes. En el Índice de Inteligencia de Artificial Analysis, obtuvo 46 puntos, superando a modelos como GPT-4o-mini y Claude 3.5 Haiku. En evaluaciones estándar, logró un 83.2% en MMLU-Pro, un 86.1% en GPQA-Diamond y un 91.1% en AIME 2025, lo que indica sólidas capacidades de razonamiento y matemáticas.
La variante base también tuvo un buen rendimiento en evaluaciones de codificación, con un 72.6% en LiveCodeBench y un 65.4% en SWE-bench Verified. Estos resultados han sido citados en informes de medios y evaluaciones académicas, aunque la replicación independiente está en curso.
Variantes y Disponibilidad
La familia Qwen3 A22B incluye cuatro variantes: Qwen3-22B (base), Qwen3-22B-Instruct, Qwen3-22B-Instruct-2507 y Qwen3-22B-Instruct-2507-AWQ. Las versiones 2507, publicadas en julio de 2025, incluyen actualizaciones en el ajuste por instrucciones y soporte para llamada de herramientas. La variante AWQ está cuantizada para una inferencia eficiente, utilizando pesos de 4 bits. Todas las variantes están disponibles para descarga a través de Hugging Face y ModelScope, y están integradas en las ofertas de Amazon SageMaker, Azure AI y Google Cloud.
Recepción e Impacto
La publicación de Qwen3 A22B fue notable por su enfoque de peso abierto, que permite a investigadores y desarrolladores ejecutar el modelo en hardware de consumo con aceleradores Groq o SambaNova. Se ha utilizado en diversas aplicaciones, incluyendo chatbots de IA generativa y asistentes de codificación. El rendimiento del modelo se ha comparado favorablemente con el de GPT-4.1 de OpenAI y Claude 3.5 Sonnet de Anthropic, particularmente en tareas de razonamiento. Sin embargo, algunas evaluaciones señalan que las capacidades multilingües del modelo son menos robustas para idiomas distintos del inglés más allá del chino.
A finales de 2025, la familia Qwen3 A22B sigue siendo una opción popular para el despliegue local, con una fuerte comunidad de seguidores. Su publicación ha contribuido a la tendencia de que los modelos de peso abierto reduzcan la brecha con los sistemas propietarios.