IBM Granite es una serie de modelos de lenguaje grandes y modelos fundacionales de solo decodificador creados por IBM. Anunciados el 7 de septiembre de 2023, con un artículo inicial publicado cuatro días después, los modelos fueron diseñados inicialmente para la plataforma de datos y IA generativa basada en la nube de IBM, Watsonx, junto con otros modelos. IBM posteriormente abrió el código fuente de algunas variantes centradas en código, haciéndolas disponibles gratuitamente bajo una licencia permisiva.
Los modelos Granite se entrenan con conjuntos de datos seleccionados extraídos de Internet, publicaciones académicas, repositorios de código y documentos legales y financieros. La serie abarca una gama de tamaños de parámetros, desde 3 mil millones hasta 34 mil millones, para satisfacer diferentes necesidades de implementación.
Arquitectura del modelo fundacional
Un modelo fundacional es un modelo de IA entrenado con datos amplios a escala, lo que permite su adaptación a una amplia variedad de tareas posteriores. Los modelos IBM Granite son transformadores de solo decodificador, una arquitectura común para modelos generativos de lenguaje que predice el siguiente token en una secuencia. Los primeros modelos fundacionales, Granite.13b.instruct y Granite.13b.chat, tenían cada uno 13 mil millones de parámetros, lo que era menor que muchos modelos grandes contemporáneos. Las variantes posteriores ampliaron el rango de 3 mil millones a 34 mil millones de parámetros, ofreciendo flexibilidad para diferentes presupuestos computacionales y casos de uso.
La curación de los datos de entrenamiento enfatizó la calidad y la diversidad, incorporando fuentes como artículos académicos, conjuntos de datos de código y dominios especializados como el legal y el financiero. Este enfoque buscaba mejorar el rendimiento en tareas orientadas a la empresa, un enfoque clave para las ofertas comerciales de IBM.
Lanzamiento y modelos de código de código abierto
El 6 de mayo de 2024, IBM lanzó el código fuente de cuatro variaciones de los Modelos de Código Granite bajo la licencia Apache 2.0, una licencia de código abierto permisiva que permite el uso, modificación y distribución gratuitos. Estos modelos se pusieron a disposición en Hugging Face, una plataforma popular para alojar modelos de IA. Según los informes internos de IBM, el modelo Granite 8b superó a Llama 3 en varios puntos de referencia relacionados con la codificación dentro de un rango de parámetros similar, destacando su rendimiento competitivo en generación y comprensión de código.
El lanzamiento de código abierto fue parte de una estrategia más amplia para fomentar la adopción y colaboración de la comunidad, en contraste con algunos modelos propietarios de otros proveedores. IBM posicionó a Granite como una alternativa flexible para empresas que buscan soluciones de IA personalizables.
Aplicaciones y ecosistema
Los modelos Granite están integrados en la plataforma Watsonx de IBM, que proporciona herramientas para análisis de datos, IA generativa e implementación de modelos. Los modelos se utilizan para tareas como generación de código, resumen de documentos y respuesta a preguntas, particularmente en industrias reguladas como finanzas y derecho, donde la privacidad de los datos y el cumplimiento normativo son críticos. Al ofrecer tanto acceso de código abierto como basado en la nube, IBM buscaba atender a una amplia gama de clientes, desde startups hasta grandes empresas.
El lanzamiento de modelos de código de código abierto también permitió a desarrolladores externos ajustar e implementar Granite en su propia infraestructura, incluidos Amazon Web Services y otros proveedores de nube. Este enfoque de ecosistema reflejó las tendencias en la comunidad de IA en general, donde modelos abiertos como LLaMA y Mistral AI han ganado tracción.
Rendimiento y comparaciones
IBM ha publicado puntos de referencia que muestran que los modelos Granite logran resultados competitivos en tareas estándar de PNL y codificación. Por ejemplo, se informa que el modelo Granite 8b superó a Llama 3 en puntos de referencia de codificación, a pesar de tener un número similar de parámetros. Sin embargo, la verificación independiente de estas afirmaciones es limitada, y el rendimiento puede variar según la tarea específica y la metodología de evaluación. Los modelos están diseñados para ser eficientes, con variantes más pequeñas adecuadas para la implementación en el borde y las más grandes para cargas de trabajo basadas en la nube.
Véase también
- Mistral AI, una empresa que también proporciona modelos de código abierto
- GPT
- LLaMA
- Gemini
Referencias
(No se incluyen enlaces externos según el estilo del artículo.)