Together AI es un proveedor de servicios en la nube que ofrece una plataforma para el desarrollo y la ejecución de modelos de inteligencia artificial, con un enfoque particular en los grandes modelos de lenguaje y la IA generativa. La empresa proporciona acceso a clústeres de GPU y un conjunto de herramientas de software diseñadas para optimizar el proceso de entrenamiento, ajuste fino e implementación de modelos. Sus ofertas incluyen la serie RedPajama de modelos de código abierto, que pretenden servir como alternativas transparentes y accesibles a los sistemas propietarios.
La plataforma se construye sobre los principios de la investigación abierta y la reproducibilidad, con el objetivo de reducir las barreras de entrada para organizaciones e investigadores que trabajan en el campo del aprendizaje automático. Al combinar potencia de cálculo bruta con una pila de software gestionada, Together AI busca abordar las complejidades de la gestión de infraestructura que a menudo obstaculizan el desarrollo de la IA. El enfoque de la empresa la ha posicionado como un actor notable en el panorama competitivo de los servicios de IA en la nube, que incluye a los principales proveedores como Amazon Web Services, Azure y Google Cloud.
Historia y Fundación
Together AI fue fundada en 2022 por un grupo de investigadores e ingenieros con experiencia en inteligencia artificial y sistemas distribuidos. El equipo fundador incluía a personas que habían trabajado anteriormente en destacadas empresas tecnológicas e instituciones de investigación, aportando experiencia en el entrenamiento y la implementación de modelos a gran escala. La empresa surgió del deseo de crear un entorno más colaborativo y abierto para el desarrollo de la IA, en contraste con la naturaleza cada vez más cerrada de algunos de los principales laboratorios de IA.
La ronda de financiación inicial se completó en 2022, con inversiones de firmas de capital de riesgo y figuras notables de la industria tecnológica. Este apoyo temprano permitió a la empresa comenzar a construir su infraestructura en la nube y desarrollar sus herramientas de software iniciales. A principios de 2023, Together AI había lanzado su plataforma pública, ofreciendo acceso a clústeres de GPU y una gama de modelos de código abierto.
Modelos RedPajama
Una de las contribuciones más significativas de Together AI es el proyecto RedPajama, una iniciativa para crear grandes modelos de lenguaje completamente de código abierto. El objetivo del proyecto es proporcionar modelos que no solo sean gratuitos de usar, sino también transparentes en sus datos de entrenamiento y metodología. Esto contrasta con muchos modelos comerciales, donde los datos de entrenamiento y el funcionamiento interno son a menudo propietarios.
El conjunto de datos RedPajama se publicó en abril de 2023, compuesto por más de 1,2 billones de tokens de datos de texto. Este conjunto de datos fue diseñado para replicar la composición de los datos utilizados para entrenar el GPT-3 de OpenAI, extrayendo información de fuentes como libros, Wikipedia y páginas web. La publicación de este conjunto de datos fue un paso importante en la democratización del acceso a datos de entrenamiento de alta calidad para modelos grandes.
Tras la publicación del conjunto de datos, Together AI presentó la familia de modelos RedPajama-INCITE. Estos modelos, disponibles en tamaños de 3 mil millones a 7 mil millones de parámetros, fueron entrenados con el conjunto de datos RedPajama. Se pusieron a disposición bajo una licencia abierta, permitiendo tanto el uso comercial como el de investigación. Los modelos demostraron un rendimiento competitivo en varios puntos de referencia, mostrando que los modelos de código abierto podían rivalizar con los propietarios en ciertas tareas.
Plataforma en la Nube e Infraestructura
El producto principal de Together AI es su plataforma en la nube, que proporciona a los usuarios acceso bajo demanda a recursos informáticos de alto rendimiento. La plataforma admite una variedad de tipos de GPU, incluidas las de AMD y NVIDIA, lo que permite a los usuarios seleccionar el hardware que mejor se adapte a sus necesidades y presupuesto. Esta flexibilidad es un punto de venta clave, ya que permite una experimentación y un escalado rentables.
La plataforma incluye un servicio de entrenamiento gestionado que simplifica el proceso de entrenamiento de modelos grandes. Los usuarios pueden especificar la arquitectura de su modelo y los parámetros de entrenamiento, y la plataforma se encarga de la infraestructura subyacente, incluido el entrenamiento distribuido en múltiples GPU. Esta abstracción reduce la carga técnica para investigadores y desarrolladores, permitiéndoles centrarse en el diseño del modelo en lugar de en la gestión del clúster.
Para la inferencia, Together AI ofrece un servicio de implementación que permite a los usuarios ejecutar sus modelos entrenados en producción con una configuración mínima. El servicio incluye funciones como el escalado automático y el equilibrio de carga, asegurando que las aplicaciones puedan manejar niveles variables de tráfico. La plataforma también admite el ajuste fino, permitiendo a los usuarios adaptar modelos preentrenados a dominios o tareas específicas.
Software y Herramientas
Más allá de la infraestructura bruta, Together AI proporciona un conjunto de herramientas de software diseñadas para mejorar el flujo de trabajo de desarrollo de IA. Estas herramientas incluyen bibliotecas para el paralelismo de modelos, que permiten el entrenamiento eficiente de modelos muy grandes que superan la capacidad de memoria de una sola GPU. La empresa ha contribuido a proyectos de código abierto en esta área, como las bibliotecas basadas en PyTorch para el entrenamiento distribuido.
La plataforma también se integra con marcos populares como las arquitecturas transformer y las bibliotecas de aprendizaje profundo, asegurando la compatibilidad con los flujos de trabajo existentes. Los usuarios pueden aprovechar herramientas estándar como la biblioteca Transformers de Hugging Face para cargar y usar modelos alojados en Together AI. Esta interoperabilidad es crucial para la adopción, ya que permite a los equipos migrar su código existente con cambios mínimos.
Together AI también ha desarrollado su propio motor de inferencia, optimizado para baja latencia y alto rendimiento. Este motor está diseñado para servir modelos grandes de manera eficiente, reduciendo el costo por token para los usuarios. La empresa afirma mejoras significativas en el rendimiento en comparación con las soluciones de servicio genéricas, lo que lo convierte en una opción atractiva para aplicaciones con requisitos en tiempo real.
Contribuciones de Código Abierto
Together AI es un firme defensor de la IA de código abierto, y sus contribuciones se extienden más allá de los modelos RedPajama. La empresa ha publicado varias bibliotecas de software y herramientas bajo licencias de código abierto, con el objetivo de beneficiar a la comunidad de IA en general. Estas incluyen utilidades para el procesamiento de datos, la evaluación de modelos y la optimización del entrenamiento.
La empresa también participa en esfuerzos de investigación colaborativa, publicando artículos e informes técnicos sobre temas relacionados con el entrenamiento de modelos a gran escala. Esta investigación se lleva a cabo a menudo en asociación con instituciones académicas, como el Stanford AI Lab y Berkeley AI Research. Al compartir sus hallazgos, Together AI contribuye a la base de conocimiento colectivo del campo.
Una contribución notable es la biblioteca FlashAttention, desarrollada en colaboración con investigadores del Stanford AI Lab. FlashAttention es un mecanismo de atención eficiente que reduce el uso de memoria y acelera el entrenamiento de modelos transformer. Esta biblioteca ha sido ampliamente adoptada en la comunidad de IA, convirtiéndose en un componente estándar en muchos flujos de entrenamiento.
Panorama Competitivo
Together AI opera en un mercado altamente competitivo, enfrentando desafíos tanto de los proveedores de nube establecidos como de las startups especializadas en IA. Las principales plataformas en la nube como Amazon Web Services, Azure y Google Cloud ofrecen sus propios servicios de IA, incluyendo plataformas de aprendizaje automático gestionadas y modelos preentrenados. Estos proveedores tienen la ventaja de una vasta infraestructura y bases de clientes existentes.
Los competidores especializados incluyen a Groq, SambaNova y Graphcore, que se centran en el desarrollo de hardware y software personalizados para cargas de trabajo de IA. Estas empresas a menudo se dirigen a la inferencia y el entrenamiento de alto rendimiento, ofreciendo alternativas a los sistemas tradicionales basados en GPU. Together AI se diferencia por su énfasis en los modelos de código abierto y su plataforma fácil de usar.
La empresa también se enfrenta a la competencia de otros proveedores de modelos de código abierto, como AI21 Labs e Inflection AI. Sin embargo, la combinación única de infraestructura en la nube y desarrollo de modelos de Together AI la distingue. La empresa tiene como objetivo ser una ventanilla única para las organizaciones que buscan construir e implementar soluciones de IA personalizadas.
Aplicaciones y Casos de Uso
La plataforma de Together AI se utiliza en una amplia gama de industrias y aplicaciones. En el sector sanitario, las organizaciones utilizan la plataforma para desarrollar modelos para el análisis de textos médicos y el apoyo al diagnóstico. La capacidad de ajustar finamente los modelos con datos propietarios es particularmente valiosa en este dominio, donde la privacidad de los datos es primordial.
En la industria financiera, Together AI ayuda a las empresas a construir modelos para la detección de fraudes, la evaluación de riesgos y el comercio algorítmico. La escalabilidad de la plataforma permite a estas organizaciones procesar grandes volúmenes de datos e implementar modelos en tiempo real. La naturaleza de código abierto de los modelos también permite una mayor transparencia y auditabilidad, lo cual es importante para el cumplimiento normativo.
Para las startups e instituciones de investigación, Together AI proporciona un punto de entrada accesible al desarrollo de IA a gran escala. El modelo de precios de pago por uso permite a los equipos experimentar sin una inversión inicial significativa. Esta democratización del acceso es una parte central de la misión de la empresa, permitiendo que una gama más amplia de voces contribuya a la innovación en IA.
Direcciones Futuras
De cara al futuro, Together AI continúa expandiendo su plataforma y sus ofertas de modelos. La empresa está invirtiendo en investigación para mejorar la eficiencia y las capacidades de los grandes modelos de lenguaje, con un enfoque en reducir el costo computacional del entrenamiento y la inferencia. Esto incluye explorar técnicas como la poda y la cuantización de modelos, que pueden hacer que los modelos sean más pequeños y rápidos sin una pérdida significativa de rendimiento.
La empresa también está trabajando en mejorar su soporte para modelos multimodales, que pueden procesar tanto texto como imágenes. Esta es un área de creciente interés en la comunidad de IA, con aplicaciones en campos como la visión por computadora y la robótica. Al expandir sus capacidades, Together AI tiene como objetivo permanecer a la vanguardia de la revolución de la IA generativa.
A partir de 2024, Together AI se ha establecido como un actor clave en el mercado de la IA en la nube, con una base de clientes en crecimiento y una sólida reputación por sus contribuciones de código abierto. El éxito continuo de la empresa dependerá de su capacidad para innovar y adaptarse al panorama en rápida evolución de la inteligencia artificial.