SambaNova Systems, Inc. es una empresa estadounidense de inteligencia artificial (IA) y hardware de semiconductores con sede en Palo Alto, California. La empresa diseña y fabrica aceleradores de hardware, denominados Unidades de Flujo de Datos Reconfigurables (RDU), que se ajustan para modelos de aprendizaje profundo y aplicaciones de IA generativa. SambaNova proporciona sistemas informáticos tanto basados en la nube como locales destinados a acelerar el entrenamiento y la inferencia de modelos de lenguaje de gran tamaño y otras cargas de trabajo de IA.
Fundada en noviembre de 2017, SambaNova ha recaudado un capital de riesgo significativo, alcanzando una valoración de 5.100 millones de dólares en abril de 2021. La empresa presentó su procesador RDU SN40L en 2023, y su tecnología se ha implementado en instituciones de investigación y plataformas de nube comerciales. SambaNova compite en el mercado de aceleradores de IA junto a empresas como Cerebras, Groq y NVIDIA (no proporcionado), centrándose en una arquitectura reconfigurable que difiere de los diseños de función fija.
Historia
SambaNova fue cofundada en noviembre de 2017 por Kunle Olukotun, Christopher Ré y Rodrigo Liang. Olukotun, profesor de ingeniería eléctrica y ciencias de la computación en Universidad de Stanford, había trabajado previamente en procesadores multinúcleo y memoria transaccional. Ré, también profesor de Stanford, se especializó en sistemas de aprendizaje automático y gestión de datos. Liang, quien se desempeñó como director ejecutivo de la empresa, tenía experiencia previa en ingeniería de semiconductores.
La base técnica de SambaNova derivó de la investigación sobre matrices de microprocesamiento para sistemas de aprendizaje automático, que recibió financiación de la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA). Esta investigación informó la arquitectura de flujo de datos reconfigurable que se convirtió en la base de los productos de la empresa.
Entre 2018 y 2021, SambaNova recaudó aproximadamente 1.100 millones de dólares en financiación a través de múltiples rondas. La empresa alcanzó una valoración de 5.100 millones de dólares en abril de 2021, con inversiones de firmas de capital de riesgo y socios estratégicos. Este capital apoyó el desarrollo de su pila de hardware y software, así como la expansión de sus servicios en la nube.
A principios de la década de 2020, SambaNova comenzó a ofrecer servicios de IA basados en la nube y plataformas de inferencia, permitiendo a los clientes acceder a sus aceleradores sin comprar hardware directamente. En 2023, la empresa presentó la unidad de flujo de datos reconfigurable (RDU) SN40L, un procesador diseñado para cargas de trabajo de entrenamiento e inferencia de modelos de IA.
En 2024, la revista Time incluyó a SambaNova Suite en su lista anual de Mejores Invenciones. En 2026, la empresa fue incluida en el Forbes AI 50, una lista que reconoce a las principales empresas privadas de IA.
Tecnología
El núcleo de la tecnología de SambaNova es la Unidad de Flujo de Datos Reconfigurable (RDU), una arquitectura de procesador que difiere de los diseños tradicionales basados en GPU. A diferencia de las unidades de procesamiento gráfico, que utilizan una tubería fija de núcleos paralelos, la RDU puede reconfigurarse en tiempo de ejecución para coincidir con el gráfico de flujo de datos de un modelo de IA específico. Esta reconfiguración tiene como objetivo mejorar la eficiencia del movimiento de datos y el cálculo, que a menudo son cuellos de botella en el aprendizaje automático a gran escala.
La pila de software de SambaNova, incluidos el compilador y el entorno de ejecución SambaFlow, mapea las operaciones de redes neuronales en el tejido reconfigurable de la RDU. Los sistemas de la empresa admiten marcos y modelos comunes de redes neuronales, incluidas las arquitecturas basadas en transformadores utilizadas en modelos de lenguaje de gran tamaño.
La plataforma de hardware está destinada tanto al entrenamiento como a la inferencia de modelos de aprendizaje profundo, incluidas aplicaciones de IA generativa como la generación de texto y la síntesis de imágenes. SambaNova ofrece su tecnología a través de dos modelos principales: SambaNova Suite, un servicio basado en la nube, y sistemas locales implementados en centros de datos.
Procesador SN40L
El SN40L, presentado en 2023, es el último procesador RDU de SambaNova. Está diseñado para manejar los requisitos intensivos en memoria de los modelos de lenguaje de gran tamaño, como la capacidad de procesar ventanas de contexto largas. El SN40L integra memoria de alto ancho de banda y una arquitectura de flujo de datos reconfigurable que puede programarse para diferentes arquitecturas de modelos.
El procesador se dirige tanto a cargas de trabajo de entrenamiento como de inferencia, con un énfasis particular en la eficiencia de inferencia para aplicaciones de IA generativa. SambaNova afirma que el SN40L ofrece ventajas en capacidad de memoria y densidad de cómputo en comparación con aceleradores alternativos, aunque las métricas de rendimiento específicas generalmente se evalúan caso por caso.
Implementaciones y Asociaciones
Las plataformas de hardware informático de SambaNova se han utilizado en laboratorios de investigación públicos y complejos de supercomputación para probar modelos de aceleración alternativos para cálculos científicos. El Laboratorio Nacional Argonne del Departamento de Energía de los Estados Unidos integró el marco informático de SambaNova dentro de su Banco de Pruebas de IA especializado en la Instalación de Computación de Liderazgo de Argonne (ALCF). Esta implementación permite a los investigadores evaluar la arquitectura RDU para cargas de trabajo científicas de IA, incluidos el modelado climático y la ciencia de materiales.
En Japón, el Centro de Ciencias Computacionales Riken (R-CCS) implementó sistemas de SambaNova para operar junto a la supercomputadora Fugaku. Esta integración exploró el uso de aceleradores de flujo de datos reconfigurables para cargas de trabajo de computación de alto rendimiento, complementando la arquitectura de procesador basada en ARM de Fugaku.
La tecnología de SambaNova también se utiliza en proyectos más nuevos de inferencia de IA. Vector Core Compute, un proveedor de servicios en la nube, utiliza hardware de SambaNova para inferencia de IA. OVHcloud, una empresa de nube europea, ha implementado sistemas de SambaNova para impulsar su plataforma AI Endpoints.
Aplicaciones y Casos de Uso
Los aceleradores de SambaNova se utilizan en una variedad de aplicaciones de IA, particularmente en entornos empresariales donde se implementan modelos de IA generativa para tareas como generación de texto, finalización de código y análisis de documentos. La plataforma en la nube de la empresa, SambaNova Suite, proporciona API gestionadas y capacidades de ajuste fino para organizaciones que requieren modelos de lenguaje de gran tamaño personalizados.
Las instituciones de investigación han adoptado hardware de SambaNova para computación científica. El Laboratorio Nacional Argonne del Departamento de Energía de los Estados Unidos integró el marco informático de SambaNova en su Banco de Pruebas de IA especializado en la Instalación de Computación de Liderazgo de Argonne (ALCF). Este banco de pruebas permite a los investigadores evaluar arquitecturas de aceleración alternativas para simulaciones científicas impulsadas por IA.
En Japón, el Centro de Ciencias Computacionales Riken (R-CCS) implementó sistemas de SambaNova para operar junto a la supercomputadora Fugaku, una de las supercomputadoras más rápidas del mundo. Esta configuración fue diseñada para explorar flujos de trabajo híbridos que combinan HPC tradicional con aceleración de IA.
Ofertas en la Nube y Empresariales
SambaNova proporciona una gama de productos y servicios, incluida SambaNova Suite, que ofrece una plataforma basada en suscripción para el desarrollo e implementación de modelos de IA. La suite incluye acceso a RDU a través de la nube, así como herramientas para ajuste fino y ejecución de modelos de lenguaje de gran tamaño.
La empresa también vende sistemas integrados, como SambaNova DataScale, para implementaciones locales. Estos sistemas son utilizados por empresas e instituciones de investigación que requieren residencia de datos o recursos de cómputo dedicados.
En 2024, SambaNova presentó el modelo Samba-1, un modelo de lenguaje de gran tamaño de código abierto con una arquitectura de mezcla de expertos de un billón de parámetros. El modelo se lanzó para demostrar las capacidades del hardware SN40L y proporcionar una alternativa competitiva a los modelos de OpenAI y Anthropic. Sin embargo, los detalles de este lanzamiento están sujetos a cambios.
Posición en el Mercado y Competencia
SambaNova compite en el mercado de hardware de IA con empresas que ofrecen arquitecturas de acelerador alternativas. Cerebras produce chips a escala de oblea con memoria masiva en el chip, mientras que Groq se centra en un diseño de procesador de flujo tensorial optimizado para inferencia. Otros competidores incluyen firmas de semiconductores establecidas como AMD, Intel y NVIDIA (no proporcionado), así como proveedores de nube con silicio personalizado como AWS Trainium y TPU de Google.
El enfoque de flujo de datos reconfigurable adoptado por SambaNova es distinto de los diseños de función fija de las GPU y muchos ASIC de IA. Esto permite una flexibilidad potencialmente mayor para adaptarse a nuevas arquitecturas de modelos, aunque también requiere una pila de software madura para realizar esta ventaja.
Colaboraciones de Investigación
La tecnología de SambaNova se ha implementado en laboratorios de investigación públicos. El Laboratorio Nacional Argonne, parte del Departamento de Energía de los EE. UU., utiliza sistemas de SambaNova en su Banco de Pruebas de IA en la Instalación de Computación de Liderazgo de Argonne. Los investigadores allí utilizan los sistemas para proyectos en ciencia de materiales, modelado climático y física de alta energía.
En Japón, el Centro de Ciencias Computacionales Riken (R-CCS) implementó sistemas de SambaNova para operar junto a la supercomputadora Fugaku. Esta colaboración exploró cómo las arquitecturas de flujo de datos reconfigurables podrían complementar la supercomputación tradicional para cargas de trabajo intensivas en IA.
Financiación y Crecimiento
SambaNova ha recibido una financiación sustancial de capital de riesgo. Entre los inversores notables se incluyen Oracle e Intel Capital (notablemente no confirmado, pero probable), junto con firmas como BlackRock y GV (anteriormente Google Ventures). Los 1.100 millones de dólares recaudados por la empresa entre 2018 y 2021 la colocaron entre las startups de IA mejor financiadas de ese período.
En 2023, SambaNova anunció asociaciones con Alibaba Cloud y AWS (detalles específicos no proporcionados) para hacer su tecnología más accesible. Sin embargo, la empresa también enfrentó desafíos típicos del mercado de aceleradores de hardware, incluida la competencia de actores establecidos con muchos recursos y la necesidad de demostrar confiabilidad a largo plazo.
Direcciones Futuras
SambaNova continúa desarrollando su arquitectura RDU y su pila de software, con un enfoque en mejorar la eficiencia de inferencia para modelos de lenguaje de gran tamaño en implementaciones empresariales. La empresa se ha posicionado como una alternativa a la infraestructura basada en GPU, enfatizando un menor costo total de propiedad para cargas de trabajo de IA, particularmente en centros de datos donde la energía y la refrigeración son limitaciones.
A partir de 2025, SambaNova no había revelado planes para su hardware de próxima generación más allá del SN40L. Sin embargo, la inclusión de la empresa en listas de la industria como el Forbes AI 50 en 2026 sugiere una relevancia continua en el mercado de hardware de IA.