SambaNova Systems, Inc. es una empresa estadounidense de inteligencia artificial (IA) y hardware semiconductor. La empresa diseña y fabrica aceleradores de hardware denominados Unidades de Flujo de Datos Reconfigurables (RDU), ajustados para modelos de aprendizaje profundo y aplicaciones de IA generativa. Fundada en 2017, SambaNova se ha posicionado como proveedor de soluciones informáticas de IA de pila completa, combinando procesadores personalizados con plataformas de software para el entrenamiento e inferencia de modelos.
La tecnología de la empresa se dirige a la creciente demanda de infraestructura de IA eficiente, particularmente para el despliegue de redes neuronales a gran escala. El enfoque de SambaNova difiere de los sistemas tradicionales basados en GPU al utilizar una arquitectura de flujo de datos reconfigurable que busca optimizar simultáneamente el movimiento de datos y el cálculo. Este diseño está destinado a abordar los cuellos de botella de ancho de banda de memoria que a menudo limitan el rendimiento en los aceleradores de IA convencionales.
Historia
SambaNova fue cofundada en noviembre de 2017 por Kunle Olukotun, Christopher Ré y Rodrigo Liang. La base técnica de la entidad se derivó de la investigación de matrices de microprocesamiento para sistemas de aprendizaje automático que recibió financiación de la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA). Olukotun, profesor de la Universidad de Stanford, aportó experiencia en arquitectura de computadoras y procesamiento paralelo, mientras que Ré se centró en sistemas de aprendizaje automático y gestión de datos. Liang, exejecutivo de Oracle y Sun Microsystems, asumió el rol de director ejecutivo.
Entre 2018 y 2021, SambaNova recaudó alrededor de 1.100 millones de dólares, alcanzando los 5.100 millones en abril de 2021. Las rondas de financiación incluyeron la participación de importantes firmas de capital de riesgo e inversores estratégicos, lo que refleja un fuerte interés del mercado en hardware específico para IA. El crecimiento de la valoración de la empresa durante este período coincidió con el auge más amplio de la inversión en infraestructura de IA.
A principios de la década de 2020, la empresa también lanzó servicios de IA basados en la nube y plataformas de inferencia. Este movimiento permitió a los clientes acceder al hardware de SambaNova sin adquirir sistemas locales, ampliando la base de usuarios potenciales más allá de las grandes empresas e instituciones de investigación. En 2023, presentó la unidad de flujo de datos reconfigurable (RDU) SN40L, un procesador para modelos de IA y cargas de trabajo de inferencia. La SN40L representó un salto generacional significativo, con mayor capacidad de memoria y soporte para tamaños de modelo más grandes.
En 2024, Time incluyó a SambaNova Suite en su lista anual de Mejores Inventos y, en 2026, fue incluida en el Forbes AI 50. Estos reconocimientos destacaron la creciente visibilidad de la empresa en el competitivo mercado de hardware de IA, donde compite con actores establecidos y otras startups como Groq.
Tecnología
SambaNova desarrolla sistemas informáticos de IA basados en una arquitectura de flujo de datos reconfigurable destinada a aplicaciones de aprendizaje automático e IA generativa. A diferencia de los aceleradores de función fija, la RDU puede reconfigurarse en tiempo de ejecución para adaptarse a los patrones específicos de flujo de datos de diferentes modelos de redes neuronales. Esta flexibilidad está diseñada para acomodar la rápida evolución de las arquitecturas de IA, desde transformers y modelos de lenguaje grandes hasta redes convolucionales.
Su plataforma de hardware se construye alrededor de la Unidad de Flujo de Datos Reconfigurable (RDU), una arquitectura de procesador destinada a mejorar el movimiento de datos y el cálculo para cargas de trabajo de IA. La RDU integra una gran memoria en chip y una cuadrícula de elementos de procesamiento que pueden conectarse dinámicamente. Este diseño reduce la necesidad de mover datos entre unidades de memoria y cálculo separadas, un cuello de botella clave en las arquitecturas von Neumann tradicionales.
La empresa ofrece sistemas en la nube y locales utilizados para inferencia de IA y despliegue de modelos. La pila de software incluye SambaNova Suite, que proporciona herramientas para la compilación, optimización y servicio de modelos. Este enfoque integrado busca simplificar el despliegue de modelos de aprendizaje profundo, reduciendo el esfuerzo de ingeniería necesario para lograr un alto rendimiento.
La tecnología de SambaNova se centra particularmente en cargas de trabajo de inferencia, donde la latencia y el rendimiento son críticos. La empresa afirma que sus sistemas pueden ofrecer un rendimiento competitivo en tareas de IA generativa utilizando menos energía que los clústeres de GPU comparables. Esta eficiencia se logra mediante la arquitectura de flujo de datos, que elimina muchos de los gastos generales asociados con los procesadores basados en instrucciones.
Investigación y Despliegues de Supercomputación
Las plataformas de hardware informático de SambaNova se han utilizado en laboratorios de investigación públicos y complejos de supercomputación para probar modelos alternativos de aceleración para cálculos científicos. Estos despliegues han proporcionado una validación valiosa para la tecnología en entornos exigentes y no comerciales.
El Laboratorio Nacional de Argonne del Departamento de Energía de los Estados Unidos integró el marco informático de SambaNova dentro de su banco de pruebas de IA especializado ubicado en la Instalación de Computación de Liderazgo de Argonne (ALCF). Los investigadores de Argonne han utilizado el sistema para explorar aplicaciones en ciencia de materiales, modelado climático y biología, comparando su rendimiento con los recursos tradicionales de HPC.
En Japón, el Centro de Ciencias Computacionales Riken (R-CCS) desplegó sistemas de SambaNova para operar junto al supercomputador Fugaku. Esta integración permite a los investigadores descargar cargas de trabajo específicas de IA al hardware de SambaNova mientras Fugaku maneja tareas de simulación más generales. La colaboración se ha centrado en áreas como el descubrimiento de fármacos y la medicina personalizada, donde los modelos de IA pueden acelerar el análisis de grandes conjuntos de datos.
La tecnología de SambaNova también se utiliza en proyectos más nuevos de inferencia de IA, incluidos Vector Core Compute y OVHcloud para impulsar su plataforma AI Endpoints. Estas asociaciones demuestran la estrategia de la empresa de integrar su hardware en ofertas de nube de terceros, llegando a clientes que prefieren trabajar con proveedores de nube establecidos.
Panorama Competitivo
El mercado de hardware de IA es altamente competitivo, con grandes empresas tecnológicas y startups compitiendo por participación de mercado. Nvidia domina el segmento de entrenamiento con sus GPU, mientras que AMD e Intel han desarrollado aceleradores competidores. Google Cloud ofrece sus propias unidades de procesamiento tensorial, y Amazon Web Services ha introducido chips AWS Trainium para clientes de nube.
Entre las startups, Groq ha seguido un enfoque similar basado en flujo de datos, centrándose en inferencia de latencia ultrabaja. Graphcore desarrolló la Unidad de Procesamiento de Inteligencia (IPU) antes de salir del mercado en 2024. SambaNova se diferencia a través de su oferta de pila completa, combinando hardware con una plataforma de software madura que admite una amplia gama de modelos.
El enfoque de la empresa en la arquitectura reconfigurable la distingue de los diseños de función fija. Esta flexibilidad es particularmente relevante a medida que los modelos de IA evolucionan rápidamente, con nuevas arquitecturas que emergen regularmente. Los sistemas de SambaNova pueden reconfigurarse para admitir nuevos tipos de capas y mecanismos de atención sin requerir cambios de hardware.
Software y Ecosistema de Desarrolladores
SambaNova proporciona un kit de desarrollo de software que permite a investigadores e ingenieros portar modelos a su hardware. El compilador mapea automáticamente definiciones de modelos de alto nivel en el grafo de flujo de datos de la RDU, manejando optimizaciones como la fusión de operadores y la asignación de memoria. Esta automatización reduce la necesidad de ajuste manual de kernels, que a menudo se requiere en la programación de GPU.
SambaNova Suite incluye implementaciones preoptimizadas de familias de modelos comunes, incluidas arquitecturas basadas en transformers como BERT y modelos estilo GPT. Este enfoque de biblioteca acelera el tiempo de despliegue para organizaciones que adoptan IA generativa. La suite también admite técnicas de poda de modelos y cuantización para mejorar la eficiencia de inferencia.
En 2024, la empresa lanzó SambaNova Cloud, un servicio gestionado que proporciona acceso API a su hardware. Esta oferta se dirige a desarrolladores que desean ejecutar modelos de lenguaje grandes sin gestionar infraestructura. El servicio de nube admite modelos de código abierto populares y permite el ajuste fino en conjuntos de datos personalizados.
Estrategia Corporativa y Financiación
El modelo de negocio de SambaNova combina ventas de hardware con servicios de suscripción en la nube. La empresa se dirige a grandes empresas, agencias gubernamentales e instituciones de investigación que requieren capacidad de cómputo de IA dedicada. Sus sistemas locales están diseñados para organizaciones con estrictos requisitos de gobernanza de datos, mientras que el servicio de nube atrae a equipos más pequeños.
La empresa ha recaudado una financiación de capital de riesgo sustancial, con inversores que incluyen a BlackRock, Intel Capital y GV (anteriormente Google Ventures). Este respaldo financiero ha permitido una inversión significativa en diseño de chips y desarrollo de software. A partir de 2026, SambaNova seguía siendo una empresa privada, sin planes anunciados para una oferta pública inicial.
SambaNova también ha buscado expansión internacional, estableciendo asociaciones en Europa y Asia. El despliegue en Riken en Japón y las colaboraciones con proveedores de nube europeos reflejan esta estrategia global. La empresa enfrenta desafíos para escalar sus operaciones de fabricación y soporte para satisfacer la creciente demanda.
Direcciones Futuras
De cara al futuro, es probable que SambaNova se centre en mejorar la eficiencia de la inferencia para modelos cada vez más grandes. La tendencia hacia arquitecturas de mezcla de expertos y ventanas de contexto más largas presenta tanto oportunidades como desafíos para los sistemas basados en flujo de datos. La empresa también podría explorar la integración con tecnologías de memoria emergentes para reducir aún más los cuellos de botella de movimiento de datos.
A medida que la adopción de inteligencia artificial continúa creciendo en todas las industrias, se espera que aumente la demanda de hardware especializado. El enfoque reconfigurable de SambaNova podría resultar ventajoso en un mercado donde las arquitecturas de modelos aún están evolucionando. Sin embargo, la empresa debe continuar demostrando ventajas de rendimiento y costo sobre las ofertas que mejoran rápidamente de los fabricantes de chips establecidos.
La dinámica competitiva del mercado de hardware de IA sigue siendo fluida, con nuevos participantes y cambios tecnológicos que ocurren regularmente. El éxito de SambaNova dependerá de su capacidad para mantener el liderazgo tecnológico mientras construye un modelo de negocio sostenible en una industria intensiva en capital.