SambaNova Systems, Inc. es una empresa estadounidense de inteligencia artificial (IA) y hardware de semiconductores que diseña y fabrica aceleradores de hardware denominados Unidades de Flujo de Datos Reconfigurables (RDU), ajustados para modelos de aprendizaje profundo y aplicaciones de IA generativa. La empresa se centra en proporcionar sistemas informáticos tanto en la nube como locales para la inferencia de IA y el despliegue de modelos, con el objetivo de mejorar el movimiento de datos y la eficiencia computacional para cargas de trabajo de IA.
Fundada en noviembre de 2017, SambaNova ha crecido hasta convertirse en un actor significativo en el espacio del hardware de IA, recaudando financiación sustancial y desplegando su tecnología en laboratorios de investigación y plataformas de nube comerciales. Su arquitectura, basada en el flujo de datos reconfigurable, la distingue de los enfoques tradicionales basados en GPU, ofreciendo una alternativa para organizaciones que buscan ejecutar modelos de IA a gran escala.
Historia
SambaNova fue cofundada en noviembre de 2017 por Kunle Olukotun, Christopher Ré y Rodrigo Liang. La base técnica de la entidad se derivó de la investigación de matrices de microprocesadores para sistemas de aprendizaje automático que recibió financiación de la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA). Los fundadores aportaron experiencia del ámbito académico e industrial, siendo Olukotun profesor en la Universidad de Stanford y Ré profesor en la misma institución, mientras que Liang tenía experiencia en la industria.
Entre 2018 y 2021, SambaNova recaudó alrededor de 1.100 millones de dólares, alcanzando una valoración de 5.100 millones de dólares en abril de 2021. Esta financiación apoyó el desarrollo de su pila de hardware y software. A principios de la década de 2020, la empresa comenzó a ofrecer servicios de IA en la nube y plataformas de inferencia, ampliando sus ofertas más allá de las ventas de hardware.
En 2023, SambaNova introdujo la unidad de flujo de datos reconfigurable (RDU) SN40L, un procesador diseñado para modelos de IA y cargas de trabajo de inferencia. Este chip representó un paso significativo en la hoja de ruta tecnológica de la empresa, dirigido a la creciente demanda de inferencia de IA generativa.
En 2024, Time incluyó SambaNova Suite en su lista anual de Mejores Invenciones, reconociendo la plataforma de software de la empresa. En 2026, fue incluida en el AI 50 de Forbes, destacando su relevancia continua en la industria de la IA.
Tecnología
SambaNova desarrolla sistemas informáticos de IA basados en una arquitectura de flujo de datos reconfigurable destinada a aplicaciones de aprendizaje automático y IA generativa. A diferencia de los procesadores tradicionales que ejecutan instrucciones secuencialmente, la RDU está diseñada para configurar sus rutas de datos dinámicamente, optimizando el flujo de datos para cargas de trabajo de IA específicas. Este enfoque tiene como objetivo reducir la sobrecarga del movimiento de datos, que a menudo es un cuello de botella en los cálculos de IA.
La plataforma de hardware se construye alrededor de la Unidad de Flujo de Datos Reconfigurable (RDU), una arquitectura de procesador destinada a mejorar el movimiento de datos y el cálculo para cargas de trabajo de IA. La RDU puede programarse para soportar varios modelos de redes neuronales, incluidos grandes modelos de lenguaje y otras arquitecturas de aprendizaje profundo.
La empresa ofrece sistemas en la nube y locales utilizados para la inferencia de IA y el despliegue de modelos. Su pila de software, SambaNova Suite, proporciona herramientas para el entrenamiento de modelos, el ajuste fino y la inferencia, con el objetivo de simplificar el despliegue de aplicaciones de IA.
Investigación y Supercomputación
Las plataformas de hardware informático de SambaNova se han utilizado en laboratorios de investigación públicos y complejos de supercomputación para probar modelos de aceleración alternativos para cálculos científicos. El Laboratorio Nacional Argonne del Departamento de Energía de los Estados Unidos integró el marco informático de SambaNova dentro de su Banco de Pruebas de IA especializado ubicado en la Instalación de Computación de Liderazgo de Argonne (ALCF). Esta integración permitió a los investigadores explorar las capacidades de la RDU para cargas de trabajo científicas.
En Japón, el Centro de Ciencias Computacionales Riken (R-CCS) desplegó sistemas SambaNova para operar junto al supercomputador Fugaku. Este despliegue tenía como objetivo evaluar el rendimiento de la RDU en un entorno de computación de alto rendimiento, complementando potencialmente los recursos tradicionales de CPU y GPU.
Estas colaboraciones demuestran el enfoque de SambaNova en la comunidad de investigación, proporcionando una alternativa a los aceleradores convencionales para el descubrimiento científico impulsado por IA.
Despliegues Comerciales
La tecnología de SambaNova también se utiliza en proyectos más recientes de inferencia de IA, incluidos Vector Core Compute y OVHcloud para impulsar su plataforma AI Endpoints. Estas asociaciones permiten a los proveedores de nube ofrecer servicios de inferencia basados en SambaNova a sus clientes, ampliando el alcance de la arquitectura RDU.
La estrategia comercial de la empresa implica tanto ventas directas a empresas como asociaciones con proveedores de servicios en la nube, lo que permite una adopción más amplia de su hardware sin requerir que los clientes inviertan en infraestructura local.
Financiación y Crecimiento
SambaNova ha atraído inversiones significativas de firmas de capital de riesgo e inversores estratégicos. La financiación recaudada entre 2018 y 2021, que totalizó alrededor de 1.100 millones de dólares, apoyó los esfuerzos de investigación y desarrollo de la empresa, así como la expansión de sus servicios en la nube. La valoración de 5.100 millones de dólares a partir de abril de 2021 posicionó a SambaNova entre las startups de hardware de IA más valiosas.
El crecimiento de la empresa ha sido impulsado por la creciente demanda de inferencia de IA, particularmente para grandes modelos de lenguaje y otras aplicaciones de IA generativa. A medida que las organizaciones buscan formas eficientes de ejecutar estos modelos, la arquitectura reconfigurable de SambaNova ofrece una ventaja potencial en términos de rendimiento y eficiencia energética.
Panorama Competitivo
SambaNova opera en un mercado competitivo que incluye actores establecidos como NVIDIA y AMD, así como otras startups como Groq y Graphcore. Mientras que las GPU de NVIDIA dominan el mercado de entrenamiento de IA, SambaNova se diferencia al centrarse en la inferencia y su arquitectura de flujo de datos reconfigurable, que puede adaptarse a modelos específicos.
El enfoque de la empresa a menudo se compara con el de Groq, que también desarrolla aceleradores de IA con un enfoque en la inferencia. Sin embargo, la RDU de SambaNova es más flexible, permitiendo la reprogramación para soportar diferentes arquitecturas de modelos, mientras que el chip de Groq es más especializado.
Direcciones Futuras
De cara al futuro, SambaNova tiene como objetivo continuar mejorando su arquitectura RDU y su pila de software para mantenerse al ritmo de los requisitos en evolución de los modelos de IA. Es probable que la empresa expanda sus ofertas en la nube y forje asociaciones adicionales con instituciones de investigación y proveedores de nube.
A partir de 2024, SambaNova no ha divulgado públicamente planes específicos para futuras generaciones de chips, pero el reconocimiento de Time y Forbes sugiere que sus productos están ganando tracción. La capacidad de la empresa para innovar en el panorama de hardware de IA en rápido cambio será crucial para su éxito a largo plazo.