Decart es una empresa de tecnología especializada en infraestructura de inteligencia artificial. La organización desarrolla soluciones de software y hardware diseñadas para acelerar el entrenamiento y la inferencia de modelos de aprendizaje automático a gran escala, con un enfoque particular en mejorar la eficiencia computacional y reducir el costo asociado con las cargas de trabajo de IA. La empresa opera dentro del contexto más amplio del auge de la IA generativa, abordando la creciente demanda de recursos informáticos especializados.
El trabajo de Decart se cruza con varias áreas clave del desarrollo moderno de IA, incluida la optimización de arquitecturas de transformers y el despliegue de modelos de lenguaje grandes. El enfoque de la empresa a menudo implica una estrecha colaboración con proveedores de hardware para maximizar el rendimiento de redes neuronales en chips específicos, una práctica que se ha vuelto cada vez más crítica a medida que la escala de los modelos de IA continúa expandiéndose.
Fundación y Desarrollo Temprano
Decart fue fundada en 2023 por Dean Leitersdorf y Moshe Shalom. La empresa surgió del ecosistema de investigación de IA de Berkeley, con Leitersdorf habiendo estado previamente involucrado en investigación académica. Los fundadores identificaron un cuello de botella crítico en la industria de la IA: el inmenso costo computacional de entrenar y ejecutar modelos de última generación. Su enfoque inicial fue desarrollar una plataforma que pudiera optimizar la ejecución de modelos en varios hardware, incluidos los GPU de AMD, que a menudo se consideraban una alternativa más rentable a las ofertas dominantes de Nvidia.
Dentro de su primer año, Decart aseguró una financiación significativa de capital de riesgo. En 2024, la empresa anunció una ronda de financiación Serie A de $32 millones liderada por Benchmark, una destacada firma de capital de riesgo de Silicon Valley. Esta inversión señaló una fuerte confianza del mercado en la tecnología de Decart y su potencial para alterar el panorama de la infraestructura de IA, que entonces estaba dominado por unos pocos grandes proveedores de nube.
Tecnología y Productos Principales
El producto principal de Decart es un motor de inferencia y una plataforma de orquestación diseñados para ejecutar modelos de IA con velocidad y eficiencia excepcionales. La pila de software de la empresa está construida para ser independiente del hardware, lo que le permite optimizar el rendimiento en una variedad de aceleradores, incluidos los chips AWS Trainium, las TPU de Google Cloud y los aceleradores de Intel, además de los GPU de AMD. Esta flexibilidad es un diferenciador clave, ya que permite a los clientes evitar la dependencia de un proveedor y elegir el hardware más rentable para sus necesidades específicas.
Un logro notable de Decart fue el desarrollo de un sistema capaz de ejecutar un modelo de generación de imágenes basado en U-Net, como Stable Diffusion, a velocidades significativamente más rápidas que las implementaciones típicas. La empresa informó haber logrado velocidades de inferencia varias veces más rápidas que las de los principales competidores, en parte mediante técnicas avanzadas como poda de modelos y optimizaciones de normalización por lotes. Este rendimiento se demostró en una demo en vivo que ejecutó un modelo de texto a imagen en hardware de AMD, mostrando el potencial para aplicaciones de IA interactivas y en tiempo real.
Posición en el Mercado y Asociaciones
Decart se posiciona como un desafiante de los proveedores establecidos de nube de IA como Oracle Cloud y Microsoft Azure. En lugar de construir centros de datos masivos y centralizados, la plataforma de Decart está diseñada para agregar y utilizar recursos informáticos distribuidos, incluidos potencialmente GPU de grado de consumo subutilizados. Este enfoque tiene como objetivo crear un mercado informático más eficiente y accesible, reduciendo la barrera de entrada para startups e investigadores de IA.
La empresa ha formado asociaciones estratégicas con fabricantes de hardware para co-optimizar su software con nuevos diseños de chips. Una colaboración notable es con AMD, donde Decart ha trabajado para garantizar que su motor de inferencia aproveche completamente las capacidades de la serie Instinct de aceleradores de AMD. Esta asociación es parte de una tendencia más amplia de la industria donde las empresas de software trabajan estrechamente con diseñadores de chips para cerrar la brecha de rendimiento con el ecosistema CUDA de Nvidia.
Impacto y Direcciones Futuras
El ascenso de Decart refleja un cambio más amplio en la industria de la IA hacia la eficiencia y la optimización de costos. A medida que el costo de entrenar y ejecutar modelos de IA generativa se ha disparado, hay una presión creciente para encontrar formas de hacer más con menos. El enfoque de Decart en la velocidad de inferencia es particularmente relevante, ya que los costos de inferencia a menudo dominan el gasto total de operar servicios de IA a escala.
La tecnología de la empresa tiene implicaciones para el desarrollo de aplicaciones de inteligencia artificial que requieren respuestas en tiempo real, como agentes interactivos, juegos y sistemas autónomos. Al hacer que la inferencia de alto rendimiento sea más asequible, Decart tiene como objetivo acelerar el despliegue de IA en varios sectores. A partir de 2025, la empresa continúa expandiendo su equipo de ingeniería y desarrollando nuevas funciones, con el objetivo declarado de convertirse en una capa fundamental para la próxima generación de aplicaciones de IA.