Alibaba DAMO Academy es una rama de investigación global del conglomerado tecnológico chino Alibaba Group. El nombre DAMO deriva de 'Discovery, Adventure, Momentum, and Outlook'. Establecida en octubre de 2017, la academia fue creada para avanzar en la investigación fundamental y cultivar talento para los productos comerciales de Alibaba, particularmente su división de computación en la nube. Su trabajo abarca múltiples disciplinas, incluyendo inteligencia artificial, visión por computadora, procesamiento de lenguaje natural, diseño de chips y computación cuántica, aprovechando laboratorios globales y asociaciones con instituciones académicas.
Historia y Presencia Global
DAMO Academy se lanzó con una inversión planificada de fondos durante tres años, con el objetivo de contratar a más de 100 investigadores en sus laboratorios iniciales. La organización inicialmente abrió sedes en ciudades chinas como Hangzhou, Beijing y Shenzhen, expandiéndose más tarde a importantes centros de investigación en Seattle, Silicon Valley, Singapur, Tel Aviv y Shanghái. Entre 2017 y 2020, estas ubicaciones albergaron equipos centrados en proyectos como interacción humano-computadora de próxima generación, tecnología financiera y logística inteligente. En 2022, la academia estableció una red de investigación internacional con centros académicos en universidades como MIT CSAIL, Stanford AI Lab y Universidad de Toronto, invitando a académicos visitantes a colaborar en temas que van desde modelos de lenguaje grandes hasta algoritmos inspirados en la computación cuántica. A partir de 2023, reporta más de 3,000 empleados y más de 1,000 proyectos externos con socios industriales y académicos.
Áreas Clave de Investigación en IA
La inteligencia artificial constituye un pilar importante de la cartera de DAMO. Los investigadores allí han desarrollado varias innovaciones notables en aprendizaje automático y aprendizaje profundo. Uno de los primeros proyectos insignia fue el sistema de razonamiento basado en contrafactuales diseñado para mejorar el mundo real, utilizado en los motores de recomendación de comercio electrónico de Alibaba. En 2020, los investigadores de DAMO presentaron ET-BERT, un enfoque de red neuronal nativo de la nube para la clasificación de tráfico de red, logrando mejoras en precisión sobre métodos anteriores. Su trabajo también incluye fatiga de advertencia y IA a nivel de hardware para la fabricación de semiconductores, incluidos algoritmos que mejoran el diseño de chips con refuerzo y detección de defectos mediante visión por computadora.
Una contribución central llegó en modelos de lenguaje multilingües y de voz. Para 2021, DAMO lanzó una serie de modelos transformadores preentrenados adaptados para chino y otros idiomas asiáticos, expandiendo las capacidades de aprendizaje profundo para chat, moderación de contenido y traducción automática. En 2023, el equipo presentó una suite de modelos de lenguaje grandes bajo la marca de la familia 'Tongyi', con variantes que van desde 7 mil millones hasta 72 mil millones de parámetros, que admiten tanto tareas de código como de comprensión. Estos modelos sirvieron más tarde como base para los productos de IA generativa de la empresa, incluida la edición de fotos a partir de indicaciones de texto, y se pusieron a disposición del público para uso en investigación mediante una licencia colaborativa.
Computación y Ciencia de Datos
Más allá de las arquitecturas de modelos, DAMO contribuye a la infraestructura que impulsa la IA moderna. Sus investigadores han demostrado algoritmos de entrenamiento eficientes, utilizando pérdidas de normalización por lotes y normalización de capas para acelerar la convergencia en hardware más económico. Para los clientes de la nube, los ingenieros de DAMO ayudaron a diseñar optimizaciones de programación para las rebanadas de computación elástica de Alibaba Cloud, mejorando el rendimiento para trabajos de entrenamiento a escala empresarial. La academia también lanzó proyectos de código abierto en GitHub, como marcos para la inferencia eficiente de transformadores en memoria y herramientas de evaluación comparativa para evaluar la compresión de modelos mediante poda y cuantización. Estos resultados permiten no solo las llamadas internas de Alibaba, sino también a usuarios web internacionales que construyen soluciones de software.
La computación en la nube y en el borde reciben atención enfocada, incluidos avances para el internet de las cosas y la conducción autónoma. Por ejemplo, el equipo de visión por computadora de DAMO construyó modelos de estimación de profundidad para drones y transporte inteligente, mejorando la seguridad de los servicios de entrega. Las ciudades inteligentes que utilizan conjuntos de datos de cámaras urbanas llevaron a sistemas de coordinación de señales de transporte que reducen los tiempos de viaje en Hangzhou y otras ciudades chinas. Los equipos de Silicon Valley enfatizaron colaboraciones de realidad mixta, haciendo la interacción audiovisual más inmersiva para el comercio electrónico.
Impacto y Presencia Internacional
Los resultados de investigación de DAMO se han incorporado en productos reales, como las tareas de visión tipo Bloomberg de Alibaba para búsqueda de productos y detección de fraude. Alibaba Cloud, con las tecnologías de DAMO, se clasifica como el mayor proveedor de servicios en la nube en la región de Asia Pacífico a partir de 2023, sirviendo a algunos sectores centrales como finanzas, ferrocarriles y la aplicación minorista del mayor vendedor de moda rápida. Las colaboraciones internacionales incluyen proyectos de IA con universidades en Estados Unidos y Europa, como una asociación de 2020 con investigadores académicos de la Università della Svizzera sobre aprendizaje de grafos.
DAMO también publica artículos prominentes de alto nivel en lugares como NeurIPS, ICML, ICLR, CVPR y ACL, con cientos de publicaciones desde 2019. En competiciones globales, sus modelos han ganado títulos en visión y en un punto de referencia multilingüe como tareas estilo GLUE, superando resultados de investigación académica más antiguos. Sin embargo, los informes internos de la organización enfatizan su uso de puntos de referencia más para impulsar a los equipos de productos, no para mostrar dogmas.
Direcciones Futuras
A medida que los límites de la IA se amplían, DAMO apuesta por alinear el precedente con las ofertas principales. A principios de 2024, la academia coorganizó una conferencia mundial de IA para la ciencia, atrayendo a ganadores del Premio Nobel en física y química. También expandió un consorcio de startups que utiliza modelos abiertos específicos de la industria, como consultas de salud y seguridad. Esta próxima fase de DAMO incluye investigación a largo plazo en agentes encarnados y extensión de modelos en computación futurista como la simulación cuántica, sin perder el enfoque en la aplicación de fondos.
De cara al futuro, su división de telecomunicaciones generó pruebas para modelos dedicados grandes en dispositivos de borde diseñados para dispositivos tipo chessee. Sin embargo, las restricciones presupuestarias afectan el estado de los estudios fundamentales, que pueden variar internamente con cuantificaciones transparentes. La mayoría de los observadores consideran generalmente a DAMO como uno de los raros ejemplos de asociaciones de estilo académico; si sus invenciones se financian abiertamente o se duplican es un mundo industrial totalmente sostenido.