El Berkeley RISE Lab (Laboratorio de Sistemas Inteligentes en Tiempo Real) es un laboratorio de investigación en la Universidad de California, Berkeley centrado en el desarrollo de sistemas e infraestructura para inteligencia artificial en tiempo real. Fundado por el informático Ion Stoica, el laboratorio continúa el trabajo de sus predecesores, los proyectos AMPLab y RISELab, que crearon tecnologías fundamentales como Apache Spark y Apache Mesos. La misión del laboratorio es cerrar la brecha entre los últimos avances en IA y los sistemas escalables y de baja latencia necesarios para implementarlos en entornos de producción.
El Berkeley RISE Lab opera bajo el paraguas de la comunidad Berkeley Artificial Intelligence Research pero mantiene una agenda de investigación propia centrada en la intersección de sistemas, redes y aprendizaje automático. Sus investigadores se centran en desafíos como el entrenamiento distribuido, la gestión de datos para IA y el desarrollo de herramientas que faciliten la construcción y operación de aplicaciones inteligentes en tiempo real. El laboratorio es conocido por sus contribuciones de código abierto, ampliamente adoptadas tanto en la industria como en el ámbito académico.
Raíces Históricas y Evolución
El laboratorio tiene sus orígenes en el AMPLab, que funcionó de 2011 a 2016 con financiación de la National Science Foundation y socios industriales. El AMPLab produjo Apache Spark, un motor de análisis unificado, y Apache Mesos, un gestor de clústeres. En 2017, el laboratorio pasó a llamarse RISELab (Laboratorio de Sistemas Inteligentes, Seguros y Explicables en Tiempo Real), con un enfoque en sistemas de IA en tiempo real, seguros y explicables. El actual Berkeley RISE Lab se estableció en 2021, con un giro hacia sistemas inteligentes en tiempo real con énfasis en el servicio y la inferencia.
Áreas de Investigación
La investigación del laboratorio abarca varios dominios clave:
- Servicio e Inferencia de Modelos: Desarrollo de sistemas como Ray Serve y vLLM, que optimizan el despliegue de grandes modelos de lenguaje y otros modelos de aprendizaje profundo con alto rendimiento y baja latencia. vLLM, en particular, introdujo PagedAttention, una técnica de gestión de memoria que ha tenido una gran influencia.
- Computación Distribuida: Avance del framework Ray, una plataforma unificada para escalar cargas de trabajo de Python y aprendizaje automático, que proporciona primitivas para el entrenamiento distribuido, el aprendizaje por refuerzo y la optimización de hiperparámetros.
- Gestión de Datos para IA: Construcción de sistemas para almacenes de características, preprocesamiento de datos y streaming, como Tune y Modin, para manejar los pipelines intensivos en datos que alimentan los modelos de aprendizaje automático.
- Seguridad y Privacidad: Exploración de técnicas como el agregado seguro, la privacidad diferencial y el aprendizaje federado para proteger los datos sensibles en los sistemas de IA.
- Sistemas para Hardware Emergente: Colaboración con proveedores de hardware para optimizar las pilas de software para nuevos aceleradores, como las GPU de AMD y las CPU de Intel.
Proyectos Clave de Código Abierto
El laboratorio mantiene varios proyectos de código abierto que forman un ecosistema cohesivo:
- Ray: Un framework de ejecución distribuida de propósito general que soporta tanto cómputos sin estado como con estado. Ray es utilizado por empresas como OpenAI y Anthropic para entrenamiento y servicio de modelos.
- vLLM: Un motor de servicio de alta capacidad y eficiencia de memoria para LLMs, lanzado en 2023. Se ha convertido en una herramienta estándar para desplegar modelos como GPT y las variantes de Llama.
- Ray Tune: Una biblioteca de Python para la optimización escalable de hiperparámetros, que se integra con PyTorch y TensorFlow.
- Apache Spark: Aunque ya no se desarrolla activamente en el laboratorio, Spark sigue siendo un resultado fundamental de la era AMPLab, mantenido por la Apache Software Foundation.
Colaboraciones e Impacto
El Berkeley RISE Lab colabora activamente con socios industriales y otras instituciones de investigación. Tiene alianzas con Amazon Web Services, Microsoft Azure y Google Cloud, entre otros, para garantizar que sus sistemas estén listos para producción. El laboratorio también trabaja con el Stanford AI Lab y el CSAIL del MIT en iniciativas de investigación conjuntas. Sus estudiantes de doctorado y postdoctorados han fundado startups exitosas, como Anyscale (que comercializa Ray) y Determined AI (adquirida por Hugging Face).
El trabajo del laboratorio ha influido en el ecosistema más amplio de la IA generativa. Por ejemplo, las optimizaciones de vLLM fueron rápidamente adoptadas por proveedores comerciales de inferencia, y Ray se ha convertido en un estándar de facto para Python distribuido en aplicaciones de IA. El laboratorio organiza regularmente talleres y publica sus investigaciones en conferencias de primer nivel como OSDI, NSDI y NeurIPS.
Liderazgo y Personal
Ion Stoica, profesor de informática en UC Berkeley, dirige el laboratorio. También es cofundador de Anyscale y Databricks. Entre los miembros clave de la facultad se encuentran Michael Jordan, que trabaja en teoría del aprendizaje automático, y Anima Anandkumar, que lidera la investigación en métodos tensoriales y modelos generativos. El laboratorio cuenta con un grupo rotatorio de investigadores visitantes internacionales y organiza un programa de prácticas de verano para estudiantes de grado.
Direcciones Futuras
El laboratorio continúa ampliando los límites de los sistemas de IA en tiempo real, con investigación en curso sobre el servicio de aprendizaje por refuerzo, sistemas multiagente y gestión adaptativa de recursos. A partir de 2025, sus investigadores exploran cómo reducir los costes de inferencia para los modelos basados en transformadores y cómo hacer que el entrenamiento distribuido sea más resiliente a los fallos de hardware. El laboratorio sigue comprometido con la ciencia abierta, publicando todo su código y la mayoría de sus artículos de investigación libremente en línea.