O Laboratório Berkeley RISE (Laboratório de Sistemas e Ambientes Inteligentes em Tempo Real) é um laboratório de pesquisa na Universidade da Califórnia, Berkeley focado no desenvolvimento de sistemas e infraestrutura para inteligência artificial em tempo real. Fundado pelo cientista da computação Ion Stoica, o laboratório dá continuidade ao trabalho de seus antecessores, os projetos AMPLab e RISELab, que criaram tecnologias fundamentais como Apache Spark e Apache Mesos. A missão do laboratório é preencher a lacuna entre os avanços mais recentes em IA e os sistemas escaláveis e de baixa latência necessários para implantá-los em ambientes de produção.
O Laboratório Berkeley RISE opera sob a égide da comunidade Berkeley Artificial Intelligence Research, mas mantém uma agenda de pesquisa própria, centrada na interseção entre sistemas, redes e aprendizado de máquina. Seus pesquisadores abordam desafios como treinamento distribuído, serviço de modelos, gerenciamento de dados para IA e o desenvolvimento de ferramentas que simplificam a criação e operação de aplicações inteligentes em tempo real. O laboratório é reconhecido por suas contribuições de código aberto, amplamente adotadas tanto na indústria quanto na academia.
Raízes Históricas e Evolução
O laboratório traça sua linhagem até o projeto AMPLab, que operou de 2011 a 2016 com financiamento da National Science Foundation e de parceiros industriais. O AMPLab foi responsável pela criação do Apache Spark, um motor unificado de análise de dados, e do Apache Mesos, um gerenciador de cluster. Em 2017, o laboratório foi renomeado para RISELab (Laboratório de Sistemas Inteligentes, Seguros e Explicáveis em Tempo Real), com foco em sistemas de IA seguros e explicáveis. A iteração atual, o Berkeley RISE Lab, foi estabelecida em 2021, com ênfase em serviço e inferência de modelos em tempo real.
Áreas de Pesquisa
A pesquisa do laboratório abrange vários domínios-chave:
- Serviço de Modelos e Inferência: Desenvolvimento de sistemas como Ray Serve e vLLM, que otimizam a implantação de grandes modelos de linguagem e outros modelos de aprendizado profundo com alta taxa de transferência e baixa latência. O vLLM, em particular, introduziu o PagedAttention, uma técnica de gerenciamento de memória que se tornou amplamente influente.
- Computação Distribuída: Avanços no framework Ray, uma plataforma unificada para escalar cargas de trabalho em Python e aprendizado de máquina, que oferece primitivas para treinamento distribuído, aprendizado por reforço e otimização de hiperparâmetros.
- Gerenciamento de Dados para IA: Construção de sistemas para armazenamento de features, pré-processamento de dados e streaming, como Tune e Modin, para lidar com pipelines de dados intensivos que alimentam modelos de aprendizado de máquina.
- Segurança e Privacidade: Exploração de técnicas como agregação diferencial, privacidade diferencial e aprendizado federado para proteger dados sensíveis em sistemas de IA.
- Sistemas para Hardware Emergente: Colaboração com fabricantes de hardware para otimizar pilhas de software para novos aceleradores, como GPUs da AMD e CPUs da Intel.
Projetos de Código Aberto
O laboratório mantém vários projetos de código aberto importantes que formam um ecossistema coeso:
- Ray: Um framework de computação distribuída de propósito geral que suporta computações com e sem estado. O Ray é utilizado por empresas como OpenAI e Anthropic para treinamento e serviço de modelos.
- vLLM: Um motor de serviço de alta performance e eficiência de memória para grandes modelos de linguagem, lançado em 2023. Tornou-se uma ferramenta padrão para implantar modelos como GPT e variantes de Llama.
- Ray Tune: Uma biblioteca Python para otimização escalável de hiperparâmetros, que se integra com PyTorch e TensorFlow.
- Apache Spark: Embora não seja mais desenvolvido ativamente pelo laboratório, o Spark continua sendo um resultado fundamental da era AMPLab, mantido pela Apache Software Foundation.
Colaborações e Impacto
O Laboratório Berkeley RISE colabora ativamente com parceiros industriais e outras instituições de pesquisa. Mantém parcerias com Amazon Web Services, Microsoft Azure e Google Cloud para garantir que seus sistemas estejam prontos para produção. O laboratório também trabalha em estreita colaboração com o Stanford AI Lab e o MIT CSAIL em iniciativas de pesquisa conjuntas. Seus alunos de doutorado e pós-doutorado fundaram startups de sucesso, como Anyscale (que comercializa o Ray) e Determined AI (adquirida pela Hugging Face).
O trabalho do laboratório influenciou profundamente o ecossistema de IA generativa. Por exemplo, as otimizações do vLLM foram rapidamente adotadas por provedores de inferência comerciais, e o Ray se tornou um padrão de facto para computação distribuída em Python em aplicações de IA.
Liderança e Pessoas
Ion Stoica, professor de ciência da computação na UC Berkeley, é o diretor do laboratório. Ele também é cofundador da Anyscale e da Databricks. Entre os principais membros do corpo docente estão Michael Jordan, que trabalha com teoria de aprendizado de máquina, e Anima Anandkumar, que lidera pesquisas sobre métodos tensoriais e modelos generativos. O laboratório conta com um grupo rotativo de pesquisadores visitantes internacionais e oferece um programa de estágio de verão para estudantes de graduação.
Direções Futuras
O laboratório continua a expandir as fronteiras dos sistemas de IA em tempo real, com pesquisas em andamento sobre aprendizado por reforço para serviço de múltiplos agentes, sistemas adaptativos e gerenciamento de recursos dinâmicos. A partir de 2025, seus pesquisadores estão explorando maneiras de reduzir os custos de inferência para modelos baseados em transformadores e de tornar o treinamento distribuído mais resiliente a falhas de hardware. O laboratório mantém seu compromisso com a ciência aberta, publicando todo o seu código e a maioria de seus artigos de pesquisa gratuitamente online.