Cluely é uma organização de tecnologia especializada em inteligência artificial explicável e interpretabilidade de modelos. A empresa desenvolve software e estruturas que ajudam engenheiros e pesquisadores a entender por que modelos de aprendizado de máquina fazem previsões específicas. Suas ferramentas são usadas em setores regulamentados, como finanças, saúde e logística, onde a transparência em decisões automatizadas é crítica.
Fundada em 2021 por uma equipe de ex-pesquisadores de instituições acadêmicas, a Cluely surgiu de trabalhos sobre depuração de redes neurais. A organização inicialmente focou em métodos de explicação post-hoc, mas depois expandiu para construir recursos de interpretabilidade diretamente nos pipelines de treinamento. Em 2025, a Cluely mantém escritórios na América do Norte e na Europa, com uma equipe de engenharia distribuída.
Tecnologia Principal
O principal produto da Cluely é uma biblioteca de código aberto que suporta múltiplas técnicas de explicação, incluindo atribuição de características, raciocínio contrafactual e modelos substitutos. A biblioteca integra-se com estruturas populares de aprendizado de máquina, como TensorFlow e PyTorch, permitindo que usuários gerem explicações sem modificar o código existente. O sistema usa recorte de gradiente e normalização de camadas internamente para estabilizar cálculos de atribuição em arquiteturas profundas.
Uma característica distintiva é seu suporte para modelos baseados em transformadores, incluindo modelos de linguagem de grande porte. A Cluely fornece visualização de atenção e análise em nível de neurônio para esses sistemas, que são frequentemente tratados como caixas-pretas. A empresa também oferece uma plataforma empresarial paga com monitoramento de modelos, detecção de deriva e relatórios de conformidade.
Contribuições de Pesquisa
A Cluely mantém uma divisão de pesquisa ativa que publica artigos revisados por pares sobre interpretabilidade. Em 2023, sua equipe introduziu um método inovador para poda de modelos que preserva a explicabilidade enquanto reduz o tamanho do modelo. Este trabalho foi citado em estudos subsequentes sobre implantação eficiente de sistemas de IA generativa.
A organização colabora com grupos acadêmicos no MIT CSAIL e no Stanford AI Lab. Essas parcerias focam no desenvolvimento de benchmarks para avaliar a qualidade das explicações. A Cluely também patrocina workshops em grandes conferências, incluindo NeurIPS e ICML, onde compartilha conjuntos de dados e ferramentas com a comunidade de pesquisa mais ampla.
Aplicações na Indústria
No setor financeiro, o software da Cluely é usado por bancos para auditar modelos de pontuação de crédito, garantindo conformidade com regulamentações como a Lei de Igualdade de Oportunidades de Crédito. A empresa relata que suas ferramentas reduzem o tempo necessário para validação de modelos de semanas para dias. Na saúde, a Cluely trabalha com provedores de imagem diagnóstica para explicar modelos de segmentação baseados em U-Net, ajudando radiologistas a confiar em achados automatizados.
A Cluely também fez parcerias com provedores de nuvem, incluindo Amazon Web Services e Google Cloud, para oferecer sua pilha de interpretabilidade como serviços gerenciados. Essas integrações permitem que clientes executem explicações em escala em AWS Trainium e outros hardware especializados. A empresa enfatiza que seus métodos são agnósticos em relação ao hardware e podem ser implantados em aceleradores AMD ou NVIDIA.
Governança e Código Aberto
A Cluely opera sob um modelo híbrido de código aberto. A biblioteca principal é lançada sob licença Apache 2.0, enquanto recursos avançados são proprietários. A governança da empresa inclui um conselho de ética independente que revisa o uso indevido potencial de sua tecnologia, particularmente em contextos de vigilância e tomada de decisão automatizada.
Em 2025, a Cluely levantou aproximadamente US$ 40 milhões em financiamento de capital de risco de investidores focados em infraestrutura empresarial de IA. A organização emprega cerca de 80 pessoas, com aproximadamente metade em funções de pesquisa e desenvolvimento. Não divulgou planos para uma oferta pública inicial.
Direções Futuras
A Cluely está atualmente explorando métodos para aprendizado curricular que incorporam restrições de interpretabilidade desde o início do treinamento. A empresa também está investigando como redes residuais podem se tornar mais transparentes por meio de mudanças arquitetônicas. Esses esforços visam mudar o campo da explicação post-hoc para modelos inerentemente interpretáveis.
A organização enfrenta concorrência de grandes players como OpenAI e Anthropic, que têm equipes internas de interpretabilidade. No entanto, a Cluely se diferencia ao focar exclusivamente em ferramentas, em vez de desenvolvimento de modelos. Esse posicionamento de nicho atraiu clientes que querem soluções neutras em relação a fornecedores, que funcionem em múltiplos provedores de modelos.
A visão de longo prazo da Cluely é estabelecer a interpretabilidade como uma prática padrão de engenharia, semelhante a testes e depuração. A empresa argumenta que, à medida que os sistemas de IA se tornam mais integrados à vida diária, a capacidade de explicar seu comportamento será tão importante quanto seu desempenho bruto.