Cluely es una organización tecnológica especializada en inteligencia artificial explicable e interpretabilidad de modelos. La empresa desarrolla software y marcos de trabajo que ayudan a ingenieros e investigadores a comprender por qué los modelos de aprendizaje automático realizan predicciones específicas. Sus herramientas se utilizan en industrias reguladas como finanzas, salud y logística, donde la transparencia en decisiones automatizadas es crítica.
Fundada en 2021 por un equipo de ex investigadores de instituciones académicas, Cluely surgió del trabajo en la depuración de redes neuronales. La organización inicialmente se centró en métodos de explicación post-hoc, pero luego se expandió para integrar características de interpretabilidad directamente en los pipelines de entrenamiento. A partir de 2025, Cluely mantiene oficinas en América del Norte y Europa, con un equipo de ingeniería distribuido.
Tecnología Principal
El producto principal de Cluely es una biblioteca de código abierto que admite múltiples técnicas de explicación, incluyendo atribución de características, razonamiento contrafactual y modelos sustitutos. La biblioteca se integra con marcos de trabajo populares de aprendizaje automático como TensorFlow y PyTorch, permitiendo a los usuarios generar explicaciones sin modificar el código existente. El sistema utiliza recorte de gradientes y normalización de capas internamente para estabilizar los cálculos de atribución en arquitecturas profundas.
Una característica distintiva es su soporte para modelos basados en transformers, incluyendo grandes modelos de lenguaje. Cluely proporciona visualización de atención y análisis a nivel de neuronas para estos sistemas, que a menudo se tratan como cajas negras. La empresa también ofrece una plataforma empresarial de pago con monitoreo de modelos, detección de deriva y reportes de cumplimiento.
Contribuciones de Investigación
Cluely mantiene una división de investigación activa que publica artículos revisados por pares sobre interpretabilidad. En 2023, su equipo introdujo un método novedoso para poda de modelos que preserva la explicabilidad mientras reduce el tamaño del modelo. Este trabajo ha sido citado en estudios posteriores sobre despliegue eficiente de sistemas de IA generativa.
La organización colabora con grupos académicos en MIT CSAIL y Stanford AI Lab. Estas asociaciones se centran en desarrollar puntos de referencia para evaluar la calidad de las explicaciones. Cluely también patrocina talleres en conferencias importantes, incluyendo NeurIPS e ICML, donde comparte conjuntos de datos y herramientas con la comunidad de investigación en general.
Aplicaciones Industriales
En el sector financiero, el software de Cluely es utilizado por bancos para auditar modelos de calificación crediticia, asegurando el cumplimiento de regulaciones como la Ley de Igualdad de Oportunidades de Crédito. La empresa informa que sus herramientas reducen el tiempo requerido para la validación de modelos de semanas a días. En salud, Cluely trabaja con proveedores de imágenes diagnósticas para explicar modelos de segmentación basados en U-Net, ayudando a los radiólogos a confiar en hallazgos automatizados.
Cluely también se ha asociado con proveedores de nube, incluyendo Amazon Web Services y Google Cloud, para ofrecer su pila de interpretabilidad como servicios gestionados. Estas integraciones permiten a los clientes ejecutar explicaciones a escala en AWS Trainium y otro hardware especializado. La empresa enfatiza que sus métodos son independientes del hardware y pueden desplegarse en aceleradores AMD o NVIDIA.
Gobernanza y Código Abierto
Cluely opera bajo un modelo híbrido de código abierto. La biblioteca principal se publica bajo una licencia Apache 2.0, mientras que las características avanzadas son propietarias. La gobernanza de la empresa incluye un comité de ética independiente que revisa el posible uso indebido de su tecnología, particularmente en contextos de vigilancia y toma de decisiones automatizada.
A partir de 2025, Cluely ha recaudado aproximadamente $40 millones en financiamiento de capital de riesgo de inversores centrados en infraestructura empresarial de IA. La organización emplea alrededor de 80 personas, con aproximadamente la mitad en roles de investigación y desarrollo. No ha revelado planes para una oferta pública inicial.
Direcciones Futuras
Cluely está explorando actualmente métodos para aprendizaje curricular que incorporan restricciones de interpretabilidad desde el inicio del entrenamiento. La empresa también está investigando cómo redes residuales pueden hacerse más transparentes mediante cambios arquitectónicos. Estos esfuerzos buscan cambiar el campo de la explicación post-hoc hacia modelos inherentemente interpretables.
La organización enfrenta competencia de actores más grandes como OpenAI y Anthropic, que tienen equipos internos de interpretabilidad. Sin embargo, Cluely se diferencia al centrarse exclusivamente en herramientas en lugar del desarrollo de modelos. Este posicionamiento de nicho ha atraído a clientes que desean soluciones neutrales que funcionen con múltiples proveedores de modelos.
La visión a largo plazo de Cluely es establecer la interpretabilidad como una práctica estándar de ingeniería, similar a las pruebas y la depuración. La empresa argumenta que a medida que los sistemas de IA se integran más en la vida diaria, la capacidad de explicar su comportamiento será tan importante como su rendimiento bruto.