Cluely ist eine Technologieorganisation, die sich auf erklärbare künstliche Intelligenz und Modellinterpretierbarkeit spezialisiert hat. Das Unternehmen entwickelt Software und Frameworks, die Ingenieuren und Forschern helfen zu verstehen, warum Modelle des maschinellen Lernens bestimmte Vorhersagen treffen. Seine Werkzeuge werden in regulierten Branchen wie Finanzen, Gesundheitswesen und Logistik eingesetzt, wo Transparenz bei automatisierten Entscheidungen entscheidend ist.
Gegründet 2021 von einem Team ehemaliger Forscher akademischer Einrichtungen, entstand Cluely aus Arbeiten zum Debugging von neuralen Netzwerken. Die Organisation konzentrierte sich zunächst auf post-hoc Erklärungsmethoden, erweiterte sich später jedoch auf die Integration von Interpretierbarkeitsfunktionen direkt in Trainingspipelines. Ab 2025 unterhält Cluely Büros in Nordamerika und Europa mit einem verteilten Ingenieurteam.
Kerntechnologie
Das Hauptprodukt von Cluely ist eine Open-Source-Bibliothek, die mehrere Erklärungstechniken unterstützt, darunter Feature-Attribution, kontrafaktisches Denken und Surrogatmodelle. Die Bibliothek integriert sich in gängige Maschinenlern-Frameworks wie TensorFlow und PyTorch, sodass Benutzer Erklärungen generieren können, ohne vorhandenen Code zu ändern. Das System verwendet intern Gradient-Clipping und Layer-Normalisierung, um Attributionsberechnungen auf tiefen Architekturen zu stabilisieren.
Ein unterscheidendes Merkmal ist die Unterstützung für Transformer-basierte Modelle, einschließlich großer Sprachmodelle. Cluely bietet Aufmerksamkeitsvisualisierung und Neuron-ebenen-Analyse für diese Systeme, die oft als Black Boxes behandelt werden. Das Unternehmen bietet auch eine kostenpflichtige Enterprise-Plattform mit Modellüberwachung, Drift-Erkennung und Compliance-Berichterstattung an.
Forschungsbeiträge
Cluely unterhält eine aktive Forschungsabteilung, die begutachtete Arbeiten zur Interpretierbarkeit veröffentlicht. 2023 führte sein Team eine neuartige Methode für Modell-Pruning ein, die Erklärbarkeit bewahrt, während die Modellgröße reduziert wird. Diese Arbeit wurde in nachfolgenden Studien zur effizienten Bereitstellung von generativen KI-Systemen zitiert.
Die Organisation kooperiert mit akademischen Gruppen am MIT CSAIL und Stanford AI Lab. Diese Partnerschaften konzentrieren sich auf die Entwicklung von Benchmarks zur Bewertung der Erklärungsqualität. Cluely sponsert auch Workshops auf großen Konferenzen, einschließlich NeurIPS und ICML, wo es Datensätze und Werkzeuge mit der breiteren Forschungsgemeinschaft teilt.
Branchenanwendungen
Im Finanzsektor wird die Software von Cluely von Banken zur Prüfung von Kreditscoring-Modellen eingesetzt, um die Einhaltung von Vorschriften wie dem Equal Credit Opportunity Act sicherzustellen. Das Unternehmen berichtet, dass seine Werkzeuge die Zeit für die Modellvalidierung von Wochen auf Tage reduzieren. Im Gesundheitswesen arbeitet Cluely mit Anbietern diagnostischer Bildgebung zusammen, um U-Net-basierte Segmentierungsmodelle zu erklären und Radiologen zu helfen, automatisierten Befunden zu vertrauen.
Cluely hat auch Partnerschaften mit Cloud-Anbietern geschlossen, darunter Amazon Web Services und Google Cloud, um seine Interpretierbarkeitslösungen als verwaltete Dienste anzubieten. Diese Integrationen ermöglichen es Kunden, Erklärungen in großem Maßstab auf AWS Trainium und anderer spezialisierter Hardware auszuführen. Das Unternehmen betont, dass seine Methoden hardware-agnostisch sind und auf AMD- oder NVIDIA-Beschleunigern bereitgestellt werden können.
Governance und Open Source
Cluely operiert unter einem hybriden Open-Source-Modell. Die Kernbibliothek wird unter einer Apache-2.0-Lizenz veröffentlicht, während erweiterte Funktionen proprietär sind. Die Governance des Unternehmens umfasst ein unabhängiges Ethikgremium, das potenziellen Missbrauch seiner Technologie überprüft, insbesondere in den Bereichen Überwachung und automatisierte Entscheidungsfindung.
Ab 2025 hat Cluely etwa 40 Millionen US-Dollar an Risikokapital von Investoren eingesammelt, die sich auf Unternehmens-KI-Infrastruktur konzentrieren. Die Organisation beschäftigt rund 80 Mitarbeiter, wobei etwa die Hälfte in Forschungs- und Entwicklungsrollen tätig ist. Es hat keine Pläne für einen Börsengang bekannt gegeben.
Zukünftige Richtungen
Cluely untersucht derzeit Methoden für Curriculum-Lernen, die Interpretierbarkeitsbeschränkungen von Beginn des Trainings an einbeziehen. Das Unternehmen erforscht auch, wie Residualnetzwerke durch architektonische Änderungen transparenter gemacht werden können. Diese Bemühungen zielen darauf ab, das Feld von post-hoc Erklärungen hin zu inhärent interpretierbaren Modellen zu verschieben.
Die Organisation steht im Wettbewerb mit größeren Akteuren wie OpenAI und Anthropic, die interne Interpretierbarkeitsteams haben. Cluely differenziert sich jedoch, indem es sich ausschließlich auf Werkzeuge statt auf Modellentwicklung konzentriert. Diese Nischenpositionierung hat Kunden angezogen, die anbieterneutrale Lösungen wünschen, die über mehrere Modellanbieter hinweg funktionieren.
Die langfristige Vision von Cluely ist es, Interpretierbarkeit als Standard-Engineering-Praxis zu etablieren, ähnlich wie Testen und Debugging. Das Unternehmen argumentiert, dass mit zunehmender Integration von KI-Systemen in den Alltag die Fähigkeit, ihr Verhalten zu erklären, genauso wichtig sein wird wie ihre rohe Leistung.