Baselime ist eine Observability-Plattform, die sich auf die Überwachung und Fehlerbehebung von serverlosen Anwendungen und Systemen auf Basis großer Sprachmodelle (LLM) spezialisiert hat. Das Unternehmen wurde 2022 von Boris Tane und Adrien Gillon gegründet und ging aus dem Winter-2022-Jahrgang von Y Combinator hervor. Baselime adressiert die besonderen Herausforderungen verteilter, ereignisgesteuerter Architekturen und KI-Anwendungen, bei denen herkömmliche Überwachungswerkzeuge aufgrund der ephemären Natur serverloser Funktionen und der Komplexität von LLM-Interaktionen häufig an ihre Grenzen stoßen.
Die Plattform bietet Entwicklern eine einheitliche Sicht auf ihre Anwendungen und kombiniert Metriken, Logs und Traces in einer einzigen Oberfläche. Sie ist darauf ausgelegt, Entwicklungsteams dabei zu helfen, Probleme in Produktionsumgebungen schnell zu identifizieren und zu beheben - von Funktions-Timeouts und Kaltstarts bis hin zu LLM-Halluzinationen und Anomalien bei der Token-Nutzung. Der Ansatz von Baselime betont die Echtzeit-Datenverarbeitung und einen entwicklerzentrierten Workflow, der sich direkt in den Softwareentwicklungslebenszyklus integriert.
Serverlose Observability
Das Kernangebot von Baselime konzentriert sich auf serverlose Plattformen, insbesondere AWS Lambda. Es instrumentiert Funktionen automatisch, um Aufrufe, Laufzeiten, Fehler und Ressourcennutzung zu erfassen. Die Plattform verwendet OpenTelemetry-Standards, um Telemetriedaten zu sammeln, und gewährleistet so die Kompatibilität mit einer breiten Palette von Diensten und Werkzeugen. Dies ermöglicht es Entwicklern, Anfragen über mehrere Funktionen, API Gateway, DynamoDB und andere AWS-Dienste hinweg zu verfolgen und so ein vollständiges Bild des Anwendungsverhaltens zu erhalten.
Die Tracing-Fähigkeiten der Plattform sind besonders bemerkenswert, da sie hochvolumige, kurzlebige Ausführungen bewältigen können. Herkömmliche Tracing-Werkzeuge haben oft Probleme mit der Menge und Granularität serverloser Ereignisse, aber Baselime ist darauf ausgelegt, Millionen von Traces in Echtzeit zu erfassen und zu analysieren. Dies ermöglicht Funktionen wie verteiltes Tracing und Latenzaufschlüsselungen, die für die Leistungsoptimierung und Kostensenkung in nutzungsabhängigen Bezahlmodellen unerlässlich sind.
Überwachung von LLM-Anwendungen
Mit der zunehmenden Verbreitung von generativer KI-Anwendungen hat Baselime seinen Fokus um die Observability von Systemen erweitert, die auf LLM basieren. Dies umfasst die Überwachung des gesamten Lebenszyklus einer KI-Anfrage, von der Benutzereingabe bis zur Antwort des Modells. Die Plattform verfolgt Schlüsselmetriken wie Latenz, Token-Nutzung, Kosten pro Anfrage und Fehlerraten für Integrationen mit Anbietern wie OpenAI und Anthropic.
Baselime bietet Werkzeuge zur Fehlerbehebung und Bewertung des LLM-Verhaltens, einschließlich der Möglichkeit, vollständige Prompt- und Antwort-Payloads einzusehen, Halluzinationsmuster zu identifizieren und Ausgaben über verschiedene Modellversionen oder Parameter hinweg zu vergleichen. Es unterstützt auch das Tracing komplexer Ketten, die mehrere LLM-Aufrufe, Vektordatenbank-Abfragen und externe API-Interaktionen umfassen, wie sie in retrieval-augmented Generation-Architekturen üblich sind. Dies hilft Entwicklern, die Zuverlässigkeit, Qualität und Kosteneffizienz ihrer KI-Funktionen sicherzustellen.
Entwicklererfahrung und Integration
Baselime legt großen Wert auf eine nahtlose Entwicklererfahrung. Es bietet eine Befehlszeilenschnittstelle (CLI) und ein webbasiertes Dashboard, die intuitiv und schnell sein sollen. Die Plattform unterstützt Echtzeit-Log-Streaming und Live-Tailing, sodass Entwickler das Anwendungsverhalten in Echtzeit beobachten können. Sie bietet außerdem leistungsstarke Such- und Abfragefunktionen, mit denen Benutzer Telemetriedaten mithilfe einer SQL-ähnlichen Syntax filtern und aggregieren können.
Die Integration in bestehende Workflows ist ein zentraler Aspekt der Plattform. Baselime bietet SDKs für gängige Programmiersprachen wie TypeScript, Python und Go und kann über Infrastructure-as-Code-Tools wie Terraform bereitgestellt werden. Es integriert sich auch in Alarmierungs- und Incident-Management-Plattformen wie Slack und PagerDuty, sodass Teams sofort über kritische Probleme benachrichtigt werden. Die Architektur der Plattform basiert auf AWS und nutzt selbst ein serverloses Backend, wodurch sie sich elastisch an die Kundennachfrage anpassen kann.
Unternehmen und Finanzierung
Baselime hat seinen Hauptsitz in London, Vereinigtes Königreich. Das Unternehmen sammelte 2022 eine Seed-Finanzierungsrunde in Höhe von 5,5 Millionen US-Dollar ein, angeführt von Seedcamp, mit Beteiligung von Y Combinator und anderen Investoren. Die Gründer Boris Tane und Adrien Gillon arbeiteten zuvor bei Unternehmen wie Datadog und AWS und bringen Erfahrung in den Bereichen Observability und Cloud-Computing mit. Stand 2024 ist Baselime weiterhin als unabhängiges Unternehmen tätig und bedient eine wachsende Kundschaft aus Startups und Unternehmen, die auf serverlose und KI-Technologien setzen. Die Mission des Unternehmens ist es, Observability für die moderne Anwendungsentwicklung zugänglich und umsetzbar zu machen und die Zeit bis zur Lösung komplexer Produktionsprobleme zu verkürzen.