Baselime est une plateforme d'observabilité spécialisée dans la surveillance et le débogage d'applications serverless et de systèmes basés sur de grands modèles de langage (LLM). Fondée en 2022 par Boris Tane et Adrien Gillon, l'entreprise est issue de la promotion hiver 2022 de Y Combinator. Baselime répond aux défis uniques des architectures distribuées et pilotées par les événements ainsi que des applications d'IA, où les outils de surveillance traditionnels montrent souvent leurs limites en raison de la nature éphémère des fonctions serverless et de la complexité des interactions avec les LLM.
La plateforme offre aux développeurs une vue unifiée de leurs applications, combinant métriques, journaux et traces dans une interface unique. Elle est conçue pour aider les équipes d'ingénierie à identifier et résoudre rapidement les problèmes en environnement de production, des dépassements de délai de fonction et des démarrages à froid aux hallucinations des LLM et aux anomalies d'utilisation de jetons. L'approche de Baselime met l'accent sur le traitement des données en temps réel et un flux de travail centré sur le développeur, s'intégrant directement dans le cycle de vie du développement logiciel.
Observabilité Serverless
L'offre principale de Baselime se concentre sur les plateformes serverless, en particulier AWS Lambda. Elle instrumente automatiquement les fonctions pour capturer les invocations, les durées, les erreurs et l'utilisation des ressources. La plateforme utilise les normes OpenTelemetry pour collecter les données de télémétrie, garantissant ainsi une compatibilité avec un large éventail de services et d'outils. Cela permet aux développeurs de tracer les requêtes à travers plusieurs fonctions, API Gateway, DynamoDB et d'autres services AWS, créant ainsi une image complète du comportement d'une application.
Les capacités de traçage de la plateforme sont particulièrement remarquables pour leur aptitude à gérer des exécutions à haut débit et de courte durée. Les outils de traçage traditionnels peinent souvent face au volume et à la granularité des événements serverless, mais Baselime est conçu pour ingérer et analyser des millions de traces en temps réel. Cela permet des fonctionnalités telles que le traçage distribué et les ventilations de latence, essentielles pour optimiser les performances et réduire les coûts dans les modèles de paiement par invocation.
Surveillance des Applications LLM
Avec la prolifération des applications d'IA générative, Baselime a élargi son champ d'action pour inclure l'observabilité des systèmes propulsés par LLM. Cela implique la surveillance de l'ensemble du cycle de vie d'une requête d'IA, de l'invite de l'utilisateur à la réponse du modèle. La plateforme suit des métriques clés telles que la latence, l'utilisation de jetons, le coût par requête et les taux d'erreur pour les intégrations avec des fournisseurs comme OpenAI et Anthropic.
Baselime fournit des outils pour déboguer et évaluer le comportement des LLM, notamment la possibilité de visualiser les charges utiles complètes des invites et des réponses, d'identifier les schémas d'hallucination et de comparer les sorties entre différentes versions de modèles ou paramètres. Elle prend également en charge le traçage de chaînes complexes impliquant plusieurs appels LLM, des recherches dans des bases de données vectorielles et des interactions avec des API externes, courantes dans les architectures de génération augmentée par récupération. Cela aide les développeurs à garantir la fiabilité, la qualité et la rentabilité de leurs fonctionnalités d'IA.
Expérience Développeur et Intégration
Baselime accorde la priorité à une expérience développeur fluide. Elle propose une interface en ligne de commande (CLI) et un tableau de bord web conçus pour être intuitifs et rapides. La plateforme prend en charge le streaming de journaux en temps réel et le suivi en direct, permettant aux développeurs d'observer le comportement de l'application au moment où il se produit. Elle offre également de puissantes capacités de recherche et de requête, permettant aux utilisateurs de filtrer et d'agréger les données de télémétrie à l'aide d'une syntaxe de type SQL.
L'intégration avec les flux de travail existants est un aspect clé de la plateforme. Baselime fournit des SDK pour des langages de programmation populaires comme TypeScript, Python et Go, et peut être déployée via des outils d'infrastructure en tant que code tels que Terraform. Elle s'intègre également à des plateformes d'alerting et de gestion des incidents comme Slack et PagerDuty, garantissant que les équipes sont notifiées immédiatement des problèmes critiques. L'architecture de la plateforme est basée sur AWS et utilise elle-même un backend serverless, ce qui lui permet de s'adapter élastiquement à la demande des clients.
Entreprise et Financement
Baselime a son siège social à Londres, au Royaume-Uni. L'entreprise a levé un tour de financement de démarrage de 5,5 millions de dollars en 2022, mené par Seedcamp, avec la participation de Y Combinator et d'autres investisseurs. Les fondateurs, Boris Tane et Adrien Gillon, ont précédemment travaillé dans des entreprises comme Datadog et AWS, apportant une expérience dans les secteurs de l'observabilité et du cloud computing. En 2024, Baselime continue d'opérer en tant qu'entreprise indépendante, servant une base de clients croissante de startups et d'entreprises qui s'appuient sur les technologies serverless et d'IA. La mission de l'entreprise est de rendre l'observabilité accessible et actionnable pour le développement d'applications modernes, réduisant ainsi le temps de résolution des problèmes complexes en production.