Momento est une plateforme de données en temps réel et de cache sans serveur, conçue pour les applications d'IA et hautes performances. Elle fournit une couche de données entièrement gérée et à faible latence, prenant en charge la mise en cache, la messagerie pub/sub et d'autres modèles de données en temps réel, permettant aux développeurs de créer des applications évolutives sans gérer d'infrastructure. Momento est particulièrement adapté aux charges de travail d'IA, notamment l'inférence de modèles de langage de grande taille et les applications de IA générative, où un accès rapide aux données est essentiel.
Fondée en 2021 par Khawaja Shams et Dennis Sai, Momento est née du constat que les solutions de cache traditionnelles entraînent souvent une charge opérationnelle importante. L'entreprise propose une architecture sans serveur qui s'adapte automatiquement, éliminant le besoin de planification de capacité et de gestion de clusters. Cette approche s'aligne sur la tendance plus large vers les services cloud natifs de AWS et Azure, offrant une intégration transparente aux développeurs utilisant déjà les principaux fournisseurs de cloud.
Architecture et fonctionnalités clés
L'offre principale de Momento est un cache sans serveur offrant un accès aux données en moins d'une milliseconde. Il prend en charge à la fois les modèles clé-valeur et pub/sub, permettant aux développeurs de l'utiliser pour divers cas d'usage, de la gestion de sessions à la messagerie en temps réel. Le service est conçu pour être hautement disponible et durable, avec des données répliquées sur plusieurs zones de disponibilité. Momento propose également des fonctionnalités telles que l'expiration automatique des données (TTL), ce qui simplifie la gestion du cache, ainsi qu'une API simple compatible avec des protocoles de cache populaires comme Memcached et Redis.
L'une des caractéristiques remarquables est son orientation vers les charges de travail d'IA. Momento fournit un SDK spécialisé pour les applications d'intelligence artificielle, permettant aux développeurs de mettre en cache les sorties de modèles d'apprentissage automatique, de gérer les limites de débit et de stocker l'historique des conversations pour les applications de chatbot. Cela est particulièrement utile pour l'inférence de modèles de langage de grande taille, où la mise en cache peut réduire la latence et les coûts en évitant des calculs coûteux répétés.
Intégration avec les écosystèmes cloud et IA
Momento s'intègre aux principales plateformes cloud, notamment AWS, Azure et Google Cloud, permettant aux développeurs de l'utiliser dans leurs environnements cloud existants. Il offre également une API unifiée qui abstrait le fournisseur de cloud sous-jacent, facilitant la création d'applications multi-cloud ou hybrides. Pour les développeurs d'IA, Momento fournit des intégrations avec des frameworks et outils d'apprentissage automatique populaires, tels que les API OpenAI et Anthropic, leur permettant de mettre en cache les réponses et de gérer efficacement l'utilisation des API.
L'entreprise s'est également associée à Groq et SambaNova, des fournisseurs de matériel d'inférence IA haute performance, afin de proposer des solutions de cache optimisées pour leurs plateformes. Cette collaboration souligne l'engagement de Momento à soutenir la prochaine génération d'infrastructures d'IA, qui nécessite souvent un accès aux données à ultra-faible latence pour suivre le rythme des moteurs d'inférence rapides.
Cas d'usage et applications
Momento est utilisé dans une variété d'applications en temps réel, notamment les jeux, les services financiers et le commerce électronique. Dans les jeux, il alimente les classements, l'état des sessions et les notifications en temps réel. Dans les services financiers, il prend en charge la détection de fraude et l'analyse des risques en temps réel. Pour le commerce électronique, il permet des recommandations personnalisées et la gestion des paniers d'achat. La nature sans serveur de Momento le rend particulièrement attractif pour les startups et les entreprises qui souhaitent éviter la charge opérationnelle liée à la gestion de leurs propres clusters de cache.
Dans le domaine de l'IA, Momento est utilisé pour les applications de IA générative, telles que les chatbots et les assistants propulsés par des modèles de langage de grande taille. En mettant en cache les réponses des modèles, les développeurs peuvent réduire le nombre d'appels API vers des services comme OpenAI ou Anthropic, diminuant ainsi les coûts et améliorant les temps de réponse. Momento prend également en charge les magasins de caractéristiques pour le apprentissage automatique, où il peut stocker et récupérer des vecteurs de caractéristiques pour l'inférence en temps réel.
Performance et fiabilité
Momento est conçu pour des performances élevées, avec une latence p99 dans la plage de quelques millisecondes. Il y parvient grâce à un réseau mondialement distribué de points de présence et à un plan de données hautement optimisé. Le service est également conçu pour une haute disponibilité, avec un SLA de disponibilité de 99,99 %. L'architecture sans serveur de Momento garantit qu'il peut passer de zéro à des millions de requêtes par seconde sans aucun pré-approvisionnement, ce qui le rend idéal pour les applications avec des modèles de trafic imprévisibles.
L'entreprise a levé des fonds importants auprès d'investisseurs, notamment Bain Capital Ventures et Point72 Ventures, pour développer sa plateforme et étendre sa portée. En 2024, Momento continue d'innover, ajoutant de nouvelles fonctionnalités telles que la recherche vectorielle et l'analytique en temps réel, renforçant encore sa position d'acteur clé dans la couche de données sans serveur pour l'IA et les applications en temps réel.
Conclusion
Momento représente une approche moderne de la gestion du cache et des données en temps réel, adaptée aux exigences de l'IA et des applications hautes performances. Son modèle sans serveur, combiné à des intégrations profondes avec les principaux écosystèmes cloud et IA, en fait un choix convaincant pour les développeurs cherchant à réduire la latence et la charge opérationnelle. Alors que les applications d'IA deviennent de plus en plus courantes, le besoin d'un accès efficace aux données ne fera que croître, et Momento est bien positionné pour répondre à ce besoin.