Snorkel AI est une entreprise qui développe des solutions d'IA centrées sur les données, en se concentrant sur l'étiquetage programmatique et la supervision faible pour accélérer la création de données d'entraînement de haute qualité pour les modèles d'apprentissage automatique. Fondée en 2019 comme une spin-off du Stanford AI Lab, l'entreprise commercialise les recherches du projet Snorkel, qui a introduit un paradigme pour étiqueter les données d'entraînement à l'aide de fonctions définies par l'utilisateur plutôt que par annotation manuelle. Sa plateforme, Snorkel Flow, permet aux organisations de créer et de gérer des modèles d'IA en améliorant de manière itérative les données d'entraînement, réduisant ainsi le temps et le coût associés à l'étiquetage traditionnel des données.
L'approche de l'entreprise est ancrée dans le concept de supervision faible, où des étiquettes imparfaites et bruitées sont générées programmatiquement, puis combinées à l'aide de modèles probabilistes pour produire des étiquettes d'entraînement propres. Cette méthode contraste avec le processus d'étiquetage manuel conventionnel, souvent coûteux, lent et sujet aux erreurs. Snorkel AI cible des clients d'entreprise dans des secteurs tels que la finance, la santé et la technologie, offrant des outils qui s'intègrent aux flux de travail existants d'apprentissage automatique.
Historique et fondation
Snorkel AI a été fondée en 2019 par Alex Ratner, Christopher Ré et d'autres membres du Stanford AI Lab. L'entreprise est issue du projet de recherche Snorkel, qui a débuté en 2015 à l'Université de Stanford. Le projet visait à résoudre le goulot d'étranglement de la création de jeux de données étiquetés pour les modèles de machine learning. La recherche initiale, dirigée par Christopher Ré, se concentrait sur l'utilisation de la supervision faible pour réduire le besoin de données étiquetées à la main. En 2019, l'équipe a levé 15 millions de dollars lors d'un tour de financement de série A mené par Lightspeed Venture Partners, avec la participation de GV (anciennement Google Ventures) et d'autres investisseurs. L'entreprise a ensuite levé des fonds supplémentaires, notamment un tour de série B de 35 millions de dollars en 2021 et un tour de série C de 85 millions de dollars en 2022, portant le financement total à plus de 135 millions de dollars.
Plateforme Snorkel Flow
Le produit phare, Snorkel Flow, est une plateforme de bout en bout pour l'IA centrée sur les données. Elle fournit une interface visuelle permettant aux utilisateurs de définir des fonctions d'étiquetage, qui sont des règles ou des heuristiques attribuant des étiquettes aux points de données. Ces fonctions peuvent être écrites en Python ou via une interface sans code, les rendant accessibles aux experts du domaine qui n'ont pas nécessairement de compétences approfondies en programmation. La plateforme utilise ensuite un modèle statistique pour combiner les sorties de ces fonctions, en estimant leurs précisions et corrélations afin de générer des étiquettes probabilistes pour les données non étiquetées. Snorkel Flow comprend également des fonctionnalités d'exploration des données, d'analyse des erreurs et de gestion des modèles, permettant aux équipes d'améliorer de manière itérative leurs données d'entraînement et les performances des modèles.
Approche de l'IA centrée sur les données
Snorkel AI est un partisan du mouvement de l'IA centrée sur les données, qui souligne l'importance de la qualité des données par rapport à l'architecture des modèles. L'entreprise affirme que de nombreux échecs de l'IA proviennent de données d'entraînement de mauvaise qualité, telles que des exemples mal étiquetés, des cas limites manquants ou des distributions biaisées. En se concentrant sur l'amélioration des données, Snorkel Flow aide les organisations à atteindre une précision de modèle plus élevée avec moins d'effort manuel. Cette approche est particulièrement pertinente dans les domaines où les données étiquetées sont rares ou coûteuses, comme l'imagerie médicale, la revue de documents juridiques et le traitement du langage naturel.
Cas d'utilisation et applications
Snorkel Flow a été adopté par diverses entreprises pour résoudre des problèmes concrets. Par exemple, dans le secteur financier, des entreprises l'utilisent pour détecter les transactions frauduleuses en étiquetant des données historiques avec des règles qui capturent des schémas suspects. Dans le domaine de la santé, il a été utilisé pour extraire des informations de dossiers de santé électroniques, comme l'identification de patients atteints de conditions spécifiques. Dans l'industrie technologique, il aide à améliorer la pertinence des recherches et la modération de contenu. La plateforme prend en charge à la fois les données structurées et non structurées, y compris le texte, les images et les données tabulaires.
Intégration avec l'écosystème d'apprentissage automatique
Snorkel Flow est conçu pour s'intégrer aux frameworks et outils d'apprentissage automatique populaires. Il peut exporter des jeux de données étiquetés dans des formats compatibles avec TensorFlow, PyTorch et d'autres bibliothèques. La plateforme prend également en charge les grands modèles de langage en permettant aux utilisateurs d'étiqueter des données pour le fine-tuning ou l'évaluation. Snorkel AI a des partenariats avec des fournisseurs de cloud tels que AWS, Azure et Google Cloud, permettant le déploiement sur leur infrastructure. De plus, l'entreprise propose des API et des SDK pour un accès programmatique, permettant l'intégration dans les pipelines de données existants.
Recherche et contributions
Le projet Snorkel a apporté des contributions significatives au domaine de la recherche en IA. L'article original, « Snorkel: Fast Training Data Creation with Weak Supervision », a été publié en 2017 et a reçu le prix du meilleur article à la conférence VLDB. Des recherches ultérieures ont exploré des sujets tels que la programmation de données, les modèles d'étiquettes et l'apprentissage actif. Snorkel AI continue de publier des recherches et des composants open source, comme la bibliothèque Snorkel, largement utilisée dans le monde académique et industriel. L'entreprise sponsorise également des ateliers et participe à des conférences comme NeurIPS et ICML.
Paysage concurrentiel
Snorkel AI opère dans l'espace concurrentiel de l'étiquetage des données et des outils de développement d'IA. Les concurrents incluent des entreprises comme Scale AI, Labelbox et Appen, qui se concentrent sur des services d'étiquetage manuel ou semi-automatisé. Cependant, Snorkel AI se différencie en mettant l'accent sur l'étiquetage programmatique et la supervision faible, qui peuvent être plus évolutifs et rentables pour de grands jeux de données. L'entreprise concurrence également des plateformes d'IA plus larges comme Hugging Face et OpenAI en termes de fourniture d'outils pour le développement de modèles, bien que son objectif soit spécifiquement les données d'entraînement.
Orientations futures
En 2024, Snorkel AI continue d'étendre les capacités de sa plateforme, notamment dans le domaine de l'IA générative. L'entreprise a introduit des fonctionnalités pour étiqueter et évaluer les données pour les grands modèles de langage, y compris des techniques pour le RLHF (apprentissage par renforcement à partir de retours humains) et l'apprentissage curriculaire. Snorkel AI vise à devenir une couche standard dans la pile d'IA, permettant aux organisations de construire des modèles fiables en gérant systématiquement les données d'entraînement. L'entreprise explore également des partenariats avec des institutions académiques et des laboratoires de recherche pour faire progresser la science de l'IA centrée sur les données.
Conclusion
Snorkel AI s'est imposé comme un leader du mouvement de l'IA centrée sur les données, offrant une plateforme qui transforme la manière dont les données d'entraînement sont créées et gérées. En tirant parti de la supervision faible et de l'étiquetage programmatique, l'entreprise aborde un goulot d'étranglement critique dans le développement de l'IA, rendant plus rapide et plus accessible le déploiement de modèles précis pour les entreprises. Avec un investissement continu dans la recherche et l'innovation produit, Snorkel AI est bien positionnée pour façonner l'avenir des méthodologies d'entraînement de l'IA.