Robust Intelligence est une entreprise technologique spécialisée dans la sécurisation des systèmes d'intelligence artificielle. Fondée en 2019 par Yaron Singer et Kojin Oshiba, l'entreprise propose une plateforme conçue pour valider et protéger les modèles de machine learning contre les attaques adversariales, la dérive des données et d'autres vulnérabilités de sécurité. Son siège social est situé à San Francisco, en Californie.
L'entreprise est issue de recherches menées à l'Université Harvard, où Singer est professeur d'informatique et de mathématiques appliquées. Robust Intelligence vise à répondre au besoin croissant de sécurité de l'IA dans les environnements d'entreprise, en particulier alors que les organisations déploient de plus en plus de modèles de machine learning dans des applications critiques telles que la détection de fraude, les véhicules autonomes et les diagnostics de santé.
Historique et fondation
Robust Intelligence a été cofondée en 2019 par Yaron Singer et Kojin Oshiba. Singer, qui occupe le poste de PDG, a apporté une expertise académique en algorithmes et en machine learning, tandis qu'Oshiba, le CTO, a contribué avec une expérience en ingénierie et en développement de produits. L'entreprise a initialement opéré en mode furtif, développant sa technologie de base avant de se lancer publiquement en 2021.
En 2021, Robust Intelligence a annoncé un tour de financement de série A de 30 millions de dollars mené par Sequoia Capital, avec la participation d'autres investisseurs, notamment Harrison Metal et Y Combinator. Ce financement visait à accélérer le développement de produits et à étendre les efforts de commercialisation de l'entreprise. En 2023, l'entreprise avait levé des fonds supplémentaires, portant son total à plus de 60 millions de dollars.
Plateforme et technologie
L'offre principale de Robust Intelligence est sa plateforme de validation et de protection de l'IA. La plateforme teste en continu les modèles de machine learning pour détecter les vulnérabilités, notamment les exemples adversariaux, l'empoisonnement des données et les entrées hors distribution. Elle utilise une combinaison de red-teaming automatisé, de tests de stress et de surveillance pour identifier les modes de défaillance potentiels avant qu'ils ne puissent être exploités.
La plateforme s'intègre aux flux de travail ML existants et prend en charge des frameworks populaires tels que TensorFlow, PyTorch et scikit-learn. Elle fournit un tableau de bord permettant aux équipes de sécurité de visualiser les risques, de recevoir des alertes et de générer des rapports de conformité. Le système propose également des stratégies d'atténuation, telles que l'entraînement adversarial et l'assainissement des entrées, pour renforcer les modèles contre les menaces identifiées.
Contexte sectoriel
L'essor de l'intelligence artificielle et du machine learning a créé de nouveaux défis en matière de sécurité. La cybersécurité traditionnelle se concentre sur la protection des données et des infrastructures, mais les modèles d'IA introduisent des vulnérabilités uniques. Les attaques adversariales peuvent manipuler les entrées pour provoquer des erreurs de classification, tandis que la dérive des données peut dégrader les performances des modèles au fil du temps. Robust Intelligence opère dans ce créneau, en concurrence avec d'autres startups de sécurité de l'IA et des fournisseurs de cybersécurité plus larges.
Les concepts clés associés incluent le machine learning adversarial, la dérive des données et la validation des modèles. L'approche de l'entreprise est souvent comparée à des tests d'intrusion pour l'IA, car elle recherche de manière proactive les faiblesses plutôt que d'attendre que des incidents se produisent.
Direction et équipe
Yaron Singer, le PDG, est un chercheur éminent en algorithmes et en machine learning. Il a publié de nombreux travaux et a été récompensé par des prix tels que le NSF CAREER Award et la Sloan Research Fellowship. Kojin Oshiba, le CTO, a précédemment travaillé chez Google et possède une expérience dans les systèmes à grande échelle et l'ingénierie de produits.
L'entreprise a attiré des talents de grandes entreprises technologiques et d'institutions de recherche, notamment d'anciens employés de Google, Microsoft et de diverses universités. L'équipe comprend des experts en sécurité, en recherche ML et en ingénierie logicielle.
Financement et croissance
Robust Intelligence a levé un capital-risque important. Le tour de série A en 2021 a été suivi d'un tour de série B en 2023, portant le financement total à 60 millions de dollars. Les investisseurs incluent Sequoia Capital, Harrison Metal, Y Combinator et d'autres. L'entreprise a utilisé ces fonds pour élargir son équipe commerciale, améliorer son produit et établir des partenariats avec des fournisseurs de cloud tels que Amazon Web Services et Google Cloud.
En 2023, Robust Intelligence sert une gamme de clients d'entreprise dans les secteurs de la finance, de la santé et de la technologie. L'entreprise indique que sa plateforme a été utilisée pour tester et protéger des milliers de modèles, bien que les noms spécifiques des clients soient souvent gardés confidentiels.
Orientations futures
À l'avenir, Robust Intelligence vise à élargir sa plateforme pour couvrir l'ensemble du cycle de vie de l'IA, du développement au déploiement. L'entreprise explore également des moyens de relever les défis émergents dans les grands modèles de langage et l'IA générative, qui présentent de nouveaux types de risques tels que l'injection de prompts et les sorties biaisées. Alors que l'adoption de l'IA continue de croître, la demande pour une sécurité et une validation robustes devrait augmenter, positionnant l'entreprise pour une expansion supplémentaire.
Voir aussi
- machine learning adversarial
- dérive des données
- validation des modèles
- sécurité de l'IA
- Yaron Singer