Elena Glassman est une informaticienne et professeure à l'Université Harvard, où elle dirige des recherches à l'intersection de l'interaction homme-machine (IHM) et de l'apprentissage automatique. Son travail se concentre sur le développement d'outils et de techniques qui rendent les systèmes d'IA complexes plus transparents, interprétables et accessibles à un large éventail d'utilisateurs, y compris les programmeurs, les concepteurs et les non-experts. Elle est particulièrement connue pour ses contributions à l'apprentissage automatique interactif, à la visualisation des réseaux de neurones et aux systèmes qui soutiennent la compréhension humaine des résultats algorithmiques.
Glassman a obtenu son diplôme de premier cycle en informatique à la Carnegie Mellon University et son doctorat au MIT Computer Science and Artificial Intelligence Laboratory (CSAIL). Sa recherche doctorale, supervisée par Rob Miller, a exploré de nouvelles interfaces pour la programmation et le débogage, ce qui a jeté les bases de ses travaux ultérieurs sur l'IA explicable. Après avoir terminé son doctorat, elle a rejoint le corps professoral de la School of Engineering and Applied Sciences de Harvard, où elle a établi le laboratoire d'interaction homme-machine et d'apprentissage automatique (IHM-ML).
Visualisation interactive pour l'apprentissage automatique
Un thème central de la recherche de Glassman est le développement de visualisations interactives qui aident les gens à comprendre comment les réseaux de neurones prennent des décisions. Son laboratoire a créé des outils qui permettent aux utilisateurs de sonder le comportement des modèles, d'inspecter les caractéristiques apprises et d'identifier les biais ou erreurs potentiels. Par exemple, son travail sur le « salami » et le « débogage visuel » des modèles permet aux praticiens de voir quelles parties d'une entrée influencent la sortie d'un modèle, rendant la nature de « boîte noire » de l'apprentissage profond plus transparente. Ces outils sont conçus pour être utilisés dans des contextes réels, comme le débogage des grands modèles de langage ou l'analyse de données d'imagerie médicale.
IA centrée sur l'humain et crowdsourcing
Glassman a également apporté des contributions significatives au domaine de l'IA centrée sur l'humain, en particulier en utilisant le crowdsourcing pour améliorer les systèmes d'apprentissage automatique. Sa recherche explore comment les travailleurs non experts peuvent être efficacement engagés dans des tâches comme l'étiquetage de données, l'évaluation de modèles et même la conception d'algorithmes. Elle a développé des cadres pour le débogage à « échelle de foule », où de nombreuses personnes identifient et corrigent collectivement les erreurs dans les systèmes d'IA. Cette approche améliore non seulement la précision des modèles, mais fournit également un moyen d'incorporer diverses perspectives humaines dans le processus de développement de l'IA.
Outils pour programmeurs et concepteurs
Un autre domaine du travail de Glassman implique la création d'outils qui comblent le fossé entre l'apprentissage automatique et le développement de logiciels. Elle a construit des systèmes qui aident les programmeurs à comprendre et à déboguer le code qui utilise des API ML, et qui assistent les concepteurs dans la création d'interfaces pour les applications alimentées par l'IA. Sa recherche implique souvent l'étude de la façon dont les développeurs pensent aux modèles et interagissent avec eux, conduisant à la conception de nouvelles interfaces de débogage et de méthodologies de test. Ce travail est particulièrement pertinent alors que les outils d'IA générative deviennent plus intégrés dans les flux de travail quotidiens de développement de logiciels.
Initiatives éducatives et engagement public
Au-delà de sa recherche, Glassman est engagée dans l'éducation et l'engagement public en IA. Elle a développé des cours à Harvard qui enseignent aux étudiants à la fois les fondements techniques de l'apprentissage automatique et les compétences de pensée critique nécessaires pour évaluer les systèmes d'IA. Elle est également une défenseure de la diffusion plus large de la littératie en IA, donnant des conférences et écrivant sur l'importance de comprendre les limites et les impacts sociétaux de l'IA. Son enseignement a été reconnu par des prix, et elle encadre fréquemment des étudiants qui poursuivent des carrières dans le milieu académique et l'industrie.
Reconnaissance et orientations futures
Les travaux de Glassman ont été publiés dans les meilleures conférences en IHM et ML, y compris CHI, UIST et NeurIPS, et ont reçu plusieurs prix de meilleur article. Elle a également été honorée par des prix de début de carrière d'organisations telles que la National Science Foundation. Ses orientations de recherche actuelles incluent l'exploration de la façon de rendre les modèles transformers plus interprétables, le développement de nouvelles méthodes pour l'apprentissage avec humain dans la boucle, et l'étude des implications éthiques du déploiement de l'IA dans des domaines à enjeux élevés. À partir du milieu des années 2020, son laboratoire continue de repousser les limites de la façon dont les humains et les machines peuvent collaborer efficacement, avec un accent sur la garantie que les technologies d'IA sont non seulement puissantes, mais aussi compréhensibles et dignes de confiance.