Hava T. Siegelmann est une informaticienne américaine et professeure provost à l'Université du Massachusetts à Amherst. Elle est connue pour ses contributions fondamentales à la théorie des réseaux de neurones et de l'apprentissage automatique, en particulier ses travaux sur le calcul au-delà de la limite de Turing, qui ont influencé à la fois l'informatique théorique et la recherche pratique en intelligence artificielle. Sa carrière s'étend sur le monde académique et la direction de recherche gouvernementale, y compris la gestion de programmes à la Defense Advanced Research Projects Agency (DARPA) des États-Unis.
Les recherches de Siegelmann comblent le fossé entre le calcul biologique et le calcul numérique, explorant comment les réseaux de neurones peuvent effectuer des tâches que les modèles traditionnels ne peuvent pas réaliser. Ses travaux ont été largement cités dans des domaines allant de l'apprentissage profond à l'hypercalcul, et elle a été reconnue pour ses contributions à la fois à la science et à la sécurité nationale.
Vie et éducation
Siegelmann est née en Israël et a développé un intérêt précoce pour les mathématiques et l'informatique. Elle a obtenu son B.A. en informatique au Technion – Institut de technologie d'Israël en 1988, suivi d'un M.Sc. en informatique à l'Université hébraïque de Jérusalem en 1992. Elle s'est ensuite installée aux États-Unis pour ses études doctorales, obtenant son Ph.D. en informatique à l'Université Rutgers en 1993 sous la supervision d'Eduardo Sontag. Sa thèse portait sur l'hypercalcul, un domaine qui examine les limites théoriques de ce qui peut être calculé au-delà du modèle classique de la machine de Turing.
Carrière académique
Après avoir obtenu son doctorat, Siegelmann a occupé des postes académiques dans plusieurs institutions avant de rejoindre le corps professoral de l'Université du Massachusetts à Amherst, où elle sert actuellement comme professeure provost. Son enseignement et ses recherches ont porté sur la théorie du calcul, les réseaux de neurones et l'intersection de l'informatique avec la biologie et la physique. Elle a encadré de nombreux étudiants diplômés et chercheurs postdoctoraux, dont beaucoup ont poursuivi des carrières éminentes dans le monde académique et l'industrie.
À l'UMass Amherst, Siegelmann a été affiliée au Collège des sciences de l'information et de l'informatique, où elle a contribué au développement de programmes d'études en apprentissage automatique et en intelligence artificielle. Elle a également participé à des initiatives interdisciplinaires, collaborant avec des chercheurs en neurosciences, en physique et en ingénierie.
Contributions à la recherche
La contribution de recherche la plus notable de Siegelmann est son travail sur la puissance de calcul des réseaux de neurones. Dans un article marquant publié en 1995 dans Science, intitulé « Computation Beyond the Turing Limit », elle a démontré que certains types de réseaux de neurones récurrents peuvent calculer des fonctions qui ne sont pas Turing-calculables, suggérant que ces réseaux ont une puissance de calcul supérieure à celle des ordinateurs numériques traditionnels. Ce travail a remis en question des hypothèses de longue date en informatique et a ouvert de nouvelles voies pour comprendre les capacités des systèmes neuronaux.
Son livre de 1999, Neural Networks and Analog Computation: Beyond the Turing Limit, a développé ces idées, fournissant un cadre complet pour analyser les capacités de calcul des réseaux de neurones analogiques. Le livre est devenu une référence standard dans le domaine, cité par des chercheurs en informatique théorique et dans les applications des réseaux de neurones.
Siegelmann a également contribué à l'étude des machines à vecteurs de support et des algorithmes de regroupement. Dans un article de 2001 avec Asa Ben-Hur, David Horn et Vladimir Vapnik, elle a introduit le regroupement par vecteurs de support, une méthode qui utilise les machines à vecteurs de support pour l'apprentissage non supervisé. Ce travail a été influent dans l'exploration de données et la reconnaissance de formes.
De plus, ses recherches sur la complexité computationnelle pour la dynamique en temps continu, publiées dans Physical Review Letters en 1999, ont exploré la complexité des systèmes dynamiques, reliant l'informatique à la physique.
Direction à la DARPA
Siegelmann a joué un rôle important dans la définition des priorités de recherche américaines en intelligence artificielle grâce à son travail à la DARPA. Elle a servi comme gestionnaire de programme pour plusieurs grands programmes d'IA, notamment :
- Lifelong Learning Machines : Ce programme visait à développer des systèmes d'apprentissage automatique capables d'apprendre en continu à partir de l'expérience, en s'adaptant à de nouvelles situations sans oublier les connaissances antérieures. Le programme cherchait à surmonter les limites des modèles traditionnels d'apprentissage profond, qui nécessitent souvent un réentraînement à partir de zéro.
- Guaranteeing AI Robustness Against Deception : Cette initiative se concentrait sur la résilience des systèmes d'IA face aux attaques adversariales, où des entrées malveillantes sont conçues pour tromper les modèles. Le programme a financé des recherches sur des architectures robustes de réseaux de neurones et des méthodes d'entraînement.
- Cooperative Secure Learning : Ce programme explorait comment plusieurs systèmes d'IA peuvent apprendre en collaboration tout en maintenant la sécurité et la confidentialité, abordant les défis de l'apprentissage automatique distribué.
Sa direction à la DARPA a aidé à combler le fossé entre la recherche théorique et les applications pratiques, influençant le développement de systèmes d'IA plus fiables et plus sécurisés. En reconnaissance de ses contributions, la DARPA et le Département de la Défense lui ont décerné la Médaille du service public méritoire, l'une des plus hautes distinctions pour le service civil.
Publications sélectionnées
Siegelmann a écrit de nombreux articles et livres influents. Certaines de ses œuvres les plus citées comprennent :
- Ben-Hur, A. ; Horn, D. ; Siegelmann, H.T. ; Vapnik, V. (2001). « Support vector clustering ». Journal of Machine Learning Research. 2 : 125-137.
- Siegelmann, H.T. (1995). « Computation Beyond the Turing Limit ». Science. 268 (5210) : 545-548. doi:10.1126/science.268.5210.545.
- Siegelmann, Hava T. (1999). Neural Networks and Analog Computation: Beyond the Turing Limit. Boston : Birkhäuser. ISBN 0-8176-3949-7.
- Siegelmann, H.T. ; Ben-Hur, A. ; Fishman, S. (1999). « Computational Complexity for Continuous Time Dynamics ». Physical Review Letters. 83 (7) : 1463-1466.
Ces publications ont été citées des milliers de fois, reflétant leur impact sur les domaines de l'informatique, des mathématiques et de l'ingénierie.
Impact et héritage
Le travail de Siegelmann a eu un impact durable sur les aspects théoriques et appliqués de l'intelligence artificielle. Ses idées sur la puissance de calcul des réseaux de neurones ont informé le développement des architectures modernes d'apprentissage profond, y compris les transformeurs et les grands modèles de langage, qui sont maintenant omniprésents dans la technologie. Son accent sur la robustesse et l'apprentissage tout au long de la vie a également influencé la recherche sur l'apprentissage par curriculum et le renforcement par retour d'IA.
Au-delà de ses contributions techniques, Siegelmann a été une mentore et une défenseure des femmes en informatique, encourageant une plus grande diversité dans le domaine. Sa carrière sert d'exemple de la manière dont la recherche théorique peut conduire à des innovations pratiques avec des implications sociétales larges.
Prix et distinctions
En plus de la Médaille du service public méritoire de la DARPA/DoD, Siegelmann a reçu de nombreux autres honneurs tout au long de sa carrière. Elle a été invitée à parler lors de grandes conférences et a siégé à des comités éditoriaux de revues de premier plan. Son élection à des sociétés académiques prestigieuses reflète la haute estime dans laquelle ses pairs tiennent son travail.
Travail actuel
Au début des années 2020, Siegelmann continue d'être active dans la recherche et l'enseignement à l'Université du Massachusetts à Amherst. Ses intérêts récents incluent l'intersection de l'IA avec les neurosciences, le développement de modèles plus robustes et interprétables, et les implications éthiques des systèmes autonomes. Elle reste une experte recherchée dans les discussions sur l'avenir de l'apprentissage automatique et son rôle dans la société.