Shmuel Ur est un informaticien et chercheur israélien en intelligence artificielle, connu pour ses travaux sur les tests et la vérification des systèmes d'apprentissage automatique. Sa carrière comprend des contributions significatives chez IBM Research et des collaborations avec des institutions académiques, axées sur la garantie de fiabilité et de sécurité dans les applications d'IA.
Les premiers travaux d'Ur portaient sur les tests logiciels et la vérification formelle, domaines dans lesquels il a publié abondamment durant son mandat chez IBM. Il s'est ensuite tourné vers les défis posés par l'apprentissage automatique, en particulier la nécessité de méthodologies de test robustes pour les réseaux neuronaux et autres modèles d'IA. Ses recherches abordent l'écart entre les tests logiciels traditionnels et les propriétés uniques des systèmes appris, telles que leur non-déterminisme et leur sensibilité aux perturbations d'entrée.
Début de carrière et IBM Research
Ur a rejoint IBM Research dans les années 1990, où il a travaillé sur la vérification matérielle et logicielle. Au laboratoire de recherche de Haïfa d'IBM en Israël, il a contribué à des projets impliquant le model checking et la génération de tests pour des systèmes complexes. Son travail durant cette période a jeté les bases de son intérêt ultérieur pour la vérification de l'IA, en appliquant des méthodes formelles à des systèmes logiciels de plus en plus sophistiqués.
Transition vers la vérification de l'IA
Au milieu des années 2010, Ur avait tourné son attention vers les systèmes de apprentissage automatique et de apprentissage profond. Il a reconnu que les techniques de test traditionnelles étaient insuffisantes pour valider le comportement des modèles de réseaux neuronaux, qui fonctionnent souvent comme des boîtes noires. Ses recherches ont proposé des méthodes pour générer systématiquement des cas de test qui exposent les vulnérabilités des systèmes d'IA, y compris des exemples adverses provoquant des erreurs de classification. Ce travail s'aligne avec des efforts plus larges dans la communauté de l'IA pour garantir la robustesse des modèles utilisés dans des applications critiques.
Collaborations académiques et industrielles
Ur a occupé des postes de chercheur invité et a collaboré avec des chercheurs d'institutions telles que le Technion – Institut de technologie d'Israël et l'Université de Tel Aviv. Il a également travaillé avec des partenaires industriels, notamment Samsung Research et Intel, sur des projets liés à la sécurité de l'IA. Ses engagements de conseil se sont concentrés sur le développement de cadres de vérification pour les produits d'IA, bien que les détails spécifiques de ces collaborations ne soient pas documentés publiquement.
Publications clés et contributions
Ur a authored ou co-écrit plus de 50 articles évalués par des pairs, dont beaucoup dans des forums tels que la Conférence internationale sur le génie logiciel et les Transactions IEEE sur le génie logiciel. Parmi les travaux notables figurent des études sur les critères de couverture pour les réseaux neuronaux et des méthodes pour détecter les biais dans les modèles d'IA. Ses articles sont fréquemment cités par les chercheurs travaillant sur les tests d'IA, ce qui indique son influence dans ce domaine de niche.
Travaux ultérieurs et focus actuel
Ces dernières années, Ur a exploré l'intersection de l'IA et de la vérification formelle, plaidant pour une approche plus rigoureuse de la validation des systèmes d'IA avant leur déploiement. Il a pris la parole lors de conférences sur les implications éthiques d'une IA peu fiable, soulignant la nécessité de transparence et de responsabilité. En 2025, il continue de contribuer au domaine par le biais de recherches indépendantes et de rôles consultatifs.
Héritage et impact
Le travail d'Ur a contribué à établir les tests et la vérification comme un sous-domaine critique de la recherche en intelligence artificielle. En adaptant les techniques de vérification classiques aux défis de l'apprentissage automatique, il a influencé à la fois la recherche académique et les pratiques industrielles. Ses efforts s'inscrivent dans un mouvement plus large visant à garantir que les systèmes d'IA soient non seulement puissants, mais aussi dignes de confiance.
Références
Cet article est basé sur des informations publiquement disponibles, y compris le dossier de publication d'Ur et ses présentations en conférence. Les dates et affiliations spécifiques sont tirées de son historique professionnel, bien que certains détails restent non vérifiés en raison de sources publiques limitées.