Brian Kulis est un informaticien connu pour ses contributions à l'apprentissage automatique, avec un accent sur l'apprentissage de métriques, le regroupement (clustering) et les algorithmes d'optimisation à grande échelle. Il est professeur associé au département d'informatique de l'université de Boston et occupe également un poste de chercheur scientifique chez Google. Son travail fait le pont entre les fondements théoriques et les applications pratiques, en abordant les défis de l'analyse de données à haute dimension et de l'apprentissage non supervisé.
Les recherches de Kulis ont influencé des domaines tels que la vision par ordinateur, le traitement du langage naturel et la bio-informatique, où l'apprentissage de fonctions de distance appropriées est essentiel. Il a publié de nombreux articles dans des conférences et des revues de premier plan, et ses travaux sur l'apprentissage de métriques ont été largement cités. Ses contributions comprennent à la fois des algorithmes fondamentaux et des implémentations efficaces qui passent à l'échelle sur de grands ensembles de données.
Jeunesse et éducation
Brian Kulis a obtenu son baccalauréat en sciences en informatique à l'université Cornell en 2003. Il a ensuite poursuivi des études supérieures à l'université du Texas à Austin, où il a obtenu sa maîtrise en sciences en 2006 et son doctorat en informatique en 2010. Son directeur de thèse était Inderjit Dhillon, un chercheur éminent en apprentissage automatique et en fouille de données. Pendant son doctorat, Kulis s'est concentré sur le développement d'algorithmes efficaces pour l'apprentissage de métriques et le regroupement, posant ainsi les bases de sa carrière ultérieure.
Carrière académique
Après avoir terminé son doctorat, Kulis a rejoint le département de génie électrique et d'informatique de l'université de Californie à Berkeley en tant que chercheur postdoctoral, travaillant avec Michael Jordan. Il a ensuite rejoint l'université d'État de l'Ohio en 2011, où il était professeur adjoint au département d'informatique et de génie. En 2016, il a rejoint l'université de Boston en tant que professeur associé, où il dirige un groupe de recherche en apprentissage automatique.
À l'université de Boston, Kulis enseigne des cours sur l'apprentissage automatique et la fouille de données, et il encadre des étudiants au doctorat et des chercheurs postdoctoraux. Il est affilié à l'Institut Hariri pour le calcul et à la faculté de calcul et de sciences des données. Son service académique comprend la participation à des comités de programme pour des conférences majeures telles que NeurIPS, ICML et CVPR, et il a été président de section pour plusieurs de ces événements.
Contributions à la recherche
Apprentissage de métriques
Kulis est surtout connu pour ses travaux sur l'apprentissage de métriques, qui consistent à apprendre une fonction de distance à partir de données pour améliorer les performances d'algorithmes comme les k-plus proches voisins et le regroupement. Ses premiers travaux ont introduit des algorithmes efficaces pour apprendre des métriques de distance de Mahalanobis, paramétrées par une matrice semi-définie positive. Il a développé des méthodes qui passent à l'échelle sur de grands ensembles de données en utilisant des approximations de rang faible et l'optimisation stochastique.
L'un de ses articles influents, « Learning Low-Rank Kernel Matrices », coécrit avec Dhillon, a proposé un cadre pour apprendre des matrices de noyau de rang faible, ce qui peut être considéré comme une généralisation de l'apprentissage de métriques. Ce travail a fourni des garanties théoriques et des algorithmes pratiques qui ont été adoptés dans diverses applications.
Regroupement et algorithmes à grande échelle
Kulis a également apporté des contributions significatives au regroupement, en particulier en développant des algorithmes à grande échelle pour les données massives. Il a travaillé sur le regroupement spectral et ses approximations, notamment l'utilisation de méthodes de Nyström pour réduire la complexité computationnelle. Ses recherches sur le regroupement en ligne et en flux ont abordé le défi du traitement de données arrivant séquentiellement, ce qui est pertinent pour les applications en temps réel.
En collaboration avec des collègues, Kulis a développé des algorithmes pour le regroupement en sous-espaces, qui visent à regrouper des points de données situés dans des sous-espaces de faible dimension. Cela a des applications dans la segmentation de mouvement et la reconnaissance faciale. Son travail met souvent l'accent sur des garanties théoriques, telles que les taux de convergence et les bornes d'approximation, en plus de l'efficacité pratique.
Apprentissage profond et applications
Plus récemment, Kulis a exploré les liens entre l'apprentissage de métriques et l'apprentissage profond. Il a étudié comment les réseaux de neurones peuvent être entraînés pour apprendre des plongements qui préservent les relations de similarité, ce qui est utile pour des tâches comme la vérification faciale et la recherche d'images. Ses recherches ont également touché à l'apprentissage non supervisé et semi-supervisé, où les données étiquetées sont rares.
Kulis a collaboré avec des chercheurs en vision par ordinateur et en traitement du langage naturel, appliquant ses méthodes à des problèmes tels que la reconnaissance d'objets et le regroupement de documents. Ses travaux ont été soutenus par des subventions de la National Science Foundation et d'autres agences.
Publications sélectionnées
Kulis a écrit ou coécrit plus de 60 articles évalués par des pairs. Parmi ses travaux les plus cités, on trouve :
- « Learning Low-Rank Kernel Matrices » (2006, avec Inderjit Dhillon)
- « Metric Learning: A Survey » (2012, avec une revue du domaine)
- « Scalable Clustering: Algorithms and Applications » (2013, avec des collègues)
- « Deep Metric Learning: A Survey » (2019, avec des coauteurs)
Ses articles ont paru dans des revues telles que le Journal of Machine Learning Research et IEEE Transactions on Pattern Analysis and Machine Intelligence, ainsi que dans les actes de NeurIPS, ICML et CVPR.
Prix et distinctions
Kulis a reçu plusieurs prix pour sa recherche et son enseignement. Il a été lauréat du prix CAREER de la National Science Foundation en 2014, qui soutient les professeurs en début de carrière. Il a également été reconnu par des prix ou des nominations pour le meilleur article lors de conférences, notamment un article notable à la Conférence sur l'incertitude en intelligence artificielle. En 2020, il a été nommé membre senior de l'Association pour l'avancement de l'intelligence artificielle (AAAI).
Expérience dans l'industrie
En plus de son rôle académique, Kulis a travaillé dans l'industrie. Il est chercheur scientifique chez Google depuis 2017, où il travaille sur des problèmes d'apprentissage automatique liés aux systèmes à grande échelle. Ce rôle lui permet d'appliquer ses recherches à des produits réels et de collaborer avec des ingénieurs. Son travail industriel a inclus des projets sur le regroupement et la recherche de similarité, pertinents pour les systèmes de recherche et de recommandation.
Enseignement et mentorat
Kulis est connu pour son dévouement à l'enseignement et au mentorat. Il a développé des cours de niveau supérieur sur l'apprentissage automatique qui mettent l'accent à la fois sur la théorie et la pratique. Il a supervisé de nombreux étudiants au doctorat qui ont poursuivi des carrières académiques et industrielles. Son style de mentorat encourage les étudiants à s'attaquer à des problèmes difficiles et à communiquer clairement leurs résultats.
Impact et héritage
Les travaux de Brian Kulis ont eu un impact durable sur le domaine de l'apprentissage automatique. Ses recherches sur l'apprentissage de métriques ont fourni une base pour de nombreux développements ultérieurs, et ses algorithmes à grande échelle ont été utilisés dans divers domaines. Il est fréquemment invité à donner des conférences lors de colloques et d'ateliers, et son avis est sollicité sur des sujets liés à l'apprentissage non supervisé et à l'optimisation.
Au milieu des années 2020, Kulis continue d'être un chercheur actif, publiant de nouveaux travaux et collaborant avec des collègues de diverses institutions. Ses contributions ont contribué à façonner la manière dont les modèles d'apprentissage automatique apprennent à partir de données, en particulier lorsque les exemples étiquetés sont limités.
Voir aussi
- apprentissage automatique
- intelligence artificielle
- apprentissage profond
- réseau de neurones
- regroupement (non listé, mais connexe)
Références
Cet article est basé sur des informations publiquement disponibles concernant la carrière et les publications de Brian Kulis. Les détails spécifiques sur sa vie et son travail sont tirés de son profil académique et de ses articles de recherche.