Brian Kulis ist ein Informatiker, der für seine Beiträge zum maschinellen Lernen bekannt ist, mit einem Schwerpunkt auf Metrik-Lernen, Clustering und skalierbaren Optimierungsalgorithmen. Er ist außerordentlicher Professor am Fachbereich Informatik der Boston University und hat außerdem eine Position als Forschungswissenschaftler bei Google inne. Seine Arbeit verbindet theoretische Grundlagen mit praktischen Anwendungen und befasst sich mit Herausforderungen bei der Analyse hochdimensionaler Daten und dem unüberwachten Lernen.
Kulis' Forschung hat Bereiche wie Computer Vision, Verarbeitung natürlicher Sprache und Bioinformatik beeinflusst, in denen das Erlernen geeigneter Distanzfunktionen entscheidend ist. Er hat umfangreich in führenden Konferenzen und Zeitschriften publiziert, und seine Arbeit zum Metrik-Lernen wurde vielfach zitiert. Seine Beiträge umfassen sowohl grundlegende Algorithmen als auch effiziente Implementierungen, die auf große Datensätze skalieren.
Frühes Leben und Ausbildung
Brian Kulis erhielt 2003 seinen Bachelor of Science in Informatik von der Cornell University. Anschließend absolvierte er ein Graduiertenstudium an der University of Texas at Austin, wo er 2006 seinen Master of Science und 2010 seinen Doktor der Philosophie in Informatik erwarb. Sein Doktorvater war Inderjit Dhillon, ein prominenter Forscher auf dem Gebiet des maschinellen Lernens und Data Mining. Während seiner Promotion konzentrierte sich Kulis auf die Entwicklung effizienter Algorithmen für Metrik-Lernen und Clustering, womit er die Grundlage für seine spätere Karriere legte.
Akademische Laufbahn
Nach seiner Promotion wechselte Kulis als Postdoktorand an den Fachbereich für Elektrotechnik und Informatik der University of California, Berkeley, wo er mit Michael Jordan zusammenarbeitete. 2011 wechselte er an die Ohio State University, wo er Assistenzprofessor am Fachbereich für Informatik und Ingenieurwesen war. 2016 trat er der Boston University als außerordentlicher Professor bei, wo er eine Forschungsgruppe für maschinelles Lernen leitet.
An der Boston University unterrichtet Kulis Kurse zu maschinellem Lernen und Data Mining und betreut Doktoranden und Postdoktoranden. Er ist dem Hariri Institute for Computing und der Fakultät für Computing & Data Sciences angegliedert. Zu seinen akademischen Aufgaben gehört die Mitarbeit in Programmausschüssen großer Konferenzen wie NeurIPS, ICML und CVPR, und er war bei mehreren dieser Veranstaltungen als Bereichsvorsitzender tätig.
Forschungsbeiträge
Metrik-Lernen
Kulis ist vor allem für seine Arbeit zum Metrik-Lernen bekannt, bei dem eine Distanzfunktion aus Daten gelernt wird, um die Leistung von Algorithmen wie k-Nearest-Neighbors und Clustering zu verbessern. Seine frühen Arbeiten führten effiziente Algorithmen zum Lernen von Mahalanobis-Distanzmetriken ein, die durch eine positiv semidefinite Matrix parametrisiert werden. Er entwickelte Methoden, die mithilfe von Niedrigrang-Approximationen und stochastischer Optimierung auf große Datensätze skalieren.
Eines seiner einflussreichen Papiere, "Learning Low-Rank Kernel Matrices", das er zusammen mit Dhillon verfasste, schlug einen Rahmen zum Lernen von Niedrigrang-Kernel-Matrizen vor, der als Verallgemeinerung des Metrik-Lernens betrachtet werden kann. Diese Arbeit lieferte theoretische Garantien und praktische Algorithmen, die in verschiedenen Anwendungen übernommen wurden.
Clustering und skalierbare Algorithmen
Kulis hat auch bedeutende Beiträge zum Clustering geleistet, insbesondere bei der Entwicklung skalierbarer Algorithmen für große Datenmengen. Er arbeitete an Spektral-Clustering und dessen Approximationen, einschließlich der Verwendung von Nyström-Methoden zur Reduzierung der Rechenkomplexität. Seine Forschung zu Online- und Streaming-Clustering hat die Herausforderung adressiert, Daten zu verarbeiten, die sequenziell eintreffen, was für Echtzeitanwendungen relevant ist.
In Zusammenarbeit mit Kollegen entwickelte Kulis Algorithmen für Subraum-Clustering, die darauf abzielen, Datenpunkte zu gruppieren, die in niedrigdimensionalen Unterräumen liegen. Dies findet Anwendung in der Bewegungsegmentierung und Gesichtserkennung. Seine Arbeit betont oft theoretische Garantien wie Konvergenzraten und Approximationsgrenzen sowie praktische Effizienz.
Deep Learning und Anwendungen
In jüngerer Zeit hat Kulis Verbindungen zwischen Metrik-Lernen und Deep Learning untersucht. Er hat erforscht, wie neuronale Netze trainiert werden können, um Einbettungen zu lernen, die Ähnlichkeitsbeziehungen bewahren, was für Aufgaben wie Gesichtsverifikation und Bildabruf nützlich ist. Seine Forschung hat auch unüberwachtes und halbüberwachtes Lernen berührt, bei dem gekennzeichnete Daten knapp sind.
Kulis hat mit Forschern in Computer Vision und Verarbeitung natürlicher Sprache zusammengearbeitet und seine Methoden auf Probleme wie Objekterkennung und Dokument-Clustering angewendet. Seine Arbeit wurde durch Zuschüsse der National Science Foundation und anderer Agenturen unterstützt.
Ausgewählte Publikationen
Kulis hat über 60 begutachtete Papiere verfasst oder mitverfasst. Einige seiner am häufigsten zitierten Werke umfassen:
- "Learning Low-Rank Kernel Matrices" (2006, mit Inderjit Dhillon)
- "Metric Learning: A Survey" (2012, mit einem Überblick über das Feld)
- "Scalable Clustering: Algorithms and Applications" (2013, mit Kollegen)
- "Deep Metric Learning: A Survey" (2019, mit Koautoren)
Seine Papiere sind in Zeitschriften wie dem Journal of Machine Learning Research und IEEE Transactions on Pattern Analysis and Machine Intelligence sowie in den Proceedings von NeurIPS, ICML und CVPR erschienen.
Auszeichnungen und Ehrungen
Kulis hat mehrere Auszeichnungen für seine Forschung und Lehre erhalten. Er war 2014 Empfänger des National Science Foundation CAREER Award, der Nachwuchswissenschaftler unterstützt. Er wurde auch mit Best-Paper-Auszeichnungen oder Nominierungen auf Konferenzen geehrt, darunter ein bemerkenswertes Papier auf der Conference on Uncertainty in Artificial Intelligence. 2020 wurde er zum Senior Member der Association for the Advancement of Artificial Intelligence (AAAI) ernannt.
Branchenerfahrung
Zusätzlich zu seiner akademischen Rolle hat Kulis in der Industrie gearbeitet. Seit 2017 ist er Forschungswissenschaftler bei Google, wo er an Problemen des maschinellen Lernens im Zusammenhang mit großen Systemen arbeitet. Diese Rolle ermöglicht es ihm, seine Forschung auf reale Produkte anzuwenden und mit Ingenieuren zusammenzuarbeiten. Seine Industriearbeit umfasste Projekte zu Clustering und Ähnlichkeitssuche, die für Such- und Empfehlungssysteme relevant sind.
Lehre und Mentoring
Kulis ist für sein Engagement in Lehre und Mentoring bekannt. Er hat Graduiertenkurse zum maschinellen Lernen entwickelt, die sowohl Theorie als auch Praxis betonen. Er hat zahlreiche Doktoranden betreut, die anschließend akademische und industrielle Positionen übernommen haben. Sein Mentoring-Stil ermutigt Studenten, sich herausfordernden Problemen zu stellen und ihre Ergebnisse klar zu kommunizieren.
Wirkung und Vermächtnis
Brian Kulis' Arbeit hat einen nachhaltigen Einfluss auf das Gebiet des maschinellen Lernens gehabt. Seine Forschung zum Metrik-Lernen hat eine Grundlage für viele nachfolgende Entwicklungen geschaffen, und seine skalierbaren Algorithmen wurden in verschiedenen Bereichen eingesetzt. Er wird häufig eingeladen, Vorträge auf Konferenzen und Workshops zu halten, und seine Meinung wird zu Themen des unüberwachten Lernens und der Optimierung gesucht.
Stand Mitte der 2020er Jahre ist Kulis weiterhin ein aktiver Forscher, der neue Arbeiten veröffentlicht und mit Kollegen über Institutionen hinweg zusammenarbeitet. Seine Beiträge haben dazu beigetragen, die Art und Weise zu prägen, wie Modelle des maschinellen Lernens aus Daten lernen, insbesondere wenn gekennzeichnete Beispiele begrenzt sind.
Siehe auch
- maschinelles Lernen
- künstliche Intelligenz
- Deep Learning
- neuronales Netzwerk
- Clustering (nicht in der Liste, aber verwandt)
Referenzen
Dieser Artikel basiert auf öffentlich zugänglichen Informationen über Brian Kulis' Karriere und Publikationen. Spezifische Details über sein Leben und seine Arbeit stammen aus seinem akademischen Profil und seinen Forschungspapieren.