Samy Bengio (geboren 1965) ist ein kanadischer Informatiker, der sich auf künstliche Intelligenz und maschinelles Lernen spezialisiert hat. Seit 2025 ist er Senior Director of Artificial Intelligence and Machine Learning Research bei Apple, wo er Forschungsarbeiten in Bereichen wie Deep Learning, neuronale Netze und natürliche Sprachverarbeitung leitet. Bengio hat rund 250 wissenschaftliche Arbeiten verfasst und ist für frühe Arbeiten bekannt, die halfen, die Deep-Learning-Revolution der 2010er-Jahre auszulösen.
Bengio verbrachte über ein Jahrzehnt bei Google (insbesondere Google Brain), bevor er zu Apple wechselte. Er ist außerdem außerordentlicher Professor an der École Polytechnique Fédérale de Lausanne (EPFL) in der Schweiz und Mitautor von Torch, dem Vorgänger des weit verbreiteten PyTorch-Frameworks für maschinelles Lernen. Sein Bruder, Yoshua Bengio, ist Turing-Award-Preisträger und eine prominente Figur im Bereich Deep Learning.
Bildung
Bengio schloss 1986 seinen B.Sc. in Informatik an der Université de Montréal ab. An derselben Einrichtung erwarb er 1989 einen M.Sc. in Informatik mit einer Arbeit mit dem Titel „Integration of Traditional and Intelligence Tutoring Systems". 1993 promovierte er in Informatik an der Université de Montréal mit einer Dissertation mit dem Titel „Optimization of a Parametric Learning Rule for Neural Networks". Seine Doktorarbeit konzentrierte sich auf die Verbesserung von Lernalgorithmen für neuronale Netze und legte den Grundstein für seine spätere Forschung.
Frühe Karriere und akademische Positionen
Von 1999 bis 2007 arbeitete Bengio am IDIAP-Forschungsinstitut in der Schweiz, einem Forschungszentrum, das sich auf maschinelles Lernen und multimodale Interaktion konzentriert. In dieser Zeit hatte er auch eine Position an der EPFL inne, wo er Forschung zu statistischem Lernen und neuronalen Netzen betrieb. Seine Arbeit am IDIAP und an der EPFL trug zu Fortschritten bei der Spracherkennung und Sequenzmodellierung bei.
Im Jahr 2024 wurde Bengio zum außerordentlichen Professor für Informatik und Kommunikationswissenschaften an der EPFL ernannt, wodurch seine laufenden Verbindungen zur Institution formalisiert wurden. Diese Rolle umfasst die Betreuung von Doktoranden und die Zusammenarbeit an Forschungsprojekten, obwohl seine primäre Zugehörigkeit bei Apple bleibt.
Beiträge zum Deep Learning
Bengios wissenschaftliche Beiträge sind in etwa 250 von DBLP indexierten Arbeiten dokumentiert, die Themen wie neuronale Netze, maschinelles Lernen, Deep Learning, Statistik, Computer Vision und natürliche Sprachverarbeitung abdecken. Einige seiner am häufigsten zitierten Arbeiten gehören zu den frühen Studien, die halfen, den Deep-Learning-Boom der 2010er-Jahre zu katalysieren. Dazu gehören Forschungen, die zeigten, wie man die vielen gelernten Repräsentationen erkunden kann, die von Deep-Learning-Modellen erzeugt werden, was spätere Architekturen und Trainingstechniken beeinflusste.
Er trug auch zu einem der ersten Deep-Learning-Ansätze für die Bildbeschriftung bei, eine Aufgabe, bei der textuelle Beschreibungen von Bildern generiert werden. Diese Arbeit kombinierte faltende neuronale Netze für die visuelle Merkmalsextraktion mit rekurrenten Netzen für die Sprachgenerierung, ein Paradigma, das in diesem Bereich einflussreich wurde.
Ein weiterer bemerkenswerter Beitrag ist seine Forschung zum Verständnis, warum Deep Learning funktioniert, die zu einer Reihe von Folgestudien führte, die die Eigenschaften gelernter Repräsentationen und Optimierungsdynamiken untersuchten. Bengio arbeitete auch an einer der ersten Demonstrationen, dass adversarialische Beispiele in der realen Welt existieren können, indem er zeigte, dass die Modifikation eines physischen Objekts ein maschinelles Lernsystem täuschen kann. Dieser Befund hatte erhebliche Auswirkungen auf die Sicherheit und Robustheit von KI-Systemen.
Darüber hinaus war Bengio an Zero-Shot-Erkennung beteiligt, einem Ansatz, der darauf abzielt, Klassen zu erkennen, die während des Trainings nie gesehen wurden, indem semantische Beziehungen zwischen bekannten und unbekannten Kategorien genutzt werden. Diese Forschung eröffnete Wege, Modelle über ihre Trainingsdaten hinaus zu erweitern.
Berufliche Rollen und Führungspositionen
Bengio hat mehrere Führungsrollen in der Machine-Learning-Gemeinschaft innegehabt. Er war von 2015 bis 2016 Programmvorsitzender der International Conference on Learning Representations (ICLR) und von 2018 bis 2020 Vorstandsmitglied. Er war außerdem Programmvorsitzender der Conference on Neural Information Processing Systems (NeurIPS) im Jahr 2017 und Generalvorsitzender im Jahr 2018, und er ist weiterhin Vorstandsmitglied von NeurIPS.
Er ist Herausgeber des Journal of Machine Learning Research, einer führenden Publikation auf diesem Gebiet. Seine redaktionelle Arbeit umfasst die Überwachung des Peer-Reviews und die Gestaltung des Umfangs der Zeitschrift.
Bengio ist Mitautor von Torch, einer Open-Source-Bibliothek für maschinelles Lernen, die als Vorgänger von PyTorch gilt, einem der beiden größten heute verwendeten Frameworks für maschinelles Lernen neben TensorFlow. Torch führte eine flexible Tensor-Bibliothek und automatische Differenzierung ein, die spätere Frameworks beeinflussten.
Zeit bei Google und Abgang
Bengio verbrachte viele Jahre bei Google, wo er eine große Gruppe von Forschern im Bereich maschinelles Lernen leitete, einschließlich adversarieller Szenarien. Sein Team konzentrierte sich auf das Verständnis von Schwachstellen in Modellen und die Entwicklung von Verteidigungen gegen böswillige Eingaben.
Im Dezember 2020 verließ Bengio Google kurz nachdem das Unternehmen Timnit Gebru, Co-Leiterin des Ethical AI Teams, ohne Vorankündigung entlassen hatte. Bengio erklärte später, er sei über die Ereignisse rund um Gebrus Entlassung „schockiert" gewesen. Sein Abgang lenkte Aufmerksamkeit auf Spannungen bei Google in Bezug auf Forschungsethik und Vielfalt, und er wechselte 2021 zu Apple als Senior Director of AI and Machine Learning Research.
Aktuelle Arbeit bei Apple
Bei Apple leitet Bengio die Forschung in den Bereichen künstliche Intelligenz und maschinelles Lernen, mit Schwerpunkt auf Bereichen wie On-Device-Learning, datenschutzfreundliche KI und Anwendungen von Deep Learning auf Apple-Produkte. Sein Team arbeitet daran, den Stand der Technik in Bereichen wie Computer Vision und natürlicher Sprachverarbeitung voranzutreiben, während es sich auf Apples Schwerpunkt auf Datenschutz für Nutzer ausrichtet.
Bengios Rolle umfasst die Leitung von Forschung sowie die Zusammenarbeit mit anderen Teams im gesamten Unternehmen. Er veröffentlicht weiterhin akademische Arbeiten und nimmt an der breiteren Forschungsgemeinschaft teil, einschließlich der Betreuung junger Forscher.
Persönliches Leben
Samy Bengio wurde als Sohn marokkanischer Juden geboren, die nach Frankreich und Kanada auswanderten. Sein Vater, ein Apotheker, schrieb Theaterstücke und leitete eine Truppe in Montreal, die Stücke in judäo-arabischer Sprache aufführte. Seine Mutter, Célia Moreno, ist Künstlerin, die in den 1970er Jahren in Montrealer Theatern auftrat, einschließlich Produktionen in Judäo-Arabisch. Samy und sein Bruder Yoshua verbrachten einen Teil ihrer Kindheit in Marokko, wo ihr Vater seinen Militärdienst ableistete.
Yoshua Bengio, der jüngere Bruder von Samy, ist ein renommierter Informatiker und Turing-Award-Preisträger, eine Auszeichnung, die oft als Nobelpreis der Informatik bezeichnet wird. Die Brüder haben unterschiedliche Karrierewege eingeschlagen, pflegen aber eine enge Zusammenarbeit.
Vermächtnis und Einfluss
Bengios Arbeit hat einen bleibenden Einfluss auf das maschinelle Lernen gehabt, insbesondere in den Bereichen Deep Learning und adversarialische Robustheit. Seine frühen Arbeiten zur Repräsentationslernung und Bildbeschriftung werden häufig zitiert und haben zahlreiche Folgestudien inspiriert. Seine Beiträge zu Torch halfen, das moderne Deep-Learning-Toolkit zu formen, und seine Führungsrolle bei der Konferenzorganisation hat die Richtung des Feldes beeinflusst.
Seit 2025 ist Bengio weiterhin ein aktiver Forscher und Führungspersönlichkeit, der akademische und industrielle KI-Forschung verbindet. Seine Karriere spiegelt ein Engagement sowohl für grundlegende wissenschaftliche Forschung als auch für praktische Anwendungen des maschinellen Lernens wider.