Yoshua Bengio ist ein französisch-kanadischer Informatiker und einer der drei Forscher, neben Geoffrey Hinton und Yann LeCun, denen gemeinhin die grundlegende Arbeit zugeschrieben wird, die Deep Learning praktikabel gemacht hat. Er ist Professor an der Université de Montréal und Gründer von Mila, einem der weltweit größten akademischen Forschungsinstitute für Deep Learning.
Forschungsbeiträge
Bengio wurde 1964 in Paris geboren und wuchs größtenteils in Kanada auf. Er promovierte an der McGill University, bevor er 1993 der Université de Montréal beitrat. In den 1990er- und 2000er-Jahren, als neuronale Netze gegenüber Methoden wie Support Vector Machines als unmodern galten, arbeitete sein Labor weiterhin an gradientenbasiertem Lernen und trug frühe neuronale Sprachmodelle bei, die die Wort- und Sequenzeinbettungstechniken vorwegnahmen, die in der modernen Verarbeitung natürlicher Sprache verwendet werden. Seine Studenten und Mitarbeiter leisteten bedeutende Beiträge zur Sequenzmodellierung, und seine Gruppe bildete Ian Goodfellow aus, der 2014 als Student in Bengios Labor das Generative Adversarial Network erfand.
Bengio teilte sich 2018 den Turing Award mit Hinton und LeCun „für konzeptionelle und technische Durchbrüche, die tiefe neuronale Netze zu einem kritischen Bestandteil der Informatik gemacht haben". Anders als LeCun ist Bengio im Allgemeinen eher mit Hinton einer Meinung, dass fortgeschrittene KI-Fähigkeiten eine ernsthafte Risikoquelle darstellen, anstatt sie abzutun.
Hinwendung zur KI-Sicherheit
Seit 2023 widmet Bengio einen großen Teil seines öffentlichen Profils der KI-Sicherheit und deren Governance. Er war Unterzeichner des Briefs „Pause Giant AI Experiments" vom März 2023 (der Pause-Brief), der eine vorübergehende Aussetzung des Trainings der leistungsfähigsten Modelle forderte, und er leitete den Internationalen Wissenschaftlichen Bericht zur Sicherheit fortgeschrittener KI, eine Initiative, die aus dem Gipfel der Bletchley-Erklärung vom November 2023 hervorging und von mehreren Regierungen beauftragt wurde, Expertenmeinungen zu Frontier-KI-Risiken zu synthetisieren.
Bengio hat argumentiert, dass dieselben Skalierungstrends, die die schnellen Fähigkeitszuwächse in Systemen auf Basis der Transformer-Architektur antreiben, auch die Plausibilität von Kontrollverlustszenarien erhöhen. Er hat sich für stärkere internationale Koordination, verpflichtende Sicherheitstests und möglicherweise verbindliche Regulierung ausgesprochen, was ihn zu einem der am stärksten politikorientierten Deep-Learning-Pioniere in Fragen des existenzielle KI-Risiken und kurzfristiger Schäden gleichermaßen macht - ein Bereich, der auch im breiteren Feld der Ausrichtung-Forschung untersucht wird. Er hat auch eigene technische Richtungen vorgeschlagen, darunter Arbeiten an „KI-Wissenschaftlern", die als vertrauenswürdige, nicht-agentische Denkwerkzeuge und nicht als autonome Akteure konzipiert sind. Dies spiegelt eine breitere Verschiebung in seiner Forschungsagenda wider, von roher Fähigkeit hin zur sicheren Bereitstellung immer leistungsfähigerer Systeme.