Jonathan Ho ist ein Informatiker und Forscher, der für seine grundlegenden Beiträge zur generativen KI bekannt ist, insbesondere für die Entwicklung von Denoising-Diffusions-Probabilistischen-Modellen (DDPM). Seine 2020 veröffentlichte Arbeit führte eine Klasse von maschinellen Lernmodellen ein, die hochwertige Bilder erzeugen, indem sie iterativ Rauschen entfernen - eine Methode, die seitdem zu einem Eckpfeiler moderner generativer Systeme geworden ist. Ho's Forschung hat sowohl akademische als auch industrielle Anwendungen beeinflusst, einschließlich Text-zu-Bild- und Text-zu-Video-Generierung, und wurde von großen KI-Forschungsorganisationen weitgehend übernommen.
Ho promovierte an der Universität von Toronto, wo er unter der Aufsicht von Anima Anandkumar arbeitete und dem Vector Institute angehörte. Seine Doktorarbeit konzentrierte sich auf tiefe generative Modelle und probabilistische Inferenz und legte den Grundstein für seine späteren Innovationen. Nach Abschluss seiner Promotion im Jahr 2020 trat Ho OpenAI als Forschungswissenschaftler bei, wo er weiterhin diffusionsbasierte Methoden vorantrieb. Später wechselte er 2022 zu Google DeepMind, wo er zu groß angelegten generativen Modellen und deren Anwendungen beitrug.
Denoising-Diffusions-Probabilistische-Modelle
Im Juni 2020 veröffentlichten Ho, zusammen mit Ajay Jain und Pieter Abbeel, das Papier "Denoising Diffusion Probabilistic Models" auf arXiv. Das Papier führte ein neues Paradigma für generative Modellierung ein, das auf früheren Arbeiten von Sohl-Dickstein et al. (2015) und Song & Ermon (2019) aufbaute. Die wichtigste Innovation war ein Trainingsziel, das den Diffusionsprozess vereinfachte, indem es eine gewichtete variationelle Schranke und einen einfachen mittleren quadratischen Fehlerverlust zwischen dem vorhergesagten und dem tatsächlichen Rauschen verwendete. Dieser Ansatz ermöglichte stabiles Training und erzeugte hochwertige Stichproben, wobei er auf Bildgenerierungs-Benchmarks wie CIFAR-10 und CelebA-HQ modernste Ergebnisse erzielte.
Das DDPM-Framework arbeitet in zwei Phasen: einem Vorwärtsprozess, der schrittweise Gaußsches Rauschen zu Daten über eine feste Anzahl von Zeitschritten hinzufügt, und einem Rückwärtsprozess, der das Entrauschen lernt. Das Modell, typischerweise implementiert als U-Net mit Residualnetzwerk-Blöcken und Aufmerksamkeitsmechanismen, sagt das Rauschen bei jedem Schritt voraus. Ho's Arbeit zeigte, dass diese einfache Formulierung Bilder mit einer Wiedergabetreue erzeugen konnte, die mit Generativen Adversarialen Netzen (GANs) vergleichbar ist, während sie eine bessere Trainingsstabilität und Modusabdeckung bot.
Auswirkungen auf generative KI
DDPMs katalysierten eine rasche Expansion der diffusionsbasierten Forschung. Im Jahr 2021 war Ho Mitautor von "Diffusion Models Beat GANs on Image Synthesis", das zeigte, dass Diffusionsmodelle GANs in der Stichprobenqualität übertreffen können, teilweise durch die Integration von Klassifikator-Führung. Diese Arbeit, die in Zusammenarbeit mit OpenAI-Kollegen durchgeführt wurde, etablierte Diffusionsmodelle als führenden Ansatz für hochauflösende Bildgenerierung. Nachfolgende Entwicklungen, wie latente Diffusionsmodelle und textbedingte Diffusion, führten zur Schaffung von Systemen wie Stable Diffusion und DALL-E 2, die in kreativen und kommerziellen Anwendungen weit verbreitet sind.
Ho's Beiträge erstrecken sich auch auf die Videogenerierung. Im Jahr 2022 war er Mitautor von "Video Diffusion Models", das das Diffusionsframework anpasste, um kohärente Videosequenzen zu erzeugen. Diese Arbeit beeinflusste spätere Videogenerierungssysteme, einschließlich derer, die bei Google DeepMind und anderen Laboren entwickelt wurden. Die Skalierbarkeit von Diffusionsmodellen, kombiniert mit Fortschritten in neuronalen Netzwerkarchitekturen und Datenaugmentierung, hat sie zu einer dominierenden Kraft in der generativen KI gemacht, die mit großen Sprachmodellen-basierten Ansätzen für die Erstellung multimodaler Inhalte konkurriert.
Forschungsphilosophie und Kooperationen
Ho's Forschung betont Einfachheit und empirische Effektivität. Sein DDPM-Papier ist bemerkenswert für seine klare, reproduzierbare Methodik, die eine schnelle Übernahme durch die Forschungsgemeinschaft erleichterte. Er hat mit prominenten Forschern zusammengearbeitet, darunter Jakob Uszkoreit und Llion Jones bei Google DeepMind, wo er an Projekten zur Bild- und Videosynthese arbeitete. Sein Ansatz beinhaltet oft die Nutzung etablierter Techniken wie Adam-Optimierer und Lernratenpläne, während er sich auf architektonische Innovationen konzentriert, die praktische Gewinne erzielen.
Bei OpenAI trug Ho zur Entwicklung geführter Diffusionsmodelle bei, die Klassifikator-Führung verwenden, um die Generierung in Richtung gewünschter Attribute zu lenken. Diese Arbeit, die 2021 veröffentlicht wurde, zeigte, wie Diffusionsmodelle auf Klassenlabels oder Textaufforderungen konditioniert werden können, und ebnete den Weg für Text-zu-Bild-Systeme. Seine Einblicke in die Trainingsdynamik von Diffusionsmodellen, einschließlich der Rolle von Rauschplänen und Verlustgewichtung, haben nachfolgende Forschung auf diesem Gebiet informiert.
Anerkennung und Einfluss
Das DDPM-Papier ist zu einem der am häufigsten zitierten Werke im maschinellen Lernen geworden, mit Tausenden von Zitaten innerhalb weniger Jahre. Ho's Arbeit wurde mit Preisen ausgezeichnet, darunter ein Best Paper Award bei NeurIPS 2021 für "Diffusion Models Beat GANs on Image Synthesis". Er wurde eingeladen, auf großen Konferenzen und Workshops zu sprechen, und seine Methoden werden in fortgeschrittenen Kursen über generative Modellierung gelehrt. Der Begriff "Diffusionsmodell" selbst ist im KI-Lexikon Standard geworden, und Ho wird weithin als Schlüsselarchitekt dieses Paradigmas anerkannt.
Spätere Karriere und aktuelle Arbeit
Stand 2024 arbeitet Ho weiterhin bei Google DeepMind, wo er sich auf die Skalierung von Diffusionsmodellen auf neue Domänen konzentriert, einschließlich Audio- und 3D-Generierung. Seine jüngste Forschung untersucht die Schnittstelle von Diffusionsmodellen mit Verstärkungslernen und RL aus KI-Feedback, um die Stichprobenqualität und die Ausrichtung an menschlichen Präferenzen zu verbessern. Er hat auch die Verwendung von Diffusionsmodellen in wissenschaftlichen Anwendungen untersucht, wie der Proteinstrukturvorhersage, in Zusammenarbeit mit Gruppen wie Bhabha-Atomforschung und Samsung-Forschung. Ho's fortlaufende Beiträge stellen sicher, dass Diffusionsmodelle an der Spitze der generativen KI-Forschung bleiben, mit Auswirkungen auf Bereiche von Kunst und Unterhaltung bis hin zu Arzneimittelentdeckung und Robotik.
Trotz der raschen Entwicklung des Feldes untermauert Ho's grundlegende Arbeit an DDPMs weiterhin viele modernste Systeme. Seine Fähigkeit, komplexe Ideen in praktische Algorithmen zu destillieren, hat ihn zu einer zentralen Figur in der Geschichte der künstlichen Intelligenz gemacht, und seine Forschungslaufbahn spiegelt den interdisziplinären Charakter des modernen maschinellen Lernens wider, das Computer Vision, Optimierung und probabilistische Modellierung verbindet.