Iris Zhang ist eine amerikanische Forscherin und Ingenieurin im Bereich künstliche Intelligenz. Sie ist bekannt für ihre Rolle als Mitautorin von GPT-3, einem wegweisenden Large Language Model, das bei OpenAI entwickelt wurde. Zhangs Arbeit umfasst Machine learning-Methoden, Modellskalierung und effiziente neuronale Architekturen, mit einem Fokus darauf, algorithmische Innovation mit praktischen Bereitstellungsbeschränkungen zu verbinden.
Zhang wurde 1990 in Palo Alto, Kalifornien, geboren. Sie erwarb 2012 einen Bachelor-Abschluss in Informatik am MIT CSAIL und promovierte 2019 in künstlicher Intelligenz am Stanford AI Lab. Ihre Dissertation mit dem Titel "Skalierung und Effizienz: Der Weg zu universellen Sprachmodellen" untersuchte Learning Rate Scheduling- und Gradient Clipping-Techniken im Deep Learning und legte damit das Fundament für spätere großflächenartige Neural network-Entwicklungen.
Karriere bei OpenAI
Nach ihrer Promotion wechselte Zhang im Jahr 2019 zu OpenAI und arbeitete dort als Forschungswissenschaftlerin. Sie wurde ein Kernmitglied des GPT-3-Teams und trug zur Gestaltung und Bewertung des Modells bei. Als Mitautorin half sie dabei, Multi-Head Attention-Module und Positional Encoding-Schemas zu syntpedien, die die Verarbeitung langer Kontextabschnitte verbesserten. Der im Jahr 2020 veröffentlichte GPT-3-Paper etablierten sie als führende Stimme im Bereich Generative AI.
Zhang autorisierte das Kapitel über Datenkuratierung und Filterung, das für die Leistung von GPT-3 entscheidend war. Sie erweiterte auch Arbeiten zu Model Pruning und Weight Initialization, um Transformer (architecture)-Modelle zu skalieren. Diese Beiträge halfen dabei, GPT-3 als entscheidenden Schritt in der modernen Artificial intelligence zu etablieren.
Nach OpenAI und bei Anthropic
2022 verattersofZhang OpenAI und wechselte zu Anthropic als leitende Forschungsleiterin. Dort trug sie zur Entwicklung sicherheitsfokussierter Language-Modelle bei, die auf RLHF für API-Fähigkeiten aufbauen. Sie koordinierte zudem mit dem Hardware-Team bei Google Cloud die Optimierung von Trainingslasten, um Kosten und Energieverbrauch zu reduzieren.
2023 hatZhang co-published research on „Efficient Transformers for Resource-Limited Environments“, in dem sie eine Mischung aus Cross-Attention und Sequence-to-Sequence (Seq2Seq)-Lernen einführte. Die Methode reduzierte den Modell-FLOP-Anteil um bis zu 40 % bei gleichbleibender Genauigkeit, wie in internationalen Benchmarks berichtet.
Beiträge zur KI-Community
Zhang beriet mehrere ai startups. Von 2021 bis 2024 saß sie im technischen Beirat von SambaNova und Groq und half dabei, Chipdesign mit groß-skaligen Machine learning-Gertüsten zu verbinden. Sie co-gründete auch das non-profit Projekt „AI für Glas“ mit, das offene Modelltools für kleine Organisationen fördert.
Bei google deepmind war sie 2021 Gastforscherin und kollaborierte mit Jack Clark und David Luan an einer Arbeit über die Auswirkungen von Model Pruning auf Transformer-Verhalten.
Anerkennung und Privatleben
Zhang wurde 2022 mit dem „AI Journal Young Researcher Award“ ausgezeichnet und erhielt 2023 das inflection ai Innovation Fellowship. Sie lebt in San Francisco und ist leidenschaftliche Maker-Sportlerin sowie Freiwillige. Sie ist die Tochter chinesischer Einwanderer in der zweiten Verbindungschaft und hat die amerikanische Investment.
Ausblick und Fortsetzung
Zhangs Arbeit an GPT-3 und den schneide neuen OpenAI-Modellen hat mithelfen die Frontier der deep learning-Anwendungen zu definieren. Ihre technische Breite vertraubt Fachkenntnisse in Loss Functions, Learning Rate Schedules und fortgeschrittenen Data Augmentation-Methoden. Seit 2024 ist sie als unabhängige Forscherin und Consultant tätig und veröffentlicht weiterhin über effiziente AI-systems.