Hannaneh Hajishirzi ist Professorin an der Paul G. Allen School of Computer Science & Engineering der University of Washington und Senior Director of Research am Allen Institute for Artificial Intelligence (AI2). Ihre Forschung konzentriert sich auf natürliche Sprachverarbeitung, große Sprachmodelle und maschinelles Schlussfolgern, mit Beiträgen zu Fragebeantwortung, semantischem Parsing und effizienten Modellarchitekturen.
Hajishirzi promovierte 2010 in Informatik an der University of Illinois at Urbana-Champaign, wo sie an Algorithmen für graphentheoretische Probleme und Sprachverständnis arbeitete. Anschließend absolvierte sie Postdoktorandenforschung an der University of Washington, bevor sie 2014 dort in die Fakultät eintrat. Bei AI2 leitet sie das Mosaic-Team, das Open-Source-Sprachmodelle und Werkzeuge für wissenschaftliches Schlussfolgern entwickelt.
Frühe Karriere und Ausbildung
Hajishirzi erhielt 2003 ihren Bachelor-Abschluss in Computertechnik von der Sharif University of Technology in Teheran, Iran. Sie zog für ihr Graduiertenstudium in die Vereinigten Staaten und erwarb 2006 einen Master-Abschluss an der University of Illinois sowie 2010 einen Doktortitel. Ihre Doktorarbeit befasste sich mit kombinatorischer Optimierung in der natürlichen Sprachverarbeitung, wobei sie neuronale Netzwerk-Methoden auf semantische Rollenmarkierung und Koreferenzauflösung anwendete.
Nach ihrer Promotion trat sie als Postdoktorandin der University of Washington bei und arbeitete mit Forschern an maschinellen Lern-Ansätzen für Textverständnis zusammen. 2014 wurde sie Assistenzprofessorin, erhielt später 2020 eine Festanstellung und Beförderung zur außerordentlichen Professorin und 2024 zur ordentlichen Professorin.
Forschungsbeiträge
Hajishirzis Arbeit umfasst mehrere Bereiche der NLP. Sie war Mitentwicklerin der auf dem Transformer basierenden Architektur namens Longformer, die Aufmerksamkeitsmechanismen erweitert, um lange Dokumente effizient zu verarbeiten. Dieses Modell, eingeführt 2020, ermöglicht die Verarbeitung von Texten mit bis zu Tausenden von Token und behebt eine zentrale Einschränkung standardmäßiger Transformatoren.
Sie trug auch zur Entwicklung des UnifiedQA-Modells bei, eines Fragebeantwortungssystems, das auf mehreren Datensätzen trainiert wurde, um über Formate hinweg zu generalisieren. Ihr Team bei AI2 erstellte die Tulu-Serie offener großer Sprachmodelle, die für Instruktionsabstimmung und Denkaufgaben entwickelt wurden. Diese Modelle wurden in akademischer Forschung und industriellen Anwendungen weit verbreitet eingesetzt.
Hajishirzi hat über 100 Arbeiten in führenden Konferenzen wie ACL, EMNLP und NeurIPS veröffentlicht. Ihre Forschung zu semantischem Parsing und Wissensgraph-Schlussfolgern hat beeinflusst, wie KI-Systeme strukturiertes Wissen darstellen und abfragen.
Auszeichnungen und Anerkennung
2021 erhielt Hajishirzi einen CAREER Award der National Science Foundation für ihre Arbeit an robusten und interpretierbaren NLP-Systemen. 2023 wurde sie zum Fellow der Association for Computational Linguistics ernannt, in Anerkennung ihrer Beiträge zum Feld. Ihre Arbeit über Longformer gewann den Best Paper Award beim Workshop on Representation Learning for NLP 2020.
Sie wurde auch für ihre Mentoring-Arbeit anerkannt und erhielt 2019 den Distinguished Teaching Award der University of Washington. Ihre Studierenden haben Positionen in großen Technologieunternehmen und Forschungslabors übernommen.
Aktuelle Arbeit und Einfluss
Bei AI2 leitet Hajishirzi die Mosaic-Initiative, die sich auf den Aufbau effizienter und transparenter Sprachmodelle konzentriert. Das Team veröffentlichte 2024 die OLMo-Serie (Open Language Model), die vollständig quelloffene Modelle mit Trainingsdaten und Code bereitstellt. Diese Bemühung zielt darauf ab, den Zugang zu großer Sprachmodelltechnologie zu demokratisieren, im Gegensatz zu proprietären Systemen von Unternehmen wie OpenAI und Google DeepMind.
Hajishirzis Forschung befasst sich auch mit KI-Sicherheit und -Bewertung. Sie hat Benchmarks zur Messung von Denkfähigkeiten und faktischer Genauigkeit in Modellen entwickelt und trägt so zum breiteren Verständnis der Grenzen von generativer KI bei. Ihre Arbeit an retrieval-gestützter Generierung hat verbessert, wie Modelle externes Wissen einbeziehen.
Sie ist in den Redaktionsausschüssen wichtiger NLP-Zeitschriften tätig und hat mehrere Workshops zu effizienter NLP organisiert. Ihre Kooperationen erstrecken sich über Wissenschaft und Industrie, einschließlich Partnerschaften mit Amazon Web Services und Intel zur hardwarebewussten Modellgestaltung.
Ausgewählte Veröffentlichungen
- Beltagy, I., Peters, M. E., & Hajishirzi, H. (2020). Longformer: The Long-Document Transformer. arXiv preprint.
- Khashabi, D., et al. (2020). UnifiedQA: Crossing Format Boundaries With a Single QA System. Findings of EMNLP.
- Groeneveld, D., et al. (2024). OLMo: Accelerating the Science of Language Models. arXiv preprint.
Ihre Zitationszahl übersteigt 20.000, was den breiten Einfluss ihrer Arbeit auf moderne NLP-Forschung und -Anwendungen widerspiegelt.