Filippo Menczer (* 16. Mai 1965) ist ein US-amerikanischer und italienischer Akademiker. Er ist University Distinguished Professor und Luddy Professor für Informatik und Computerwissenschaft an der Luddy School of Informatics, Computing, and Engineering der Indiana University. Menczer leitet das Observatory on Social Media, ein Forschungszentrum, in dem Datenwissenschaftler und Journalisten die Rolle von Medien und Technologie in der Gesellschaft untersuchen und Werkzeuge entwickeln, um Desinformation und Manipulation in sozialen Medien zu analysieren und zu bekämpfen. Er hat zusätzliche Gastprofessuren in Kognitionswissenschaft und Physik inne und war zuvor Direktor des Center for Complex Networks and Systems Research. Er wurde 2020 zum ACM Fellow und 2024 zum AAAS Fellow ernannt.
Menczers Forschung liegt an der Schnittstelle von künstlicher Intelligenz, maschinellem Lernen und computergestützter Sozialwissenschaft. Seine Arbeit hat das Verständnis darüber erweitert, wie sich Informationen über soziale Netzwerke verbreiten, wie soziale Bots und koordinierte Kampagnen die öffentliche Meinung manipulieren und wie KI eingesetzt werden kann, um demokratische Prozesse zu bedrohen. Er hat weit verbreitete Werkzeuge wie Botometer und Hoaxy entwickelt, und seine Erkenntnisse haben sowohl die akademische Forschung als auch die öffentlichen Politikdebatten über Fehlinformationen beeinflusst.
Bildung und frühe Karriere
Menczer erwarb eine Laurea in Physik an der Sapienza-Universität Rom und einen PhD in Informatik und Kognitionswissenschaft an der University of California, San Diego. Er begann seine akademische Karriere als Assistenzprofessor für Managementwissenschaften an der University of Iowa und war Fellow-at-Large am Santa Fe Institute. 2003 trat er der Indiana University Bloomington bei, wo er später von 2009 bis 2011 als Abteilungsleiter an der Luddy School tätig war. Er hat Stipendien des Fulbright-Programms, der Rotary Foundation und der NATO sowie einen CAREER Award der National Science Foundation erhalten.
Führung und Dienst
An der Indiana University hat Menczer mehrere Führungspositionen innegehabt. Er leitet das Observatory on Social Media (OSoMe), das er mitbegründet hat, um die Schnittstelle von Medien, Technologie und Gesellschaft zu untersuchen. Zuvor leitete er das Center for Complex Networks and Systems Research und war Senior Research Fellow am Kinsey Institute sowie Fellow des Center for Computer-Mediated Communication. Er war außerdem Fellow am Institute for Scientific Interchange in Turin, Italien. Menczer hatte redaktionelle Positionen bei Zeitschriften wie Network Science, EPJ Data Science, PeerJ Computer Science und HKS Misinformation Review inne. Er hat Konferenzen wie The Web Conference und die ACM Conference on Hypertext and Social Media geleitet und war General Chair der ACM Web Science 2014 sowie General Co-Chair der NetSci 2017.
Webwissenschaft und Informationsnetzwerke
Menczers frühe Forschung führte das Konzept thematischer und adaptiver Web-Crawler ein, das sind spezialisierte Agenten, die intelligent das Web durchsuchen, um relevante Inhalte zu finden. Er hat auch semantische Ähnlichkeitsmaße für Informations- und soziale Netzwerke untersucht und Modelle komplexer Informationsnetzwerke mit Mitarbeitern wie Alessandro Vespignani entwickelt. Seine Arbeit über Suchmaschinen-Bias und Zensur hat beleuchtet, wie algorithmische Systeme den Zugang zu Informationen verzerren können. Diese grundlegende Forschung legte das Fundament für seine späteren Untersuchungen zur Dynamik sozialer Medien.
Fehlinformationen und Echokammern
Ein zentrales Thema von Menczers Forschung ist die Verbreitung von Fehlinformationen über soziale Medien. Sein Team hat Diffusionsmuster während Ereignissen wie der Occupy-Bewegung, den Gezi-Park-Protesten und politischen Wahlen analysiert. Sie haben auch dazu beigetragen, die Wurzeln der Pizzagate-Verschwörungstheorie und von Desinformationskampagnen gegen die Weißhelme zu identifizieren und halfen, Bots zur Unterdrückung von Wählerstimmen auf Twitter zu entfernen. In einer vielzitierten Studie fanden Menczer und Mitautoren einen Zusammenhang zwischen COVID-19-Fehlinformationen online, Impfzögern und Todesfällen.
Menczers Analyse von Twitter während der US-Wahlen 2010 zeigte die Echokammer-Struktur von Informationsdiffusionsnetzwerken. Das Team fand heraus, dass Konservative fast ausschließlich andere Konservative retweeteten, während Liberale andere Liberale retweeteten. Diese Arbeit erhielt 2021 den Test of Time Award auf der 15. International AAAI Conference on Web and Social Media. Sein Team entwickelte später ein Modell, das zeigt, wie sozialer Einfluss und Entfolgen die Entstehung von Echokammern online beschleunigen, was zur Erklärung anhaltender politischer Polarisierung beiträgt.
Viralität und Aufmerksamkeitsdynamik
Menczer hat das Verständnis von Informationsviralität vorangetrieben, insbesondere wie die Struktur früher Diffusionsnetzwerke vorhersagt, welche Memes viral gehen. Seine Forschung untersucht auch, wie der Wettbewerb um begrenzte Aufmerksamkeit Viralmuster prägt. In einem Paper von 2018 in Nature Human Behaviour zeigten Menczer und Mitautoren mit einem Modell, dass bei hoher Informationslast und geringer Aufmerksamkeit die Korrelation zwischen Qualität und Popularität von Informationen abnimmt. Das Paper deutete zunächst an, dass dieser Effekt allein erklären könnte, warum Fake News auf Facebook so weit verbreitet sind wie legitime Nachrichten, aber eine fehlerhafte Analyse führte dazu, dass die Autoren das Paper zurückzogen. Trotz der Zurückziehung bleibt die zugrunde liegende Forschungsfrage in der Studie über Fehlinformationen einflussreich.
Bot-Erkennung und koordinierte Kampagnen
Menczers Team entwickelte Botometer, ein Werkzeug, das maschinelles Lernen nutzt, um die Wahrscheinlichkeit zu bewerten, dass ein Twitter-Konto ein sozialer Bot ist. Botometer wurde weit verbreitet eingesetzt, um Bot-Prävalenz und -Aktivität zu messen. Zusammen mit Hoaxy, einem Werkzeug, das die Verbreitung von Inhalten mit geringer Glaubwürdigkeit visualisiert, zeigte Botometer die Schlüsselrolle sozialer Bots bei der Verbreitung von Inhalten mit geringer Glaubwürdigkeit während der US-Präsidentschaftswahl 2016. Menczers Team untersuchte auch Wahrnehmungen parteiischer politischer Bots und fand heraus, dass republikanische Nutzer konservative Bots eher mit Menschen verwechseln, während demokratische Nutzer konservative menschliche Nutzer eher mit Bots verwechseln. Mit Bot-Sonden demonstrierten sie eine konservative politische Voreingenommenheit in Twitters Trend-Algorithmen.
Als soziale Medienplattformen ihre Gegenmaßnahmen gegen automatisierte Konten verstärkten, zeigten Menczer und Mitautoren, dass koordinierte Kampagnen durch nicht authentische Konten weiterhin die Informationsintegrität bedrohen. Sie entwickelten einen Rahmen zur Erkennung dieser koordinierten Netzwerke und demonstrierten neue Manipulationstaktiken, wie den Aufbau von Einflussnetzwerken und das Verbergen von Inhalten mit hohem Volumen. Durch Modellierung zeigten sie, dass böswillige Akteure die Verbreitung schädlicher Inhalte am effektivsten kontrollieren können, indem sie eine Zielgemeinschaft mit nicht authentischen Konten infiltrieren.
KI und adversariale Manipulation
Menczer erkannte früh, dass künstliche Intelligenz genutzt werden könnte, um gefälschte, aber glaubwürdige Inhalte in großem Maßstab zu erstellen und schwer erkennbare soziale Bots zu verwalten. Sein Team entdeckte solche KI-gesteuerten Bots auf Twitter und X, was zu Warnungen vor bösartigen Schwärmen von KI-Agenten führte, die die Demokratie bedrohen könnten. Diese Forschungslinie verbindet sich direkt mit Bedenken über generative KI und große Sprachmodelle, die überzeugende Desinformation erzeugen können. Menczer hat zu mehr Aufmerksamkeit für den adversarialen Einsatz von KI in sozialen Medienumgebungen aufgerufen.
Algorithmische Voreingenommenheit und Zuverlässigkeit
Menczers Forschung hat auch untersucht, wie Ranking- und Empfehlungsalgorithmen sozialer Medien die Informationsbelastung prägen. Sein Team zeigte, dass die politische Publikumsvielfalt als Indikator für die Zuverlässigkeit von Nachrichtenquellen dienen kann. Nach einem vielbeachteten Science-Paper, das nahelegte, dass der Facebook-Feed-Algorithmus die Belastung mit Fehlinformationen im Vergleich zu chronologischen Feeds reduziert, schrieb Menczer einen Brief in Science mit, in dem er argumentierte, dass die Erkenntnis unvollständig sei und algorithmische Verstärkung weiterhin Risiken berge. Seine Arbeit betont die Notwendigkeit von Transparenz und Rechenschaftspflicht in algorithmischen Systemen.
Auszeichnungen und Anerkennung
Menczers Beiträge wurden mit zahlreichen Ehrungen gewürdigt. Er wurde 2020 zum ACM Fellow für seine Beiträge zur sozialen Informatik und Fehlinformationsforschung ernannt und 2024 zum AAAS Fellow. Er hat außerdem den Test of Time Award von ICWSM und mehrere Best-Paper-Awards erhalten. Seine Arbeit wurde von der National Science Foundation, der Defense Advanced Research Projects Agency und anderen Agenturen finanziert. Er bleibt eine führende Stimme im Kampf gegen Online-Desinformation.
Ausgewählte Veröffentlichungen
Menczer hat über 200 begutachtete Papers veröffentlicht. Bemerkenswerte Werke umfassen "The rise of social bots" (2016), "The spread of low-credibility content by social bots" (2018) und "The web of false information: Rumors, fake news, and hoaxes" (2020). Sein Paper von 2018 in Nature Human Behaviour über Informationsüberlastung und Popularität, trotz seiner Zurückziehung, löste wichtige Diskussionen über die Grenzen der Modellierung von Fehlinformationen aus. Seine Forschung wurde von großen Medien berichtet und in politischen Debatten zitiert.
Externe Links
Menczers akademisches Profil und seine Werkzeuge sind über die Indiana University und das Observatory on Social Media verfügbar. Seine Google-Scholar-Seite listet seine Veröffentlichungen und Zitationen auf.