Das AI Now Institute (AI Now) ist ein amerikanisches Forschungsinstitut, das die gesellschaftlichen Auswirkungen künstlicher Intelligenz untersucht und politikbezogene Forschung zur Konzentration von Macht in der Technologiebranche betreibt. Es wurde 2017 gegründet, hat seinen Sitz an der New York University und gilt als das erste universitäre Forschungsinstitut, das sich den gesellschaftlichen Auswirkungen von KI widmet, sowie als das erste KI-Institut, das von Frauen gegründet und geleitet wurde. Das Institut hat mit Organisationen wie dem Distributed AI Research Institute (DAIR), Data & Society, dem Ada Lovelace Institute, der New York University Tandon School of Engineering, dem New York University Center for Data Science, der Partnership on AI und der ACLU zusammengearbeitet.
AI Now veröffentlicht jährliche Berichte, die untersuchen, wie KI die Gesellschaft beeinflusst, mit einem Schwerpunkt auf Themen wie Ungleichheit, Arbeit und Ethik. Seine Führungskräfte haben auch beratende Funktionen übernommen, unter anderem als leitende KI-Berater für die Vorsitzende Lina Khan bei der Federal Trade Commission in den Jahren 2021–22. Nach den neuesten verfügbaren Informationen ist die geschäftsführende Direktorin Amba Kak.
Gründung
AI Now entstand aus einem Symposium von 2016, das vom Büro für Wissenschafts- und Technologiepolitik des Weißen Hauses unter der Regierung von Obama organisiert wurde. Die Veranstaltung wurde von Meredith Whittaker, Gründerin der Open Research Group von Google, und Kate Crawford, einer leitenden Forscherin bei Microsoft Research, geleitet. Das Symposium konzentrierte sich auf kurzfristige Auswirkungen von KI in sozialen Bereichen, darunter Ungleichheit, Arbeit, Ethik und Gesundheitswesen.
Im November 2017 veranstaltete AI Now ein zweites Symposium zu KI und sozialen Fragen und startete öffentlich das AI Now Institute in Partnerschaft mit der New York University. Das Institut war zunächst an der NYU angesiedelt, ist aber seitdem eine vollständig unabhängige Organisation geworden. Seine Gründung war bemerkenswert, weil sie von Frauen geleitet wurde, in einem Bereich, in dem Führungspositionen überwiegend von Männern besetzt waren.
Mission
In einem Interview mit NPR erklärte Kate Crawford, dass die Motivation für die Gründung von AI Now die Beobachtung war, dass die Anwendung von KI in sozialen Bereichen - wie Gesundheitswesen, Bildung und Strafjustiz - als rein technisches Problem behandelt wurde. Das Ziel des Instituts ist es, diese als soziale Probleme zuerst neu zu definieren und Fachexperten aus Bereichen wie Soziologie, Recht und Geschichte einzubeziehen, um die Auswirkungen von KI zu untersuchen. Dieser interdisziplinäre Ansatz unterscheidet AI Now von vielen technischen Forschungszentren, die sich hauptsächlich auf die Weiterentwicklung von maschinellem Lernen konzentrieren.
Die Mission des Instituts betont auch die Auseinandersetzung mit der Konzentration von Macht in der Technologiebranche, die es als zentrales Thema der KI-Governance betrachtet. Dieser Fokus hat zu Kooperationen mit zivilgesellschaftlichen Organisationen und Interessenvertretungen sowie zur Zusammenarbeit mit Regulierungsbehörden geführt.
Forschung
AI Now veröffentlicht einen jährlichen Bericht über den Stand der KI und ihre Integration in die Gesellschaft. Sein Bericht von 2017 argumentierte, dass "aktuelle Rahmenwerke der KI-Ethik versagen", und lieferte zehn strategische Empfehlungen für das Feld, darunter Vorabveröffentlichungstests von KI-Systemen und verstärkte Forschung zu Voreingenommenheit und Vielfalt. Der Bericht wurde dafür bekannt, dass er ein Ende von "Black-Box"-Systemen in zentralen sozialen Bereichen forderte, wie solchen, die für Strafjustiz, Gesundheitswesen, Sozialhilfe und Bildung verantwortlich sind.
Im April 2018 veröffentlichte AI Now einen Rahmen für algorithmische Folgenabschätzungen (AIAs), der als Möglichkeit für Regierungen konzipiert war, den Einsatz von KI in öffentlichen Einrichtungen zu bewerten. Laut AI Now wäre eine AIA ähnlich einer Umweltverträglichkeitsprüfung, die öffentliche Offenlegung und Zugang für externe Experten erfordert, um die Auswirkungen eines KI-Systems und unbeabsichtigte Folgen zu bewerten. Dies würde es ermöglichen, Systeme auf Probleme wie voreingenommene Ergebnisse oder verzerrte Trainingsdaten zu überprüfen, die Forscher bereits in algorithmischen Systemen im ganzen Land identifiziert hatten.
Sein Bericht von 2023 argumentierte, dass eine sinnvolle Reform des Technologiesektors sich auf die Bekämpfung konzentrierter Macht in der Technologiebranche konzentrieren müsse. Dieser Bericht setzte den Schwerpunkt des Instituts auf strukturelle Probleme statt rein technischer Lösungen fort und befürwortete politische Änderungen, die Macht von einer kleinen Anzahl großer Konzerne weg umverteilen würden.
Kooperationen und Einfluss
AI Now hat mit einer Reihe von akademischen und Interessenvertretungsorganisationen zusammengearbeitet, darunter das Distributed AI Research Institute (DAIR), Data & Society, das Ada Lovelace Institute und die Partnership on AI. Diese Kooperationen haben seine Reichweite über die Wissenschaft hinaus in Politik und Zivilgesellschaft erweitert. Die Arbeit des Instituts wurde in Diskussionen über KI-Regulierung zitiert, und seine Führungskräfte haben Regierungsstellen fachliche Aussagen und beratende Beiträge geliefert.
In den Jahren 2021–22 dienten die Führungskräfte von AI Now als leitende KI-Berater für die Vorsitzende Lina Khan bei der Federal Trade Commission, was auf seinen Einfluss auf bundespolitische Diskussionen hinweist. Die Forschung des Instituts hat auch Debatten über generative KI und ihre gesellschaftlichen Auswirkungen informiert, obwohl sein Fokus auf den breiteren sozialen und politischen Dimensionen von KI bleibt und nicht auf spezifischen technischen Entwicklungen.