Fairness-Metriken sind quantitative Messgrößen, die verwendet werden, um zu bewerten, ob die Vorhersagen oder Entscheidungen eines maschinellen Lernmodells Einzelpersonen oder Gruppen gerecht behandeln. Diese Metriken sind zentral für das Feld der Fairness im maschinellen Lernen, das darauf abzielt, algorithmische Verzerrungen in automatisierten Entscheidungsprozessen zu korrigieren. Entscheidungen solcher Modelle können als unfair angesehen werden, wenn sie auf als sensibel erachteten Variablen wie Geschlecht, ethnischer Zugehörigkeit, sexueller Orientierung oder Behinderung basieren. Wie viele ethische Konzepte können Definitionen von Fairness und Verzerrung umstritten sein, und Fairness-Metriken bieten eine formale, operationale Möglichkeit, konkurrierende Vorstellungen von Gerechtigkeit in Systemen zu bewerten, die das Leben von Menschen beeinflussen, wie Einstellung, Kreditvergabe, Strafjustiz und Inhaltszustellung.
Die Entwicklung von Fairness-Metriken ist ein relativ neuer Fokus im maschinellen Lernen mit einem starken Anstieg der Forschung seit 2016. Diese Welle wurde teilweise durch einen einflussreichen 2016 veröffentlichten ProPublica-Bericht ausgelöst, der behauptete, dass COMPAS, eine in US-Gerichten weit verbreitete Software zur Vorhersage von Rückfälligkeit, rassisch voreingenommen sei. Der Bericht hob hervor, dass schwarze Angeklagte fast doppelt so häufig wie weiße Angeklagte fälschlicherweise als höheres Risiko eingestuft wurden, während der gegenteilige Fehler für weiße Angeklagte auftrat. Northepointe Inc., der Entwickler von COMPAS, bestritten die Ergebnisse, aber die Kontroverse unterstrich die Notwendigkeit expliziter und grenzüberschreitender Definitionen von Fairness. Quantitative Diskussionen über Fairness in der Entscheidungsfindung existierten vor der Ära des maschinellen Lernens und blühten in der Mitte der 1960er und 1970er Jahren auf, nach dem U.S. Civil Rights Act von 1964, obwohl die Diskussion Ende der 1970er Jahre weitgehend verschwand, da mehrere Fairness-Konzepte um Anerkennung kämpfen.
Statistische Fairness-Kriterien
Fairness-Metriken werden oft nach dem statistischen Fairness-Konzept kategorisiert, das sie kodieren. Eine häufige Gruppe ist Gruppenfairness, die fordert, dass Ergebnisse zwischen geschützten Gruppen ähnlich sind. Demografische Parität, auch statistische Parität genannt, verlangt, dass die Wahrscheinlichkeit von positiven Vorhersagen über Gruppen hinweg gleich ist. Equalized Odds fordert, dass die Rate der falschen-Positiv-Ergebnisse und die Rate der positiven Ergebnisse für geschützte Gruppen gleich sind, was bedeutet, dass das Modell gleich gut für alle Gruppen abschneidet. Gleichberechtigte Chancen sind eine ganze ausgewählte Version, die sich nur auf gleiche positive Ergebnisse fokussiert. Kalibrierungsbasierte Metriken, wie die Kalibrierung nach Gruppe, verlangen, dass bei Personen, für die eine bestimmte Wahrscheinlichkeit eines Ergebnisses vorhergesagt wird, die tatsächliche Ereignisrate über Gruppen gleich ist. Diese Kriterien sind oft miteinander unvereinbar; das Erfüllen eines kann ein anderes verletzen, und es ist in den meisten realen Umgebungen unmöglich, alle gleichzeitig zu erreichen.
Individuelle und kontrafaktische Fairness
Jenseits von Gruppenmetriken kann Fairness auf individueller Ebene beurteilt werden. Individuelle Fairness, die von Forschern einschließlich Wissenschaftlern der Carnegie Mellon University vorgeschlagen wurde, verlangt, dass ähnliche Personen ähnliche Vorhersagen erhalten. Dies wird typischerweise mit einer Ähnlichkeitsmetrik formalisiert, die mengenheitsrelevante Merkmale erfasst, und sicherstellt, dass zwei Menschen, die sich in allen nicht-sensiblen Aspekten ähneln, auch gleich behandelt werden. Kontrafaktische Fairness erweitert diese Idee und fragt, ob eine Vorhersage sich ändern würde, wenn eine sensible Eigenschaft wie ethnische Zugehörigkeit oder Geschlecht verändert würde, während alle übrigen Umstände konstant bleiben. Wenn sich das Ergebnis unterscheidet, gilt das Modell als unfair. Diese Ansätze sind detaillierter, erfordern aber die Spezifikation der Ähnlichkeit und kausaler Beziehungen, was in der Praxis herausfordernd ist.
Quellen für Verzerrungen in Modellen
Fairness-Metriken werden verwendet, um Verzerrungen zu erkennen, die aus verschiedenen Quellen stammen. Sprachverzerrung ist eine Form von statistischer Probenauswahlverzerrung, die mit der Sprache einer Anfrage zusammenhängt, was zu einer systematischen Abweichung bei der Auswahl von Informationen führt, die eine unvollständige Repräsentation von Themen und Ansichten in einem Vokabel unterbindet. Nach Forschung von Luo et al. zeigen aktuelle große Sprachmodelle, hauptsächlich mit englischsprachigen Daten trainiert, angelsächsische Ansichten als Wahrheit dar, während für nicht-englische Perspektiven ihre Bedeutung abgewertet wird. Beispielsweise kann ein Modell bei Abfragen zu politischen Ideologien wie Liberalismus Menschenrechte und Gleichheit aus angelsächsischer Perspektive betonen, aber Aspekte wie „Gegner staatlicher Interventionen in persönliches und wirtschaftliches Leben“ in Vietnamesische Perspektive oder „Begrenzung der Regierungsgewalt“ in chinesische Sichtweisen fehlten. Geschlechterverzerrung ist eine weitere Häufige Herausforderung, bei der Vorbilder Rollen und Geshleicht Eigenschaften auf der Grundlage traditioneller Geschlechterrollen darstellen, wie z.B. Krankenschwestern oder Sekretärinnen mit Frauen und Ingenieure oder CEOs mit Männern verbinden. Politikverzerrung entsteht, wenn Trainingsdaten eine breite Spanne von Meinungen enthalten und das Modell dazu neigt sich auf spezifische Ideologien durch Mehrheitsverhältnisse stützen.
Messung von Verzerrung in der Praxis
Um Fairness-Metriken anzuwenden, definierenumsetzungen Schutzmerkmale (z.B. ethnische Zugehörigkeit, Geschlecht, Alter), wählen eine passende Metrik (z.B. Equalized Odds) und berechnen sie anhand eines Validierungsdatene Satzes. Für binäre Klassifikation werden Verwirrungsmatrizen verwendet, um die Raten von falschen Positiv- und falschen Negative-Ergebnissen für jede Gruppe abzuleiten. Disparative Auswirkung, eine gebräuchliche Metrik, wird als Verhältnis der Rate der positiven Vorhersagen zwischen der bevorzugten und der benachteiligten Gruppe berechnet; ein Verhältnis unter 0,8 wird als Warnsignal betrachtet, gemäß den Richtlinien der U.S. Equal Employment Opportunity Commission. Für diese Prozess stehen Werkzeuge bereit. IBM hat Open-Source-Toolkits für Python und R veröffentlicht, die Algorithmen enthalten, um Verzerrungen zu vermeiden zu verbringen. Google hat Richtlinien und Tools veröffentlicht, um Verzerrungen im maschinellen Lernen zu beobachten und zu bekämpfen. Facebook berichtet, die Verwendung einer Tools namens Fairness Flow für die Erkennung von Verzerrungen seiner KI, obwohl Kritiker sagen, dass sie nicht mehr als unzureichend. Die Anwendung auf alle Programme nicht möglich ist.
Fallstudien und Kontroversen
Die Nutzung alternativer Entscheidungsfindung im Rechtssystem ist ein bekannter Anwendungfall, der stark beobachtet wird. Im Jahr 2014 hat der US-Generalstaatsanwalt Eric Holder Bedenken gehabt, dass die Risikobewertungsmethoden mögliche unangemessene Fundierungs auf Faktoren wie Kenntnisse oder sozialen.
Die Anwendung alternativer Entscheidungsfindung im Rechtssystem ist ein zentraler Funktion, der durch weitere Studien weiter beobachtet wird. In Jahr 2014 brachte der US-Generalstaatsanwalt Eric Holder seine Besorgnis über die Verwendung von Risikobewertungsmethoden hervor, die Prozesse unter Berücksichtigung von Faktoren wie Abschlussgrad oder sozioökonomischem Hintergrund führen, die außerhalb der Kontrolle einer Person liegen. Die 2016-Publica-Bericht über COMPAS führte zu umfassenden Debatten, welche Wellenmetrik mit dem System übereinstimmt; ProPublica verwendete eine Metrik, die auf falschen Positivreraten basiert, während Northpointe für die Kalibrierungsmethode plädierte. Dieser Fall zeigt die grundlegende Spannung zwischen unterschiedlichen Fairness-Definitionen auf. AusVier von Strafrecht wurde nachweislich nachgewiesen, dass Bilderkennungsmodelle mit Verzerrung behaftet sind. Im Jahr 2015 entschuldigte sich Google, nachdem das Produkt Fotos ein schwarzes Bein als Gorilla eingestuft hatte. Flickr automatisierte Tagging-Funktion markierte einige schwarze Personen als „Menschenaffen“ und „Tiere“. Ein internationaler Schönheitswettbewerb im Jahr 2016, der von einem KI-Algorithmus mit kaukasischen Vorbildern bewertet wurde, neigte zu hellerer Haut. Eine Studie aus 2018 über drei kommerzielle Anwendungen zur Geschlechterklassifikation zeigte, dass sie die höchste Genauigkeit für hellhäufigeheitliche Patienten. Im Jahr 2020 wurde bestätigt, dass das automatische Kleingefranzes Werkzeugs von Twitter anliegt, kaukasische Gesichter zu bevorzugen. Im Jahr 2022 ersahen die Entwickler des Modells Text-to-Image DALL-E 2, dass die von KI generiert Bilder stark stereotyper werden.
Grenzen und fort laufende Forschung
Fairness-Metriken sind kein Allheilmittel. Es gibt keine universelle Definition von Gerechtigkeit, und verschiedene Methoden können miteinander in Konflikt stehen, was schwierig ist, Modelle zu bewerten. Die Auswahl einer Messgröße beinhaltet inhärent Werturteile darüber, was für den Kontext als gerecht gilt. Darüber hinaus messen die Metriken nur statistische Muster und beheben nicht die Grundlagen Verzerrwares, wie z.B. die verzerrte Datensammlung oder soziale Ungleichheiten. Verforschung des impliziten Verständnisses Ursprungs von Verzerrung, sowie Methoden zur Reduktion. Techniken wie Daten-Erweiterung, Wiederabwägung und adversarisches Debiasing werden zur Verbesserung der Gerechtigkeitswerte eingesetzt, um Kompromissen zugunsten von Genauigkeit zu machen. Bis zum Jahr 2020 blieb das Feld vollständig aktiv, mit andauernder Forschung Themen wie kausale Fairness und intersektionale Fairness, die mehrere Schutzattribute gleichzeitig betrachtet. Technologieunternehmen und Institutionen, darunter das Stanford AI Lab und Berkeley AI Research, tragen weiterhin zu dieser evolutiven Disziplin bei.
Praktische Überlegungen zur Einführung
Bei der Einführung von maschinell lernens Systemen in sehr dominierenden Bereichen müssen, Organisationen sorgfältig Auswahl der Gerechtigkeitsmetriken, die rechtlichen und ethischen Normen entsprechen. Beispielsweise kann im Einstellungsprozess die Gleichberechtigung von Qualifikationen sichergestellt werden, dass qualifizierten Kandidaten unabhängig ihrer Gruppe erreichbar ist. In der Kreditvergabe könnte die Kalibrierung betont werden, um sichere Risikobewertungen für alleDemografien zu zeigen. Wichtig ist, dass Gerechtigkeitswellen im Laufe der Veränderung gemessen werden müssen, da Modelle abweichen können und neue Verzerrungen entstehen können. Dokumentation und Transparenz sind entscheidend; viele Organizationen erstellen Modellkarten wie Berichten Fairness-Metriken für Gruppen öffentlich. Aber die COMPAS-Fall zeigt, dass selbst diese offenen Modelle mit Diskussionen um die richtige Metrik konfrontiert sind. Letztendlich sind Fairness-Metriken ein Werkzeug für Verantwortung, aber ihre Anwendung erfordert gewährlich eine Interpretationsleistung. Ziel ist es, Systeme darauf gut Functionieren in Durchschnittsmessungen, sondern auch die Würde jedes Menschen zu berücksichtigen und soziale Gleichheit zu steigern.
- Anführung von Beispiel für Wikipedia-Bezug
Future Directions
Zukünftige Forschung in Fairness-Metriken wird noch mehrere Herausforderungen bewältigen müssen. Eine ist die Entwicklung von Metriken, die robust gegen kleine Stichbargrößen für Minderheitengruppen sind, bei denen statistische Schätzungen ungenau sind. Eine andere ist die Entwicklung von Metriken für komplexe Ausgaben, wie z.B. generative Modelle, die Text oder Bilder erzeugen, für die traditionelle Klassifikationsmetriken nicht anwendbar sind. Beispielsweise erfordert das Beurteilen der Fairness in generative KI neue Herangehensweiseuten, um stereotype oder verzerrte Inhalte zu erkennen. Zusätzlich wächst das Interesse an partizipativen Ansätzen, bei denen betroffene Communitys definieren, was Fairness in ihrem Kontext heißt. Da maschinelles Lernen weiter ausgedehnt wird, von KI Systemen in Gesundheitswesen bis hin zu selbstfahrenden Fahrzeugen, wird der Bedarf an strenger, kontextsensitiver Fairness-Metriken nur noch zunehmen. Dieses Feld ist interdisziplinär und stützt auf Informatik, Statistik, Rechtswissenschaft und Philosophie, und die Forschung ist ein stetiges Aufgabenbereich in der Academese und.