Der Shapley-Wert ist ein Lösungskonzept in der kooperativen Spieltheorie, das eine Methode zur fairen Verteilung der Gesamtgewinne oder -kosten unter einer Gruppe von Spielern bereitstellt, die zusammengearbeitet haben. Benannt nach Lloyd Shapley, der ihn 1951 einführte, beantwortet er die Frage, wie viel Anerkennung oder Schuld jedem Teilnehmer zusteht, wenn ein kollektives Ergebnis erzielt wird. Die Methode berechnet den durchschnittlichen Grenzbeitrag jedes Spielers über alle möglichen Koalitionen hinweg und gewährleistet eine Verteilung, die vier grundlegende Eigenschaften erfüllt: Effizienz, Symmetrie, Additivität und die Dummy-Spieler-Eigenschaft. Über ihre Ursprünge in der Ökonomie hinaus ist der Shapley-Wert zu einem Eckpfeiler des interpretierbaren maschinellen Lernens geworden, wo er verwendet wird, um die Vorhersagen komplexer Modelle einzelnen Eingabemerkmalen zuzuordnen.
Die Kernidee besteht darin, zu bewerten, wie sich das Gesamtergebnis verändert, wenn ein Spieler einer jeden möglichen Teilmenge anderer Spieler beitritt, und diese Veränderungen dann über alle Teilmengen und alle möglichen Beitrittsreihenfolgen zu mitteln. Diese Vorgehensweise berücksichtigt Interaktionen zwischen den Spielern und erkennt an, dass ein Beitrag davon abhängen kann, wer sonst bereits in der Koalition Sind. Da es die einzige Verteilungsregel ist, die gleichzeitig die vier axiomatischen Eigenschaften erfüllt, wird sie oft als die einzigartige faire Methode zur Aufteilung kooperativer Gewinne beschrieben.
Definition
In einem Koalitionsspiel kann eine Menge von Spielern \(N\) Koalitionen \(S \subseteq N\) bilden, und eine Wertfunktion \(v(S)\) weist die Gesamtauszahlung zu, die die Mitglieder von \(S\) durch Zusammenarbeit erhalten können. Der Shapley-Wert für Spieler \(i\) ist durch die Formel gegeben:
\[\varphi_i(v) = \sum_{S \subseteq N \setminus \{i\}} \frac{|S|! (n - |S| - 1)!}{n!} (v(S \cup \{i\}) - v(S))\]
wobei \(n\) die Gesamtzahl der Spieler ist. Der Term \(v(S \cup \{i\}) - v(S)\) ist der Grenzbeitrag von Spieler \(i\) zur Koalition \(S\). Das kombinatorische Gewicht \(\frac{|S|! (n - |S| - 1)!}{n!}\) berücksichtigt die Anzahl der Permutationen, in denen die Spieler in \(S\) vor \(i\) gelangen und die übrigen Spieler folgen. Eine äquivalente Formulierung mittelt den Grenzbeitrag über alle \(n!\) möglichen Reihenfolgen der Spieler, wobei \(P_i^R\) die Menge der Spieler bezeichnet, die \(i\) in der Reihenfolge \(R\) vorausgehen:
\[\varphi_i(v) = \frac{1}{n!} \sum_R \left[ v(P_i^R \cup \{i\}) - v(P_i^R) \right]\]
Diese Interpretation stellt die Koalitionsbildung einen Spieler nach dem anderen dar, wobei jeder Spieler seinen Grenzbeitrag als Entschädigung erhält und dann über alle möglichen Entstehungssequenzen gemittelt wird.
Axiomatische Eigenschaften
Der Shapley-Wert ist durch vier Axiome eindeutig charakterisiert, die weithin als faire Verteilung definieren:
- Effizienz: Die Summe aller Shap [ücker.
- Symmetrie: Wenn zwei Spieler \(i\) und \(j\) identisch zu jeder Koalition beitragen (d.h., \(v(S \cup \{i\}) = v(S \cup \{j\})\) für alle \(S\), die weder enthalten), erhalten sie gleiche Anteile.
- Additivität: Für zwei Spiele \(v\) und \(w\) ist der Shapley-Wert des kombinierten Spiels \(v+w\) die Summe der einzelnen Shapley-Werte, \(\varphi_i(v+w) = \varphi_i(v) + \varphi_i(w)\). Diese Eigenschaft unterstützt die Zerlegung komplexer Probleme.
- Dummy-Spieler: Wenn ein Spieler \(i\) keinen Wert zu einer Koalition beiträgt (d.h. \(v(S \cup \{i\}) = v(S)\) für alle \(S\)), ist ihr Shapley-Wert null.
Diese Axiome wurden in Shapleys Artikel von 1951 formalisiert und später in seiner Veröffentlichung von 1953 verfeinert. Sie gewährleisten, dass der Wert nicht willkürlich ist, sondern aus vernünftigen Fairness-Kriterien folgt.
Anwendungen in Wirtschaft und Betrieb
In der kooperativen Spieltheorie wurde der Shapley-Wert verwendet, um Kosten und Vorteile in verschiedenen wirtschaftlichen Kontexten zu Co-armonisieren. Zum Beispiel können Partner in einem Geschäftspartner diese Methode verwenden, um Gewinne basierend auf ihren Grenzbeiträgen zu verschiedenen Projektkombinationen zu verteilen. Er wurde auf die Kostenallokation in Joint Ventures angewendet, z.B. die Kosten für gemeinsame Infrastruktur zwischen mehreren Nutzern zu teilen. Im Supply-Chain-Management hilft er, faire Preise für Komponenten zu bestimmen, wenn Unternehmen kooperieren, um ein Endprodukt zu produzieren. Die Methode wird auch in der Wahlmachtanalyse verwendet, wo es die Einfluss eines jeden Wählers in einem schwerbaren Wahlsystem misst, obwohl der eng verwandte Banzhaf-Macht-Index in diesem Kontext manchmal bevorzugt wird.
Shapley-Werte im maschinellen Lernen
Im Machine learning wird der Shapley-Wert zur Erklärung von Einzelvorhersagen von Modellen angewandt, einem Feld namens Feature-Zuordnung. Die Spieler sind die Eingabemerkmale, und die Wertfunktion \(v(S)\) ist die Vorhersage des Modells, wenn nur die Merkmale in der Teilmenge \(S\) bekannt sind, typischerweise durch Marginalisierung der anderen Merkmale. Der Shap-ley-Wert eines Merkmals misst seinen durch großen Beitrag zu der Vorhersage, berücksichtigt Interaktionen mit allen anderen Merkmalen. Diese Methode ist modellagnostisch, bedeutet, sie kann auf jedesVorhersagemodell angewendet werden, einschließlich Deep learning-Netzwerken, Neural network-Ensembles und Large language model-Systemen.
Eine wichtige praktische Implementierung ist SHAP (SHapley Additive exPlanations), eingeführt von Scott Lundberg und Su-In Lee in 2017. SHAP bietet effiziente Algorithmen zur Annäherung von Shapley-Werten für komplexe Modelle, da exakte Berechnung exponentiell in Merkmalsanzahl ist. Die Methode – fortgeschritten, ein Standardwerk für Modellinterpretierbarkeit zu sein und hilft Data Scientists & Regierungsgremien erklären, warum ein Modell eine bestimmte Entscheidung gebracht hat.
Rechenherausforderungen und Approximationsverfahren
Der exakte Shapley-Wert erfordert Summation über \(2^n\) Teilmengen, was bei Modellen mit vielen Merkmalen rechnerisch unbegegnbar ist. Für ein Modell mit 30 Merkmalen gibt es über eine Milliarden möglicher Koalitionen. Es wurden mehrere Näherungsverfahren entwickelt:
- Monte-C-Samp : Random-Zufallspermutationen oder Subsets samplen und die marginalen Beiträge mitteln. Dies bietet eine erwartungstreue Abschätzung mit kontrollierbarer Varianz.
- SHAP mit TreeSHAP: Für baumartige Modelle wie Random Forests undGradient-Boosting berechnet TreeSHAP exakte Werte in polynomischer Zeit durch die Verwendung der Baumstruktur.
- KernelSHAP: Eine modellagnostische Methode, die gewichtete lineareRegression zur Gleichnäher von Shapley-Werten verwendet, oft für Black-Box-Modelle genutzt.
- Gradient-basierte Verfahren: Für differenzierbare Modelle können Näherungen mit Gradienten berechnet werden, obwohl diese möglicherweise nicht alle Axiome exakt erfüllen.
Diese Näherungen machen Shap-ley-Werte für reale Anwendungen praktikabel, einschließlich Kreditwürdigkeitsbewertung, medizinischer Diagnose und natürlicher Sprache verarbeitung.
Beziehung zu anderen Attributionsmethoden
Der Shapley-Wert wird oft mit anderen Merkmalsattributionsverfahren verglichen. Im Gegensatz zu einfachen Methoden wie Permutationswichtigkeit oder saliency maps basierend auf Gradienten, berücksichtigen Shapley-Werte Merkmalsinteraktionen und erfüllen die Effizienteigenschaft, gewährleisten die Summe der Attributionswerte in Ausgabe übereinstimmt. Jump, : Set he believes these other methods have similar performance and cons. Diese Alternative wie LIME (Local Interpretable Modelagnostische Explanation-agnostische) ist schneller, garantiert jedoch nicht die gleichen axiomatischen Eigenschaften. In der kooperativen Spieltheorie ist der Shap-Wert einer der Koze-Cooperative Einzellen aufgeschlossen, who shares this view with the. Der Shap-Wert ist die einzige unter allen, die gleichzeitig vier Axiome erfüllt.
Erweiterungen und Varianten
Mehrere Erweiterungen des Shapley-Wertes für verschiedene Kontexte vorgeschlagen wurden. Der gewichtetete Shapley-Wert erlaubt unterschiedliche Gewichte für Spieler, reflektiert ungleiche Verhandlungsmacht. Der Shapley-Shubik-Induktions-Macht-Index wendet den Wert auf Wahlsysteme an, misst die Wahrscheinlichkeit, dass ein Spieler entscheidend ist. Im maschinellen Lernen zerlegen Variqrt wie Shappletion-Interaktionsindizes die Gesamtzuschreibung in Haupteffekte und Interaktionseffekte zwischen Merkmakten. Für Zeitreihen-Daten berücksichtigen dynamische Shapley-Werte Zeitliche Abhängigkeiten. Diese Erweiterungen bewahren die Kernidee der faireren mittleren Grenzbeitrittsberechnung, anpassen jedoch an die spezifischen Strukturen an.
Grenzen bei der Kritikpunkte
Trotz theoretischer Attraktdie Bronz, hat der Werte Einschränkungen. Die Annahme der Merkmalsunabhängigkeit der in bestimmten Anwendungen angewendet werden kann, wenn die Merkmale bei stark korrelierten Merkmalen ungenau Attributare. Die exponentielle Rechenlast, selbst mit den Nähenungsverfahren, ist sehr Vielfältige vieler Dimensionen unymanisch. Darüber hinaus ist die Wertefunktion in Vorhersagemodellen nicht immer wohldefiniert, da das Eliminieren von Merkmalen eine Verteilung über den Merkmalsraum erfordert, die möglicherweise unbekannt ist. Kritiker argumentieren, dass die axiomatischen Eigenschaften, obwohl elegant, nicht immer mit den menschlichen Vorstellungen von Fairness in praktischen Szenarien übereinstimmen. Dennoch bleibt der Shapley-Wert ein Fundamentalkonzept in der Spieltheorie und der interpretablen KI, und seine aktive Forschung bezieht diese Herausforderungen an.
Historischer Kontext
Lloyd Shapley stellte den Wert vor 1951 bei der RAND Corporation, und er wurde 1953 formal veröffentlicht. Seine Arbeit baute auf früheren Ideen der kooperativen Spieltheorie, vergrößert auf die, der John von Neumann und Oskar Morgenstern. Shapley erhielt später den Nobel-Gedenkpreis für Wirtschaftswissenschaften view in 2012 gemeinsam mit Alvin Roth für ihre Beiträge zur Spieltheorie. Die Annahme des Shapley-Werts im maschinellen Lernen begann in den 2010er Jahren, getrieben durch den Bedarf an Modellinterpretierbarkeit, als KI-Systeme zunehmend komplex wurden. Heute ist er ein Standardtool in der Toolkit von Data Scientists und ist in wichtigen Bibliotheken wie SHAP und scikit-learn implementiert.