Analytics-Glossar
SHAP (SHapley Additive exPlanations) ist eine Methode der erklärbaren KI, die die Vorhersage eines Machine-Learning-Modells auf seine Eingabemerkmale zurückführt – und damit zeigt, welche Faktoren das Ergebnis wie stark nach oben oder unten bewegt haben. Die Methode basiert auf Shapley-Werten aus der kooperativen Spieltheorie und wurde 2017 von Lundberg und Lee auf der NeurIPS formalisiert.
SHAP betrachtet jede Vorhersage als Spiel: Die Eingabemerkmale sind die Spieler, die Vorhersage ist die Auszahlung – und jedes Merkmal bekommt seinen fairen Anteil am Ergebnis gutgeschrieben.
SHAP übernimmt den Shapley-Wert aus der kooperativen Spieltheorie – die einzige Aufteilung einer Auszahlung, die Fairness-Axiome wie Konsistenz und lokale Genauigkeit erfüllt. Der SHAP-Wert eines Merkmals ist sein fairer Beitrag zur Vorhersage.
SHAP-Werte addieren sich: Die Basisvorhersage des Modells plus die SHAP-Werte aller Merkmale ergibt exakt die tatsächliche Vorhersage. Jede Erklärung ist damit nachprüfbar – nichts verschwindet in einem Blackbox-Rest.
Eine einzelne Vorhersage lässt sich für sich erklären (warum wurde genau dieser Auftrag markiert?), und Tausende SHAP-Erklärungen lassen sich aggregieren, um die wichtigsten Treiber im gesamten Unternehmen sichtbar zu machen.
Ein illustrativer SHAP-Wasserfall für eine Margenveränderung.
Der Erwartungswert des Modells (Basis) plus der vorzeichenbehaftete Beitrag jedes Treibers ergibt exakt die Endzahl — nach oben weisende Balken erhöhen die Kennzahl, nach unten weisende verringern sie. Genau diese additive Eigenschaft macht die SHAP-Attribution prüfbar: Jeder Punkt der Veränderung wird einem benannten Treiber zugeordnet, nichts bleibt in einer Blackbox.
Eine Vorhersage, die man nicht erklären kann, ist eine Empfehlung, die man nicht verteidigen kann. SHAP macht aus undurchsichtigen Modellausgaben quantifizierte, priorisierte Treiber, die Entscheider hinterfragen, prüfen und umsetzen können.
Im Explain-Schritt der Adaptrix-Analytikkette (Connect → See → Explain → Predict → Act) werden SHAP-artige Merkmalszuordnungen in klar verständliche Treiber-Zusammenfassungen übersetzt – eine KPI-Veränderung kommt so mit dem Warum statt nur mit einem Chart. Und da Adaptrix vollständig selbst gehostet laufen kann, werden diese Erklärungen berechnet, ohne dass Ihre Daten Ihre Infrastruktur verlassen.
Bauen Sie Ihr Analytics-Vokabular weiter aus.
Beide erklären einzelne Vorhersagen, aber SHAP basiert auf Shapley-Werten und garantiert Eigenschaften wie lokale Genauigkeit und Konsistenz; LIME passt ein lokales Ersatzmodell ohne diese Garantien an. Das SHAP-Paper von 2017 zeigt LIME sogar als eine von sechs Methoden, die das SHAP-Framework vereinheitlicht.
Nein. SHAP erklärt, was das Modell verwendet hat – nicht, was das Ergebnis in der realen Welt verursacht. Hat das Modell eine Scheinkorrelation gelernt, gibt SHAP genau diese wieder. Für Entscheidungen, die von Ursache und Wirkung abhängen, sollte SHAP mit Kausalanalyse kombiniert werden.
Nicht zwingend. Open-Source-Bibliotheken machen SHAP für Praktiker zugänglich, und Analytics-Plattformen betten SHAP-artige Zuordnungen zunehmend direkt in Dashboards ein und übersetzen sie in verständliche Treiber-Zusammenfassungen für Fachanwender.
Exakte Shapley-Werte sind exponentiell aufwendig zu berechnen, aber praxistaugliche Näherungen – etwa TreeSHAP für Gradient-Boosted Trees und stichprobenbasierte Schätzer für andere Modelle – machen SHAP für produktive Analytik auf realistischen Datenmengen schnell genug.
Quellen und weiterführende Literatur:
Bringen Sie eine echte Frage aus Ihrem Unternehmen mit und sehen Sie die Antwort live – mit Begründung, Quellen und Rechenweg – oder rechnen Sie zuerst aus, was es Ihnen spart.