/01Was ist Explainable AI?
Viele leistungsstarke KI-Modelle — insbesondere tiefe neuronale Netze — sind sogenannte Black Boxes: Sie liefern Ergebnisse, ohne dass der Entscheidungsweg intern direkt lesbar wäre. Explainable AI (XAI) umfasst Techniken, die diesen Prozess nachträglich oder von Grund auf erklärbar machen.
Man unterscheidet intrinsisch interpretierbare Modelle (z. B. Entscheidungsbäume, lineare Regression), die von Natur aus transparent sind, von post-hoc-Erklärungsmethoden, die nachträglich auf komplexe Modelle angewendet werden. Bekannte Verfahren sind LIME (Local Interpretable Model-agnostic Explanations) und SHAP (SHapley Additive exPlanations), die den Einfluss einzelner Eingabemerkmale auf eine Entscheidung quantifizieren.
/02Anwendungsfälle und Methoden
XAI wird überall dort eingesetzt, wo Entscheidungen begründbar sein müssen:
- Kreditwürdigkeitsprüfung: Welche Merkmale haben zur Ablehnung geführt?
- Predictive Maintenance: Welche Sensordaten signalisieren einen drohenden Ausfall?
- Medizinische Diagnostik: Welche Bildbereiche hat das Modell zur Klassifikation herangezogen?
- HR-Systeme: Transparenz bei automatisierten Bewerberauswahlprozessen
- Fraud Detection: Nachvollziehbare Begründung für eine Transaktionssperre
Merksatz
SHAP weist jeder Eingabevariable einen Beitragswert zur Modellentscheidung zu — angelehnt an die spieltheoretische Shapley-Verteilung. Das Ergebnis ist eine verständliche Rangliste: Welches Merkmal hat die Entscheidung wie stark beeinflusst?
/03Relevanz für den Mittelstand
Für Unternehmen, die KI in regulierten Bereichen einsetzen oder gegenüber Kunden und Behörden Rechenschaft ablegen müssen, ist XAI kein Nice-to-have. Die DSGVO räumt Betroffenen ein Recht auf Erklärung automatisierter Entscheidungen ein, und der EU AI Act fordert Transparenz für Hochrisiko-Systeme. Darüber hinaus hilft XAI intern: Entwickler und Fachabteilungen können Modellverhalten besser verstehen, Fehler früher erkennen und das Vertrauen in KI-gestützte Prozesse stärken.