Modellinterpretierbarkeit

Interpretability is the ability to understand the overall consequences of the model and ensuring the things we predict are accurate knowledge aligned with our initial research goal.

- Jonathan Mak

Einfache Sprache

Bei der Modellinterpretierbarkeit geht dadrum die interne Funktionsweise eines Modells zu erklären. Also die Frage: Wie und warum trifft ein Modell eine Entscheidung? Ziel ist das Benutzer mehr Vertrauen in das Modell gewinnen.

Techniken

Modellagnostisch

Eine modellagnostisch Technik hat die Fähigkeit zwei Modelle miteinander Vergleichen und dabei die interne Struktur der Modelle zu vernachlässigen.

• Local Interpretable Model-Agnostic Explanations
• Shapley Additive exPlanations