Erklärbarkeit mit Dataiku

Erklärbarkeit von Prognosemodellen

Dataiku umfasst wichtige Funktionen für Explainable AI, zum Beispiel Berichte zur Bedeutung der Merkmale, Diagramme zu partiellen Abhängigkeiten, Analysen der Teilgesamtheit und Erläuterungen zu einzelnen Prognosen.

Mithilfe dieser Techniken lässt sich erklären, wie ein Modell Entscheidungen trifft. So können data scientists und Stakeholder erkennen, welche Faktoren die Modellprognosen beeinflussen.

Analysen zur mittelbaren Diskriminierung und Teilgesamtheit

Modelle, die mit ungenauen Daten gefüllt werden, liefern auch ungenaue Prognosen.

Bei den Analysen zur mittelbaren Diskriminierung wird in Dataiku ermittelt, ob eine anfälligere Gruppe ebenso häufig ein positives Ergebnis erzielt wie eine besser gestellte Gruppe. Dataiku umfasst auch Analysen der Teilgesamtheit, mit denen Ergebnisse nach Gruppe aufgeschlüsselt werden. Beide Analysen helfen dabei, zu erkennen, ob im Modell bestimmte Gruppen unfair oder anders behandelt werden.

Dank dieser Informationen können data scientists Modelle entwickeln, die zuverlässigere und gerechtere Ergebnisse liefern.

What-if-Analysen

Mit den What-if-Analysen von Dataiku können data scientists und Analysten verschiedene Szenarien testen und die Ergebnisse für andere Nutzer veröffentlichen.

Durch diese Analysen wird das Vertrauen in die Prognosemodelle verstärkt, da die Beteiligten die generierten Ergebnisse in gängigen und neuen Szenarien betrachten können.

Einzelne Erläuterungen zu Prognosen und Scoring-Faktoren

In Dataiku können Sie einen Bericht mit den einzelnen Erläuterungen zu Prognosen abrufen, um sich die Daten und Ergebnisse für individuelle Zeilen genauer anzusehen.

Sowohl bei der Batch- als auch bei der Echtzeitbewertung können Erläuterungen zu Prognosen zurückgegeben werden. Damit werden auch die Vorgaben bezüglich Scoring-Faktoren für regulierte Branchen erfüllt und es stehen zusätzliche Informationen für die Analyse zur Verfügung.

Automatische Modelldokumentation

Der Dataiku Model Document Generator erstellt automatisch die erforderliche Modelldokumentation auf der Grundlage einer standardisierten Vorlage.

Mit einer standardisierten und automatisierten Dokumentation erhalten Unternehmen konsistente Aufzeichnungen über KI-Projekte, um die Einhaltung gesetzlicher Vorschriften zu gewährleisten, und data scientists können sich wieder ihrer Arbeit widmen, um mehr Projekte zu entwickeln und mehr Wert zu schaffen.