Lokale Erklärungsmethoden liefern Erklärungen dafür, wie das Modell zu einer bestimmten Entscheidung gelangt. LIME approximiert das Modell lokal mit einem einfacheren, interpretierbaren Modell. SHAP baut darauf auf und ist auch auf die Multikollinearität der eingegebenen Merkmale ausgerichtet. Sowohl LIME als auch SHAP sind lokale, modell-agnostische Erklärungen. CAM hingegen ist eine klassendiskriminierende Visualisierungstechnik, die speziell für lokale Erklärungen in tiefen neuronalen Netzwerken entwickelt wurde.

GRAD-CAM ist eine Erweiterung von CAM, die auf eine breitere Anwendung der Architektur in tiefen neuronalen Netzen abzielt. Obwohl es eine der beliebtesten Methoden zur Erklärung von Entscheidungen in tiefen neuronalen Netzen ist, verstößt es gegen wichtige axiomatische Eigenschaften wie Sensitivität und Vollständigkeit. Integrierte Gradienten sind eine axiomatische Methode zur Attribution, die diese Lücke schließen soll.

Aufmerksamkeit in tiefen neuronalen Netzwerken ahmt die menschliche Aufmerksamkeit nach, die Rechenressourcen einem kleinen Bereich von sensorischen Eingaben zuweist, um spezifische Informationen mit begrenzter Verarbeitungsleistung zu verarbeiten. In dieser Woche erörtern wir, wie man Aufmerksamkeit in rekurrente neuronale Netze und Autoencoder einbezieht. Außerdem visualisieren wir Aufmerksamkeitsgewichte, um eine Art inhärente Erklärung für den Entscheidungsfindungsprozess zu liefern.