Les méthodes d'explicabilité locale fournissent des explications sur la manière dont le modèle aboutit à une décision spécifique. LIME approxime le modèle localement avec un modèle plus simple et plus facile à interpréter. SHAP développe ce modèle et est également conçu pour traiter la multi-colinéarité des caractéristiques d'entrée. LIME et SHAP sont tous deux des explications locales, indépendantes du modèle. D'autre part, CAM est une technique de visualisation discriminante par classe, spécifiquement conçue pour fournir des explications locales dans les réseaux de neurones profonds.

GRAD-CAM est une extension de CAM, qui vise une application plus large de l'architecture dans les réseaux de neurones profonds. Bien qu'il s'agisse de l'une des méthodes les plus populaires pour expliquer les décisions des réseaux neurones profonds, elle viole des propriétés axiomatiques clés, telles que la sensibilité et l'exhaustivité. Les gradients intégrés sont une méthode d'attribution axiomatique qui vise à combler cette lacune.

L'attention dans les réseaux de neurones profonds imite l'attention humaine qui alloue des ressources informatiques à une petite gamme d'entrées sensorielles afin de traiter des informations spécifiques avec une puissance de traitement limitée. Dans cette semaine, nous discutons de la manière d'incorporer l'attention dans les Réseaux de neurones récurrents (RNN) et les autoencodeurs. En outre, nous visualisons les poids de l'attention afin de fournir une forme d'explication inhérente au processus de prise de décision.