Mitigating noise and instability in Industrial Explainable AI using Density-Aware and Complexity-Adjusted Explanations

Abstract

This thesis addresses the critical challenges of instability and noise sensitivity in Explainable AI (XAI) within high-stakes manufacturing environments. We review the state of the art, identifying a gap in robust local explanations. We introduce two novel contributions: CESHAP, a complexity-aware feature importance method, and AKDE-LIME, a density-aware local surrogate model. Furthermore, we propose NAFIC, a novel metric for assessing robustness against noise. Finally, we provide a comparative analysis of these methods to guide their application in industrial systems.

Η παρούσα διατριβή πραγματεύεται τις κρίσιμες προκλήσεις της αστάθειας και της ευαισθησίας στον θόρυβο στον τομέα της Επεξηγήσιμης Τεχνητής Νοημοσύνης (Explainable AI - XAI), εντός βιομηχανικών περιβαλλόντων παραγωγής υψηλής κρισιμότητας. Αρχικά, ανασκοπούμε τη σύγχρονη βιβλιογραφία (state-of-the-art), εντοπίζοντας ένα ερευνητικό κενό στον τομέα των εύρωστων (robust) τοπικών εξηγήσεων. Στη συνέχεια, εισάγουμε δύο καινοτόμες συνεισφορές: τη CESHAP, μια μέθοδο υπολογισμού σημαντικότητας χαρακτηριστικών με επίγνωση της πολυπλοκότητας (complexity-aware), και την AKDE-LIME, ένα τοπικό μοντέλο-υποκατάστατο με επίγνωση της πυκνότητας (density-aware). Επιπλέον, προτείνουμε τη NAFIC, μια νέα μετρική για την αξιολόγηση της ευρωστίας έναντι του θορύβου. Τέλος, παραθέτουμε μια συγκριτική ανάλυση αυτών των μεθόδων, με στόχο την καθοδήγηση της εφαρμογής τους σε βιομηχανικά συστήματα.