Articolo di revisione

IA spiegabile per l'ispezione visiva: un'analisi e una revisione comparative

DOI:

10.3791/69440

⸱

10 ottobre 2025

 , 
1Al-Khwarizmi College of Engineering, Automated Manufacturing Department, University of Baghdad

In questo articolo

Sommario

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Questa revisione sintetizza i metodi di intelligenza artificiale spiegabile (XAI) per l'ispezione visiva in ambito industriale e medico. Una ricerca guidata da PRISMA ha identificato 75 studi, fornendo informazioni su una tassonomia specifica del dominio e un'analisi comparativa utilizzando metriche standardizzate. Contribuiamo con una tassonomia supportata da prove e un flusso di lavoro orientato al professionista per la selezione degli strumenti.

Abstract

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Le tecniche di Intelligenza Artificiale Spiegabile (XAI) consentono la trasparenza e la fiducia nei sistemi di ispezione visiva automatizzata rendendo comprensibili i modelli di apprendimento automatico black-box. Sebbene l'XAI sia stato ampiamente applicato, le revisioni precedenti non hanno affrontato le esigenze specifiche delle attività di ispezione industriale e medica. Questo articolo esamina gli studi che applicano le tecniche XAI all'ispezione visiva in ambito industriale e medico. È stata condotta una ricerca sistematica su IEEE Xplore, Scopus, PubMed, arXiv e Web of Science per gli studi pubblicati tra il 2014 e il 2025, con criteri di inclusione che richiedono l'applicazione di XAI in attività di ispezione utilizzando set di dati pubblici o specifici del dominio. Da un pool iniziale di studi, 75 sono stati inclusi e classificati in post-hoc e intrinseci, che sono stati poi valutati in base alla fedeltà, alla robustezza, alla complessità e all'accuratezza della localizzazione. I risultati mostrano che i metodi basati sul gradiente e sulla propagazione offrono spiegazioni visive efficienti adatte per l'ispezione quasi in tempo reale, anche se con localizzazione grossolana, mentre i metodi basati su perturbazioni e modelli surrogati forniscono attribuzioni più dettagliate a costi computazionali più elevati ma con una robustezza ridotta. Inoltre, le reti basate su prototipi e le architetture di auto-attenzione illustrano i compromessi tra interpretabilità e prestazioni predittive. La scelta del metodo XAI più efficace non è uguale per tutti; Dipende dal set di dati, dalla latenza e dalle esigenze di interpretabilità. Questa revisione introduce una tassonomia unificata dei metodi XAI per l'ispezione visiva, confronta diversi approcci sia in ambito industriale che medico utilizzando metriche standardizzate e propone un flusso di lavoro di selezione basato su attività per guidare i professionisti nella scelta del metodo ottimale. Rispetto alle revisioni precedenti, questo lavoro offre un'analisi comparativa intersettoriale basata su benchmark quantitativi e delinea le direzioni per una valutazione standardizzata e una convalida centrata sull'utente.

Introduzione

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

È essenziale per settori come quello manifatturiero, automobilistico, dell'imballaggio alimentare, farmaceutico e sanitario verificare che i prodotti e i sistemi funzionino in modo adeguato e sicuro. Gli strumenti di automazione e apprendimento automatico, che vanno oltre la tradizionale ispezione visiva eseguita da operatori umani o rudimentali sistemi basati su telecamere, migliorano l'accuratezza, la velocità di produzione e l'uniformità1. L'ispezione AI consente il monitoraggio in tempo reale2 e il rilevamento dei difetti in ambienti ad alta produttività3, riducendo l'errore umano e i costi operativi4. L'uso dell'intelligenza artificiale, in particolare con i progressi nell'apprendimento automatico (ML) e nell'apprendimento profondo (DL), ha consentito sistemi autonomi che rilevano i difetti5, classificano gli oggetti e identificano modelli visivi complessi6. Recentemente, le reti neurali convoluzionali (CNN)7, le reti ricorrenti e i trasformatori di visione (ViT) hanno superato i sistemi basati su regole in attività che vanno dal rilevamento dei difetti superficiali alla localizzazione delle anomalie nell'imaging medico. L'ispezione è passata da processi basati su regole a modelli basati sui dati addestrati su set di dati di grandi dimensioni8.

Molti modelli di intelligenza artificiale funzionano come "scatole nere", il che significa che non ci sono informazioni su come questi modelli prendono decisioni. Questa mancanza di trasparenza presenta dei rischi. Ad esempio, nel settore manifatturiero, previsioni errate possono portare a un aumento degli sprechi, delle rilavorazioni, dei richiami di prodotti e dell'insoddisfazione dei clienti. Nell'imaging medico, le classificazioni errate sono più critiche in quanto possono ritardare le diagnosi o compromettere i piani di trattamento. Anche gli sviluppatori di questi modelli spesso non sono in grado di spiegare completamente i loro risultati, il che limita la fiducia e l'adozione.

È qui che l'Explainable AI (XAI) diventa essenziale. XAI è un gruppo di metodi e strumenti che mirano a rendere le decisioni del modello di apprendimento automatico interpretabili dagli esseri umani9. Il suo obiettivo è trasformare i predittori black-box in sistemi trasparenti "glass-box" fornendo giustificazioni leggibili dall'uomo per i loro output. In pratica, un sistema di ispezione abilitato per XAI andrebbe oltre il rilevamento dei difetti, non limitandosi a contrassegnare una parte come difettosa, ma anche spiegando perché è stata segnalata.

Nonostante la crescente letteratura, le indagini esistenti sulla XAI nella visione artificiale rimangono di portata limitata. Molti si concentrano strettamente sull'imaging medico o sull'ispezione industriale, offrendo tassonomie utili ma basandosi principalmente su confronti qualitativi senza parametri di riferimento standardizzati. Revisioni più ampie, come Nauta et al.10, forniscono panoramiche indipendenti dal dominio, ma si fermano prima di offrire quadri di selezione orientati ai professionisti. Anche l'indagine sulla visione artificiale più completa fino ad oggi di Cheng et al.11 avanza la tassonomia e discute metriche come la fedeltà e l'accuratezza della localizzazione, ma rimane generale in tutte le attività di visione e non affronta specificamente l'ispezione visiva, l'implementazione ad alto rendimento o la convalida human-in-the-loop. Allo stesso modo, le revisioni industriali di XAI per la prognostica e la gestione delle risorse adottano un framework PRISMA, ma si concentrano sulla prognostica e sulla gestione della salute (PHM) piuttosto che sulle attività di ispezione visiva.

Per colmare queste lacune, la presente revisione contribuisce quanto segue:

Tassonomia sistematica: Una revisione guidata da PRISMA di 75 studi sull'ispezione visiva industriale e medica.

Analisi comparativa: Benchmarking di più metodi XAI (GradCAM, LRP, SHAP, LIME e RISE) su set di dati di ispezione visiva pubblica (ad es. MVTec AD, PCB) con metriche standardizzate tra cui AUC di cancellazione/inserimento, precisione del gioco di puntamento, stabilità e latenza.

Quadro delle metriche di valutazione: Definizioni formali ed equazioni per la fedeltà, la robustezza, l'interpretabilità e le misure specifiche del compito utilizzate nella valutazione dei metodi XAI.

Guida pratica: Casi di studio e un flusso di lavoro di selezione orientato al professionista che collega il tipo di attività, la latenza e le esigenze di spiegazione a metodi specifici.

Insieme, questi contributi stabiliscono la sintesi più specifica e basata su benchmark di XAI per l'ispezione visiva, rivolta sia ai ricercatori che ai professionisti che cercano una guida affidabile.

Accesso limitato. Accedi o avvia una prova gratuita per visualizzare questo contenuto.

Revisione e prospettiva

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

2. Quadro XAI

La maggior parte dei modelli di intelligenza artificiale all'avanguardia, in particolare le reti neurali profonde, sono spesso trattati come scatole nere; C'è poca visibilità su come prendono le decisioni12. Questa mancanza di trasparenza è un ostacolo alla fiducia e alla spiegabilità nelle diverse applicazioni. Di conseguenza, XAI è diventato una parte indispensabile di un'intelligenza artificiale affidabile. Non esiste un singolo approccio adatto a tutti gli scenari: alcuni metodi presuppongono l'accesso completo agli interni del modello, mentre altri trattano il modello come una scatola nera immutabile; Alcuni danno priorità alle spiegazioni locali per le singole previsioni, mentre altri forniscono informazioni globali sul comportamento di un modello. Come illustrato nella Figura 1, queste considerazioni hanno portato a due grandi categorie di tecniche XAI basate su quando viene introdotta la spiegabilità: metodi di spiegazione post-hoc e metodi di interpretabilità intrinseca13. I metodi post hoc sono ulteriormente classificati in indipendenti dal modello e specifici del modello14.

figure-protocol-1
Figura 1: Framework XAI per l'ispezione visiva. Fare clic qui per visualizzare una versione più grande di questa figura.

  1. Post-hoc explanation methods
    I metodi post-hoc generano spiegazioni dopo che un modello è stato addestrato, senza alterarne l'architettura o i parametri15. Questi approcci sono popolari perché consentono ai professionisti di sfruttare i modelli ad alte prestazioni e quindi di spiegare retrospettivamente i loro risultati16. Tuttavia, poiché il modello sottostante rimane invariato, le spiegazioni post-hoc devono approssimare o dedurre il ragionamento del modello, il che può introdurre errori di approssimazione e instabilità17. Nelle sezioni seguenti vengono illustrati sia i metodi specifici del modello che quelli agnostici.
    1. Specifico del modello
      Questi metodi sfruttano la conoscenza della struttura o del meccanismo di addestramento di un modello per fornire spiegazioni su misura per quel modello. Un primo esempio è l'attribuzione basata sul gradiente per le reti neurali profonde. Metodi come GradCAM (Gradient-weighted Class Activation Mapping) utilizzano i gradienti interni delle CNN addestrate per produrre "mappe di calore" visive che evidenziano le regioni di un'immagine di input più importanti per una data previsione17. GradCAM calcola il gradiente del punteggio della classe target rispetto alle mappe delle caratteristiche nel livello convoluzionale finale e proietta questi gradienti sull'immagine, producendo una mappa di localizzazione discriminante di classe. Altri metodi di propagazione del gradiente si generalizzano a diverse architetture di rete. Integrated Gradients (IG)18 accumula gradienti lungo il percorso da un input di base (ad esempio, un'immagine vuota) all'input effettivo e soddisfa gli assiomi desiderabili per l'attribuzione delle caratteristiche. Allo stesso modo, DeepLIFT19 propaga le differenze da un'attivazione di riferimento attraverso ogni livello per stimare il contributo di ciascuna funzione di input. La propagazione della pertinenza a livello (LRP) propaga all'indietro un punteggio di previsione livello per strato, distribuendo la "pertinenza" a ciascun pixel di input o caratteristica20. In sintesi, i metodi specifici del modello sfruttano i gradienti interni, le attivazioni o l'attenzione per produrre spiegazioni strettamente accoppiate alla struttura del modello.
    2. Indipendente dal modello
      Al contrario, i metodi indipendenti dal modello trattano il modello come una scatola nera su cui è possibile eseguire query per ottenere output. Queste tecniche fanno ipotesi minime, in genere richiedono solo che si possa ottenere la previsione del modello per gli input perturbati. Gli esempi includono LIME (Local Interpretable Model-Agnostic Explanations), che utilizza un modello semplice e interpretabile (come un modello lineare sparso o un albero decisionale) per imitare il comportamento del modello complesso in prossimità di un dato input21. Per una previsione specifica, LIME genera molte versioni perturbate dell'input, ottiene le previsioni del modello black-box per ciascuna e quindi apprende una regressione lineare ponderata che approssima quelle relazioni input-output locali22. I coefficienti di questo modello lineare surrogato servono come spiegazione, indicando quali caratteristiche guidano più fortemente la previsione23. L'attrattiva di LIME risiede nella sua flessibilità (utilizzabile con qualsiasi classificatore) e nel suo output intuitivo (ad esempio, un piccolo insieme di funzioni ponderate). SHapley Additive exPlanations (SHAP) è un altro popolare metodo indipendente dal modello basato sulla teoria dei giochi24. SHAP spiega una previsione individuale calcolando le attribuzioni delle caratteristiche che approssimano i valori di Shapley dalla teoria dei giochi cooperativi, garantendo proprietà come l'additività e la coerenza25. Oltre all'attribuzione delle caratteristiche, gli approcci indipendenti dal modello includono anche metodi di perturbazione visiva per i modelli di immagini. RISE (Randomized Input Sampling for Explanation) genera mappe di importanza mascherando in modo casuale parti dell'immagine di input e osservando come cambia l'output del modello26. Campionando molte di queste maschere, RISE costruisce una mappa di salienza probabilistica che indica quali pixel o regioni sono stati più influenti per la previsione26. In particolare, RISE non richiede l'accesso agli interni del modello e richiede solo la capacità di valutare il modello su input modificati, rendendolo una vera e propria scatola nera. Infine, un'area crescente di XAI indipendente dal modello si concentra sulle spiegazioni controfattuali. Una spiegazione controfattuale non enumera l'importanza delle funzionalità, ma risponde invece alla domanda: "Quale minima modifica all'input avrebbe alterato la previsione del modello?" 27. Gli algoritmi per generare controfattuali in genere eseguono una ricerca nello spazio di input (o in uno spazio latente appreso) per l'esempio più vicino che produce l'output desiderato, applicando al contempo realismo e sparsità nelle modifiche. In sintesi, i metodi XAI post-hoc sono ampiamente adottati perché possono essere applicati a modelli ad alte prestazioni dopo l'addestramento, combinando la potenza predittiva con un certo grado di trasparenza.
  2. Metodi di interpretabilità intrinseca
    I metodi intrinseci adottano un approccio fondamentalmente diverso: piuttosto che spiegare una scatola nera a posteriori, questi metodi rendono il modello interpretabile in base alla progettazione. Le reti neurali autoesplicative (SENN) sono un esempio notevole. Nel framework SENN proposto da Alvarez-Melis e Jaakola28, la rete neurale è strutturata per calcolare prima un insieme di attivazioni di concetti intermedi e poi generare una previsione come una funzione semplice e spiegabile di tali concetti. ProtoPNet (Prototypical Part Network) è una rete profonda che classifica gli input confrontandoli con un insieme di rappresentazioni prototipali apprese di ciascuna classe. Ad esempio, in un compito di classificazione delle immagini, un ProtoPNet potrebbe apprendere le patch dei prototipi e prendere decisioni trovando quali prototipi sono più attivati dall'input29. Nell'ambito dei modelli di sequenza e dei trasformatori, i meccanismi di attenzione sono stati sfruttati anche per l'interpretabilità intrinseca. Alcuni modelli vengono addestrati con un obiettivo di allineamento dell'attenzione, che incoraggia i pesi di attenzione del modello a corrispondere a caratteristiche importanti note o a regioni rilevanti etichettate dall'uomo. Guidando l'attenzione ad essere "giusta per le giuste ragioni"30, questi approcci producono modelli che non solo funzionano bene, ma hanno anche distribuzioni dell'attenzione che possono essere direttamente interpretate come spiegazioni. Inoltre, tali modelli forniscono spiegazioni che sono tipicamente fedeli per costruzione, poiché la spiegazione è generata dalla struttura interpretabile del modello, non da un'approssimazione post-hoc esterna31.

3. Tassonomia XAI

Per fornire una sintesi strutturata dello stato della ricerca, è stata condotta una revisione sistematica della letteratura utilizzando le linee guida PRISMA (Figura 2). Il processo includeva diversi database accademici (Scopus, Web of Science, IEEE Xplore, SpringerLink, PubMed, arXiv e MDPI) ed è stato guidato da una serie di termini di ricerca che combinano "intelligenza artificiale spiegabile", "interpretabilità", "ispezione visiva", "rilevamento di difetti", "rilevamento di anomalie", "produzione" e "imaging medico". I criteri di inclusione richiedevano che gli articoli applicassero o valutassero esplicitamente i metodi XAI in contesti di ispezione visiva (industriale o medica) e riportassero dettagli metodologici sufficienti. I criteri di esclusione hanno rimosso le proposte puramente teoriche senza attuazione, così come le opere al di fuori dell'ispezione visiva. La ricerca ha inizialmente recuperato 483 documenti. Dopo aver rimosso i duplicati e vagliato i titoli e gli abstract, 147 sono rimasti per la revisione del testo completo. L'applicazione dei criteri di inclusione/esclusione ha prodotto 75 studi primari, che costituiscono la base di questa revisione.

figure-protocol-2
Figura 2: Diagramma di flusso PRISMA del processo di revisione sistematica secondo le linee guida PRISMA. La figura illustra i record identificati, selezionati ed esclusi in ogni fase, ottenendo 75 studi primari inclusi nella revisione finale. Clicca qui per visualizzare una versione più grande di questa figura.

  1. Tassonomia applicata degli studi esaminati
    Sulla base del quadro concettuale introdotto nella Sezione 2 (approcci post-hoc e intrinseci), abbiamo perfezionato una tassonomia specifica per dominio derivata da questi 75 studi. Questa tassonomia applicata distingue i metodi in base alla loro implementazione nelle attività di ispezione visiva, come mostrato nella Figura 3.
  2. Distribuzione degli studi attraverso la tassonomia
    La distribuzione completa dei 75 studi è riassunta nella Tabella 1. Ogni studio è mappato alla sua categoria metodologica e al suo dominio di applicazione. Ciò fornisce una base empirica per l'analisi comparativa presentata nella Sezione 4.
  3. Sintesi
    Da questa revisione sistematica emergono diverse tendenze chiare. In primo luogo, i metodi post-hoc basati su gradiente rimangono i più ampiamente adottati nelle attività di ispezione industriale e medica grazie alla loro efficienza e facilità di integrazione. In secondo luogo, i metodi basati sulle perturbazioni forniscono attribuzioni di caratteristiche più ricche, ma sono meno comuni in ambienti industriali ad alto rendimento a causa delle esigenze computazionali. In terzo luogo, i metodi intrinseci stanno guadagnando terreno, ma rimangono sottorappresentati, con meno del 15% degli studi che li implementano.
    Ancorando questa tassonomia a una revisione riproducibile guidata da PRISMA e collegandola a un database strutturato di 75 studi, questa sezione stabilisce una base di prove convalidata. Questi risultati pongono le basi per l'analisi comparativa nella Sezione 4, in cui i metodi rappresentativi sono confrontati attraverso metriche standardizzate (fedeltà, robustezza, latenza e accuratezza della localizzazione).

figure-protocol-3
Figura 3: Proposta di tassonomia dei metodi XAI nelle attività di ispezione visiva. Fare clic qui per visualizzare una versione più ampia di questa figura.

Metodo XAIApproccio XAIStudiareIndustriaAnno
IntrinsecoModelli lineari e basati su regole32,33Medicina generale2015–2019
Basato su prototipi (ProtoPNet, Basato su casi, ProtoPNet deformabile) 29,34,35,36 Medicale, Industriale, Generale2018–2024
Guidato dal concetto (collo di bottiglia del concetto, giusto per ragioni giuste) 30,31,37 Generale, Applicazioni scientifiche2020–2021
Reti neurali autoesplicative (SENN)28Generale2018–2020
Rappresentazione districata (β-VAE),SOXAI38,39Generale2018
Vision Transformers (Interpretabilità intrinseca attraverso l'attenzione) 40,41,42,43,44,45 Visione artificiale, Produzione2020–2024
Post-hoc, specifico per il modelloFamiglia CAM 46,47,48,49,50,51,52, 53,54,55,56,57,58 Imaging medico, produzione, automotive, agricoltura, elettronica2018–2025
LRP (Propagazione della rilevanza a strati) 20,59,60,61,62 Generale, Imaging medico2015–2024
Metodi di gradiente e salienza (gradienti integrati, Smooth IG DeepLIFT, DeconvNet, T-Explainer, benchmark di salienza) 18,19,63,64,65,
66,67,68,69,70 		Generale, Imaging medico2013–2025
Attribuzione in Modelli Specializzati (SNNs, Transformers attention attribution) 71,72,73 Neuroscienze, Trasformatori di Visione2023–2025
Post-hoc, indipendente dal modelloLIME & Varianti (LIME, ELIME, MASALA), SHAP & Varianti (Tree SHAP),Finanza, prognostica e gestione della salute, cybersecurity, veicoli autonomi, ispezione industriale.2016–2025
Controfattuale 21,22,23,24,25,27,74,
75,76,77,78,79,80,81,
82,83,84,85,86
Spiegazioni
Metodi ibridiIntegrazione di più metodi XAI, tra cui (GradCAM, SHAP, LRP, LIME) 58,87,88,89,90,91,92 Ispezione industriale, sanità, produzione.2021–2025

Tabella 1: Classificazione di 75 studi esaminati per metodo, anno, settore e approccio XAI.

4. Metriche di valutazione per XAI

Le prestazioni di un modello di visione artificiale sono giudicate in base a metriche consolidate come accuratezza, precisione e richiamo. Tuttavia, valutare la spiegabilità delle decisioni di un modello è molto meno semplice. A differenza delle prestazioni predittive standard, non esiste una metrica universalmente accettata per la qualità delle spiegazioni dell'IA66. In altre parole, mentre l'accuratezza di un classificatore può essere misurata con precisione, non esiste una scala concordata per quantificare quanto sia "buona" una spiegazione per una data classificazione di immagini93. Questa disparità evidenzia una lacuna fondamentale nel campo della XAI: come valutare una spiegazione.

Lo sviluppo di criteri di valutazione XAI standardizzati si è rivelato eccezionalmente impegnativo. Una ragione è che l'interpretabilità e la qualità della spiegazione sono sfaccettate e dipendenti dal contesto e quindi resistono a un'unica metrica universale10. La valutazione di una spiegazione si basa in modo efficace su diversi fattori, tra cui il dominio dell'applicazione, la natura della spiegazione prodotta e il background dell'utente finale. Ad esempio, una tecnica di spiegazione adatta per una diagnosi di immagini mediche potrebbe essere valutata in modo diverso da quella utilizzata in un'attività di ispezione visiva industriale10.

In pratica, l'assenza di metriche standard ha portato i ricercatori a fare affidamento su una varietà di approcci di valutazione. Molti studi ricorrono ancora alla valutazione qualitativa e aneddotica dei metodi XAI94,95. È comune vedere gli autori presentare alcune mappe di salienza o mappe di calore e sostenere che queste sembrano ragionevoli (il cosiddetto test di "validità apparente")96. Tale ispezione visiva può essere persuasiva in senso narrativo, ma rimane soggettiva e insufficiente per un confronto rigoroso97. Ciò illustra la difficoltà di standardizzare le metriche XAI; In assenza di criteri concordati, i ricercatori propongono metriche su misura per ogni set di dati o caso d'uso.

Di conseguenza, la letteratura ora abbonda di diverse metriche di valutazione XAI volte a colmare questa lacuna98. Sono stati proposti numerosi quadri e misure, ciascuno dei quali si rivolge a un aspetto particolare di ciò che rende utile una spiegazione99. In generale, le metriche possono essere classificate in base al loro obiettivo principale. Le metriche basate sulla fedeltà giudicano una spiegazione in base a quanto bene riflette il processo decisionale del modello100. Al contrario, le metriche centrate sull'interpretabilità valutano quanto sia comprensibile e convincente la spiegazione per un osservatore umano101. Una terza categoria è quella delle metriche basate sulle attività, in cui la valutazione della spiegazione dipende dal suo impatto sulle prestazioni dell'utente finale102. Una quarta categoria è costituita da metriche orientate alla robustezza che valutano la coerenza dei risultati103. Infine, le metriche ibride combinano più dimensioni104.

Questa diversità di metriche indica gli aspetti della spiegabilità che i ricercatori considerano importanti, ma evidenzia anche la mancanza di un unico standard: ogni metrica cattura solo un angolo di qualità della spiegazione105. Di seguito, una serie di metriche di valutazione per XAI sono raggruppate in quattro categorie principali e riassunte nella Tabella 2.

Tipo di sistema metricoMetricoFormula / Definizione
FedeltàArea di delezione sotto la curva (AUC)26figure-protocol-4
sono le caratteristiche più importanti ; più basso = più fedele
Area di inserimento sotto la curva (AUC)26figure-protocol-5
più alto = più fedele
Punteggio di infedeltà103figure-protocol-6
più basso = migliore
RUGGITO106L'accuratezza diminuisce dopo la ripetizione del training senza funzioni "importanti"
RobustezzaIndice di stabilità107figure-protocol-7
più alto = più coerente
Lipschitz punteggio:103figure-protocol-8
più basso = più robusto
InterpretabilitàSparsità79figure-protocol-9
più basso = più semplice
Profondità surrogato79Profondità del surrogato interpretabile (ad esempio, albero decisionale);
meno profondo = più semplice
Specifico per attivitàintersezione su unione (IoU)108figure-protocol-10
sovrapposizione della maschera M e della verità di base G
Gioco di puntamento108Precisione = #hits / #samples
più alto = migliore
IbridoPunteggio composito104Combinazione ponderata di fedeltà, scarsità e robustezza

Tabella 2: Metriche di valutazione per XAI nell'ispezione visiva raggruppate in quattro categorie principali.

5. Analisi comparativa

In questa sezione, i metodi vengono confrontati tra set di dati pubblici come MVTec AD109 (>5.000 immagini di difetti con maschere a livello di pixel) e DeepPCB110 (1.500 immagini PCB con sei classi di difetti), CheXpert111 e ImageNet112 e valutati in base alle seguenti metriche: AUC di cancellazione/inserimento (fedeltà), accuratezza del gioco di puntamento (localizzazione), punteggi di stabilità (robustezza sotto perturbazioni) e latenza (costo di runtime).

Per i metodi basati su CAM (GradCAM, GradCAM++) i risultati su MVTec AD e DeepPCB mostrano che GradCAM raggiunge una fedeltà di 0,83-0,87 (AUC di inserimento ~0,68; <15% di calo di precisione in caso di cancellazione), sensibilità (0,80 - 0,85) e runtime <100 ms (~39 fotogrammi al secondo (FPS)). La localizzazione rimane moderata (IoU medio ≈0,28 @ δ=0,25; precisione di puntamento 86-87%). GradCAM++ migliora la localizzazione multi-istanza (IoU medio = 0,38) mantenendo una latenza simile (<120 ms) e una maggiore fiducia degli utenti (109,69/250 rispetto a 56,08/250 per GradCAM). Questi metodi sono efficienti ma spazialmente grossolani 47,113.

Per i metodi basati sulle perturbazioni (LIME, SHAP, RISE), le prestazioni variano tra i set di dati. Su MVTec AD, LIME raggiunge la fedeltà locale R² = 0,70-0,80 ma mostra una bassa robustezza (indice di stabilità <0,5), una latenza di 3-5 s/immagine e una localizzazione moderata (IoU = 0,25-0,35). SHAP applicato alla classificazione dei difetti PCB raggiunge attribuzioni coerenti (Δ log-odds = 0,2-0,3) con un forte allineamento umano (70-80%), ma è più lento (>1 s/immagine) e ha una localizzazione debole (IoU ≈0,02-0,03). RISE, confrontato su MS-COCO e replicato per MVTec AD, ha una media di 4.000-8.000 passaggi in avanti mascherati, producendo un'elevata robustezza (stabilità >0,7), fedeltà (0,78-0,82 AUC) e localizzazione superiore (Pointing-Game = 62,9% vs. 48,3% per GradCAM), ma con una latenza di 1-2 s/spiegazione 26,74,79,114.

Per i metodi di propagazione della pertinenza (LRP, DeepLIFT), le valutazioni su DeepPCB e CheXpert indicano che LRP raggiunge una fedeltà di 0,82-0,90, una sensibilità di ~0,85 e un IoU di localizzazione di 0,40-0,50. L'autonomia è di 100-200 ms per immagine, più lenta rispetto ai CAM ma fattibile per l'ispezione quasi in tempo reale. Nelle attività di radiologia CheXpert, gli studi degli esperti mostrano una sovrapposizione del >70% tra le heatmap LRP e le regioni clinicamente rilevanti, dimostrando l'interpretabilità tra i domini60.

Per i metodi basati sull'attenzione (trasformatori), i risultati per i modelli ViT addestrati su ImageNet e CheXpert, le mappe di attenzione grezze producono una fedeltà di 0,75-0,85 ma sono instabili sotto perturbazioni, con sensibilità di 0,70-0,75 e localizzazione modesta (IoU = 0,30-0,45). La fiducia umana è ~60-70%. Gli approcci adattati (flusso di attenzione, Transformer-LRP) migliorano le metriche causali, superando l'attenzione grezza nei punteggi di delezione/inserimento e puntamento 40.115.116.

Per i metodi basati su prototipi e controfattuali, le valutazioni in MVTec AD evidenziano che ProtoPNet raggiunge spiegazioni basate su esemplari in cui le previsioni sono giustificate da casi di difetto simili, aiutando il processo decisionale dell'operatore. Gli approcci basati su SOM raggruppano le caratteristiche dei difetti su mappe 2D, preservando le relazioni topologiche. I metodi controfattuali, testati sia su immagini di difetti PCB che su CheXpert, forniscono un ragionamento attuabile ("se la lunghezza della cricca è inferiore a 1 mm, la previsione passa alla normalità") ma richiedono un'ottimizzazione costosa e faticano con input ad alta risoluzione. Questi metodi si allineano fortemente con il ragionamento umano, ma scalano male 117,118,119.

Infine, quando si considerano i compromessi e la selezione pratica, i CAM dominano i flussi di lavoro critici per la latenza, ma rimangono grossolani. LRP bilancia fedeltà e runtime, eccellendo nell'analisi a livello di pixel. RISE fornisce la più forte fedeltà causale e localizzazione, ma con una latenza a livello di secondi. SHAP e LIME migliorano l'interpretabilità ma sono lenti e instabili. I prototipi e i controfattuali massimizzano l'allineamento umano, ma scalano male nell'ispezione ad alta risoluzione. I modelli basati su trasformatori richiedono adattamenti specializzati che vanno oltre l'attenzione grezza. Pertanto, nessun singolo metodo supera universalmente gli altri; Al contrario, la scelta del metodo deve riflettere le esigenze di set di dati, attività, latenza, budget e interpretabilità. Come mostrato nella Figura 4, il flusso di lavoro di selezione integra tre di questi benchmark (attività, latenza, interpretabilità) in una guida orientata alle attività per la scelta dei metodi XAI nell'ispezione visiva.

figure-protocol-11
Figura 4: Flusso di lavoro di selezione per l'adozione del metodo XAI. Si tratta di un diagramma di flusso decisionale che guida la selezione dei metodi XAI appropriati nell'ispezione visiva. Il flusso di lavoro considera il tipo di attività (classificazione, segmentazione, rilevamento delle anomalie, regressione), i vincoli di latenza e i dettagli della spiegazione e li collega a metodi rappresentativi. Clicca qui per visualizzare una versione più grande di questa figura.

6. Discussione

  1. Risultati comparativi
    La nostra analisi mostra che i metodi basati su gradienti come GradCAM e Layer-wise Relevance Propagation (LRP) eccellono nell'evidenziare le specifiche regioni dell'immagine più influenti nelle decisioni di una rete convoluzionale, rendendoli strumenti intuitivi per attività come la localizzazione di difetti o la classificazione di immagini mediche. Questi approcci sono efficienti poiché operano in un unico passaggio a ritroso, ma le loro spiegazioni sono spesso grossolane e possono diventare poco chiare in regioni complesse. Al contrario, le tecniche di attribuzione delle caratteristiche indipendenti dal modello, come SHAP e LIME, forniscono informazioni più quantitative sui contributi delle caratteristiche sondando il modello con input perturbati o adattando surrogati locali, ma a un costo computazionale più elevato rispetto a GradCAM.
    I metodi basati sull'attenzione sfruttano i pesi interni del modello per evidenziare le regioni di interesse all'interno del modello115. RISE, d'altra parte, rappresenta una strategia basata sulla randomizzazione che maschera e campiona gli input per produrre mappe di salienza flessibili, sebbene richieda migliaia di passaggi in avanti. Prese insieme, queste tecniche eccellono in circostanze specifiche, ma nessuna supera universalmente le altre26. Invece, la scelta del metodo dipende dall'architettura del modello, dall'attività di ispezione visiva, dai requisiti di latenza e dal tipo di informazioni necessarie ai responsabili delle decisioni.
  2. Casi di studio
    Di seguito sono riportati casi di studio del mondo reale che implementano la XAI sia nel settore medico che in quello industriale: nel settore sanitario, i modelli di rilevamento della polmonite e del COVID-19 addestrati su radiografie del torace e scansioni TC sono stati spiegati con GradCAM e LIME, e i radiologi negli studi sugli utenti hanno costantemente preferito GradCAM perché le sue regioni evidenziate erano allineate con la patologia prevista come gli infiltrati polmonari120. Allo stesso modo, nella patologia digitale per il cancro della testa e del collo, le previsioni della CNN supportate da GradCAM e CAM ad alta risoluzione hanno evidenziato cluster di cellule maligne che i patologi hanno confermato come clinicamente rilevanti, dimostrando che le spiegazioni hanno rafforzato sia l'accuratezza clinica che la fiducia121.
    Nel settore manifatturiero, XAI ha fatto la differenza in termini di precisione e spiegabilità. Una delle principali applicazioni è il rilevamento di oggetti estranei su immagini a raggi X di pneumatici utilizzando una rete neurale convoluzionale basata sull'architettura Xception. Attraverso l'inclusione della mappatura di attivazione della classe ponderata a gradiente (GradCAM), il sistema ha raggiunto un'accuratezza di classificazione superiore al 99% e ha prodotto mappe di calore che indicano le regioni precise all'interno dell'immagine responsabili delle previsioni. Queste spiegazioni visive hanno permesso agli ingegneri del controllo qualità di verificare che l'attenzione del modello fosse rivolta alle anomalie legittime all'interno del supporto strutturale del pneumatico e non agli artefatti irrilevanti, migliorando notevolmente la fiducia e facilitando l'implementazione in ambienti di produzione ad alto rischio48.
    Nell'industria elettronica, l'approccio SolderNet mostra l'integrazione di XAI nell'ispezione dei difetti a livello di pixel. Il metodo basato su CNN è stato sviluppato per l'ispezione dei giunti di saldatura su circuiti stampati, un'attività in cui sono necessarie elevata precisione e spiegabilità. Con l'applicazione di GradCAM e Layer-wise Relevance Propagation (LRP), il metodo ha estratto mappe di salienza che hanno evidenziato i pixel responsabili di specifiche classificazioni dei difetti. Grazie a tale spiegabilità, l'operatore è stato in grado di distinguere i veri e i falsi positivi e di trarre informazioni sulle modalità di guasto che in precedenza sarebbero state le uscite della scatola nera39. Questi casi mostrano che XAI è apprezzato quando le sue spiegazioni si allineano con il ragionamento degli esperti, ma sottoutilizzato quando le spiegazioni sono instabili, grossolane o impraticabili dal punto di vista computazionale.
  3. Limiti delle evidenze attuali
    Nonostante questi progressi, persistono diverse limitazioni. In primo luogo, la maggior parte degli studi empirici si basa su set di dati pubblici come MVTec AD per l'ispezione industriale o VinDR-CXR122 per l'imaging medico, che potrebbero non rappresentare completamente gli ambienti del mondo reale di fabbriche o ospedali. In secondo luogo, la valutazione rimane frammentata: la fedeltà, la robustezza e l'interpretabilità sono misurate in modo incoerente tra gli studi, spesso con definizioni ad hoc e senza soglie standardizzate. In terzo luogo, molte opere mancano di convalida umana. Sebbene metriche come l'AUC dell'eliminazione, l'accuratezza del gioco di puntamento o l'IoU di localizzazione forniscano risultati quantitativi, non confermano che queste spiegazioni migliorino effettivamente il processo decisionale dell'utente. Infine, solo ~8% degli studi di garanzia della qualità basati sull'intelligenza artificiale nel settore manifatturiero integra XAI nel proprio flusso di lavoro123. Ciò evidenzia il divario pratico nell'adozione, anche se questa statistica varia a seconda del settore e della metodologia e potrebbe non essere accurata.
  4. Implicazioni pratiche per gli operatori
    Per i praticanti, emergono diverse implicazioni. I metodi basati su gradiente rimangono la scelta più pratica per le attività di ispezione in tempo reale, in quanto forniscono spiegazioni con una bassa latenza (~100 ms per immagine) e sono facili da implementare. Gli approcci basati sulle perturbazioni, come SHAP o RISE, hanno una latenza più elevata rispetto ai metodi basati su gradiente, ma sono più adatti ai domini in cui l'attribuzione granulare supera la latenza, come l'assistenza sanitaria, dove l'accuratezza ha la precedenza sulla velocità. Gli approcci basati sull'attenzione sono utili con le architetture dei trasformatori, ma richiedono un'attenta interpretazione poiché l'attenzione grezza non sempre fornisce una spiegazione chiara. Al di là dei compromessi tecnici, il successo dell'adozione dipende in larga misura dall'integrazione, dalla formazione degli utenti e dalla dimostrazione del valore clinico dell'interpretabilità. Come dimostrano i casi di studio, le spiegazioni acquisiscono valore solo quando si allineano chiaramente con le competenze del settore e aiutano i professionisti a verificare o sfidare le previsioni dell'IA.
  5. Direzioni future della ricerca
    La ricerca futura dovrebbe dare priorità a diverse direzioni attuabili:
    Standardizzazione dei protocolli di valutazione: Stabilisci linee guida per la creazione di report riproducibili per le metriche chiave, tra cui l'AUC di eliminazione/inserimento, l'accuratezza del gioco di puntamento, gli indici di stabilità e la latenza.
    Set di dati di benchmark specifici del dominio: Sviluppa set di dati curati per l'ispezione visiva industriale e medica con annotazioni di base per ridurre l'eccessiva dipendenza da set di dati pubblici ristretti.
    Convalida incentrata sull'uomo: Espandere gli studi che misurano se le spiegazioni XAI migliorano la qualità delle decisioni, la fiducia degli utenti e la collaborazione uomo-IA oltre le metriche proxy
    Analisi costi-benefici: Conduci studi di implementazione rigorosi per quantificare il valore aziendale e clinico dell'integrazione di XAI nei flussi di lavoro di ispezione visiva.

Accesso limitato. Accedi o avvia una prova gratuita per visualizzare questo contenuto.

Conclusioni

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Questa revisione ha esaminato 75 studi di XAI nell'ispezione visiva, ottenendo una tassonomia di metodi post-hoc e intrinseci e un'analisi comparativa basata su benchmark. I risultati confermano che nessun singolo metodo supera universalmente gli altri: gli approcci basati su gradienti come GradCAM e LRP sono efficienti per la localizzazione dei difetti in tempo reale, ma le loro spiegazioni possono essere grossolane in regioni complesse. I metodi basati sulle perturbazioni come SHAP, LI...

Accesso limitato. Accedi o avvia una prova gratuita per visualizzare questo contenuto.

Dichiarazioni

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Gli autori dichiarano che non sussistono conflitti di interesse in merito alla pubblicazione di quest'opera.

Ringraziamenti

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

L'autore (o gli autori) dichiara che questo lavoro non ha ricevuto alcuna sovvenzione specifica da alcuna agenzia di finanziamento nei settori pubblico, commerciale o senza scopo di lucro.

Accesso limitato. Accedi o avvia una prova gratuita per visualizzare questo contenuto.

Riferimenti

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,
  1. Alzarooni, A., et al. Anomaly detection for industrial applications, its challenges, solutions, and future directions: a review. IEEE Sens J. XX. (1), 1(2025).
  2. Hardan, F., Almusawi, A. R. J. Developing an automated vision system for maintaing social distancing to cure the pandemic. Al-Khwarizmi Eng J. 18 (1), 38-50 (2022).
  3. Terasaki, N., Fujio, Y. Mechanoluminescent visualization of crack propagation for joint evaluation. J Vis Exp. (191), e64118(2023).
  4. Al-Hamadani, S., Al-Darraji, I. Warehouse in Industry 4.0 based drone, computer vision, and artificial intelligence technologies: a literature review. Proc Eng Sci. 7 (1), 517-526 (2025).
  5. Al-Jubori, H. N., Izzat, A. D., Jerbi, H. Defect detection using thermography camera techniques: a review. Al-Khwarizmi Eng J. 20 (4), 70-88 (2024).
  6. Al-Hamadani, S., Al-Darraji, I., Jerbi, H. Improving barcode vision scanning process using a drone-based tracking PID controller for warehouse in Industry 4.0. Al-Khwarizmi Eng J. 21 (2), 72-92 (2025).
  7. Al-Jubori, H. N., Al-Darraji, I. Tools and process of defect detection in automated manufacturing systems. EAI Endorsed Trans Scalable Inf Syst. 10 (6), e4000(2023).
  8. Alaa, T., et al. Automated detection of defects on metal surfaces using vision transformers. , Published online October 6, 2024. Accessed August 1 (2025).
  9. Moosavi, S., et al. Explainable AI in manufacturing and industrial cyber-physical systems: a survey. Electronics. 13 (17), 3497(2024).
  10. Nauta, M., et al. From anecdotal evidence to quantitative evaluation methods: a systematic review on evaluating explainable AI. ACM Comput Surv. 55 (13), 1-42 (2023).
  11. Cheng, Z., et al. A comprehensive review of explainable artificial intelligence (XAI) in computer vision. Sensors. 25 (13), 4166(2025).
  12. Barredo Arrieta, A., et al. Explainable artificial intelligence (XAI): concepts, taxonomies, opportunities and challenges toward responsible AI. Inf Fusion. 58, 82-115 (2020).
  13. Kouchaki, S., et al. Survey of explainable AI techniques in healthcare. Sensors. 23 (2), 634(2023).
  14. Laugel, T., et al. The dangers of post-hoc interpretability: unjustified counterfactual explanations. Proc Int Joint Conf Artif Intell. , 2801-2807 (2019).
  15. Slack, D., et al. Reliable post hoc explanations: modeling uncertainty in explainability. Adv Neural Inf Process Syst. 33, 9391-9404 (2020).
  16. Cesarini, M., et al. Explainable AI for text classification: lessons from a comprehensive evaluation of post hoc methods. Cognit Comput. 16 (6), 3077-3095 (2024).
  17. Mohamed Musthafa, M., et al. Enhancing brain tumor detection in MRI images through explainable AI using Grad-CAM with ResNet-50. BMC Med Imaging. 24 (1), 1-19 (2024).
  18. Sundararajan, M., Taly, A., Yan, Q. Axiomatic attribution for deep networks. Proc Int Conf Mach Learn. 70, 5109-5118 (2017).
  19. Shrikumar, A., Greenside, P., Kundaje, A. Learning important features through propagating activation differences. Proc Int Conf Mach Learn. 70, 4844-4866 (2017).
  20. Bassi, P. R. A. S., et al. Improving deep neural network generalization and robustness to background bias via layer-wise relevance propagation optimization. Nat Commun. 15, 44371(2024).
  21. Knab, P., et al. Which LIME should I trust? Concepts, challenges, and solutions. arXiv preprint. , (2025).
  22. Garreau, D., von Luxburg, U. Explaining the explainer: a first theoretical analysis of LIME. Proc Mach Learn Res. 108, 1287-1296 (2020).
  23. Qian, J., et al. ELIME: exact local interpretable model-agnostic explanation. Eur J Artif Intell. , (2024).
  24. Salih, A. M., et al. A perspective on explainable artificial intelligence methods:SHAP and LIME . Adv Intell Syst. , (2024).
  25. Hermosilla, P., et al. Explainable AI for forensic analysis: a comparative study of SHAP and LIME in intrusion detection models. Appl Sci. 15 (13), 7329(2025).
  26. Petsiuk, V., Das, A., Saenko, K. RISE: randomized input sampling for explanation of black-box models. arXiv preprint. , (2018).
  27. Dandl, S., et al. Multi-objective counterfactual explanations. Lect Notes Comput Sci. 12269, 448-469 (2020).
  28. Alvarez-Melis, D., Jaakkola, T. S. Towards robust interpretability with self-explaining neural networks. Adv Neural Inf Process Syst. 31, 7775-7784 (2018).
  29. Donnelly, J., Barnett, A. J., Chen, C. Deformable ProtoPNet: an interpretable image classifier using deformable prototypes. Proc IEEE Conf Comput Vis Pattern Recognit. , 10255-10265 (2022).
  30. Ross, A. S., Hughes, M. C., Doshi-Velez, F. Right for the right reasons: training differentiable models by constraining their explanations. Proc Int Joint Conf Artif Intell. , 2662-2670 (2017).
  31. Schramowski, P., et al. Making deep neural networks right for the right scientific reasons by interacting with their explanations. Nat Mach Intell. 2 (8), 476-486 (2020).
  32. Rudin, C. Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nat Mach Intell. 1 (5), 206-215 (2019).
  33. Letham, B., et al. Interpretable classifiers using rules and Bayesian analysis: building a better stroke prediction model. Ann Appl Stat. 9 (3), 1350-1371 (2015).
  34. Barnett, A. J., et al. Interpretable mammographic image classification using case-based reasoning and deep learning. arXiv preprint. , (2021).
  35. Narayanan, A., Bergen, K. J. Prototype-based methods in explainable AI and emerging opportunities in the geosciences. arXiv preprint. , (2024).
  36. Chen, C., et al. This looks like that: deep learning for interpretable image recognition. Adv Neural Inf Process Syst. 32, 8928-8939 (2019).
  37. Koh, P. W., et al. Concept bottleneck models. Proc Int Conf Mach Learn. 119, 5294-5304 (2020).
  38. Burgess, C. P., et al. Understanding disentangling in β-VAE. arXiv preprint. , (2018).
  39. Gunraj, H., et al. SolderNet: towards trustworthy visual inspection of solder joints in electronics manufacturing using explainable artificial intelligence. Proc AAAI Conf Artif Intell. 37, 15668-15674 (2023).
  40. Dosovitskiy, A., et al. An image is worth 16×16 words: transformers for image recognition at scale. arXiv preprint. , (2020).
  41. Khan, S., et al. Transformers in vision: a survey. ACM Comput Surv. 54 (10), 1-41 (2021).
  42. Yu, L., et al. eX-ViT: a novel explainable vision transformer for weakly supervised semantic segmentation. Pattern Recognit. 142, 109666(2023).
  43. Alber, M., et al. Evaluating vision transformer models for visual quality control in industrial manufacturing. Lect Notes Comput Sci. Bifet, A., et al. 14950, 1-15 (2024).
  44. Stassin, S., et al. Explainability and evaluation of vision transformers: an in-depth experimental study. Electronics. 13 (1), 175(2024).
  45. Zhai, Y., et al. A lightweight transformer with linear self-attention for defect recognition. Electron Lett. 60 (17), e13292(2024).
  46. Dhore, V., et al. Enhancing explainable AI: a hybrid approach combining Grad-CAM and LRP for CNN interpretability. arXiv preprint. , (2024).
  47. Chattopadhay, A., et al. Grad-CAM++: generalized gradient-based visual explanations for deep convolutional networks. Proc IEEE Winter Conf Appl Comput Vis. , 839-847 (2018).
  48. Saleh, R. A. A., et al. Advancing tire safety: explainable artificial intelligence-powered foreign object defect detection with Xception networks and Grad-CAM interpretation. Appl Sci. 14 (10), 4267(2024).
  49. Meister, S., et al. Investigations on explainable artificial intelligence methods for the deep learning classification of fibre layup defect in the automated composite manufacturing. Compos Part B Eng. 224, 109160(2021).
  50. Luo, X., Alzahrani, M. Automated tomato defect detection using CNN feature fusion for enhanced classification. Processes. 13 (1), 115(2025).
  51. Rahimunnisa, K. Textile fabric defect detection. J Innov Image Process. 4 (3), 165-172 (2022).
  52. Shin, H., et al. Visualization for explanation of deep learning-based defect detection model using class activation map. Comput Mater Contin. 75 (3), 4753-4766 (2023).
  53. Yue, H., et al. ASOD: attention-based salient object detector for strip steel surface defects. Electronics. 14 (5), 831(2025).
  54. Saleh, R. A. A., Ertunç, H. M. Explainable attention-based fused convolutional neural network (XAFCNN) for tire defect detection: an industrial case study. Eng Res Express. 6 (1), 015027(2024).
  55. Leem, S., Seo, H. Attention guided CAM: visual explanations of vision transformer guided by self-attention. Proc AAAI Conf Artif Intell. 38 (4), 2956-2964 (2024).
  56. Ibrahim, R., Shafiq, M. O. Augmented Score-CAM: high-resolution visual interpretations for deep neural networks. Knowl Based Syst. 252, 109287(2022).
  57. Clement, T., et al. XAI-enhanced semantic segmentation models for visual quality inspection. Proc IEEE Int Conf Consumer Electron. , 1-4 (2024).
  58. Riedel, H., et al. Automated quality control of vacuum insulated glazing by convolutional neural network image classification. Autom Constr. 135, 104144(2022).
  59. Böhle, M., et al. Layer-wise relevance propagation for explaining deep neural network decisions in MRI-based Alzheimer's disease classification. Front Aging Neurosci. 10, 194(2019).
  60. Bach, S., et al. On pixel-wise explanations for non-linear classifier decisions by layer-wise relevance propagation. PLoS One. 10 (7), e0130140(2015).
  61. Dieter, T. R., Zisgen, H. Evaluation of the explanatory power of layer-wise relevance propagation using adversarial examples. Neural Process Lett. 55 (7), 8531-8550 (2023).
  62. Hoefler, M. A., et al. XAI-guided insulator anomaly detection for imbalanced datasets. arXiv. , (2024).
  63. Kares, F., et al. What makes for a good saliency map? Comparing strategies for evaluating saliency maps in explainable AI (XAI). arXiv preprint. , (2025).
  64. Yona, G., Greenfeld, D. Revisiting sanity checks for saliency maps. arXiv preprint. , (2021).
  65. Zeiler, M. D., Fergus, R. Visualizing and understanding convolutional networks. Eur Conf Comput Vis. 8689, 818-833 (2014).
  66. Xu-Darme, R., et al. On the stability, correctness and plausibility of visual explanation methods based on feature importance. ACM Int Conf Proc Ser. , 119-125 (2023).
  67. Ortigossa, E. S., et al. T-Explainer: a model-agnostic explainability framework based on gradients. arXiv preprint. , (2024).
  68. Singh, M., et al. Attributional robustness training using input-gradient spatial alignment. Lect Notes Comput Sci. 12372, 515-533 (2019).
  69. Cerekci, E., et al. Quantitative evaluation of saliency-based explainable artificial intelligence methods in deep learning-based mammogram analysis. Eur J Radiol. 173, 111356(2024).
  70. Meister, S., et al. Cross-evaluation of a parallel operating SVM-CNN classifier for reliable internal decision-making processes in composite inspection. J Manuf Syst. 60, 620-639 (2021).
  71. Bitar, A., et al. Gradient-based feature-attribution explainability methods for spiking neural networks. Front Neurosci. 17, 1153999(2023).
  72. Qiang, Y., et al. Interpretability-aware vision transformer. arXiv preprint. , (2023).
  73. Bousselham, W., et al. LeGrad: an explainability method for vision transformers via feature formation sensitivity. arXiv preprint. , (2025).
  74. Lundberg, S. M., Lee, S. I. A unified approach to interpreting model predictions. Adv Neural Inf Process Syst. 30, (2017).
  75. Khan, F. S., et al. Model-agnostic explainable artificial intelligence methods in finance: a systematic review, recent developments, limitations, challenges and future directions. Artif Intell Rev. 58, 1-65 (2025).
  76. Nazim, S., et al. Advancing malware imagery classification with explainable deep learning: a state-of-the-art approach using SHAP LIME and Grad-CAM. PLoS One. 20 (5), e0318542(2025).
  77. Solís-Martín, D., et al. On the soundness of XAI in prognostics and health management (PHM). Information. 14 (5), 256(2023).
  78. Biecek, P., Burzykowski, T. Local interpretable model-agnostic explanations (LIME). In:Explanatory Model Analysis. , 107-123 (2021).
  79. Ribeiro, M. T., Singh, S., Guestrin, C. 34;Why should I trust you?" Explaining the predictions of any classifier. Proc ACM SIGKDD Int Conf Knowl Discov Data Min. , 1135-1144 (2016).
  80. Tahir, H. A., et al. A novel hybrid XAI solution for autonomous vehicles: real-time interpretability through LIME-SHAP integration. Sensors. 24 (21), 6776(2024).
  81. Goldman, C. V., et al. Explaining learning models in manufacturing processes. Procedia Comput Sci. 180, 259-268 (2021).
  82. Emmanouilidis, C., Rica, E. Visual quality control via explainable AI and the case of human in the AI loop. In: Lect Notes Mech Eng. , 252-260 (2023).
  83. Huang, M., et al. An interpretable approach using hybrid graph networks and explainable AI for intelligent diagnosis recommendations in chronic disease care. Biomed Signal Process Control. 91, 105913(2024).
  84. Dardouillet, P., et al. Explainability of image semantic segmentation through SHAP values. Data. 7 (8), 255(2022).
  85. Saifullah, S., et al. The privacy-explainability trade-off: unraveling the impacts of differential privacy and federated learning on attribution methods. Front Artif Intell. 7, 1236947(2024).
  86. Velmurugan, M., et al. Developing guidelines for functionally-grounded evaluation of explainable artificial intelligence using tabular data. Eng Appl Artif Intell. 141, 109772(2025).
  87. Wells, L., Bednarz, T. Explainable AI and reinforcement learning-a systematic review of current approaches and trends. Front Artif Intell. 4, 550030(2021).
  88. Rožanec, J. M., et al. Adaptive explainable artificial intelligence for visual defect inspection. Procedia Comput Sci. 232, 3034-3043 (2024).
  89. Nguyen, H. T. T., et al. XEdgeAI: a human-centered industrial inspection framework with data-centric explainable edge AI approach. Inf Fusion. 116, 102782(2025).
  90. Han, C., et al. Visual coating inspection framework via self-labeling and multi-stage deep learning strategies. J Intell Manuf. 35, 1-18 (2024).
  91. Kotsiopoulos, T., et al. Revolutionizing defect recognition in hard metal industry through AI explainability, human-in-the-loop approaches and cognitive mechanisms. Expert Syst Appl. 255, 124839(2024).
  92. Forcher, B., et al. Evaluation of explainable AI methods for classification tasks in visual inspection. Proc XAI Workshop (Late-Breaking Work, Demos, Doctoral Consortium). , 77-82 (2023).
  93. Miller, T. Explanation in artificial intelligence: insights from the social sciences. Artif Intell. 267, 1-38 (2019).
  94. Jacovi, A., Goldberg, Y. Towards faithfully interpretable NLP systems: how should we define and evaluate faithfulness. Proc Annu Meet Assoc Comput Linguist. 58, 4198-4205 (2020).
  95. Adebayo, J., et al. Sanity checks for saliency maps. Adv Neural Inf Process Syst. 31, 9505-9515 (2018).
  96. Doshi-Velez, F., Kim, B. Considerations for evaluation and generalization in interpretable machine learning. Proc Explainable and Interpretable Models in Computer Vision and Machine Learning. , 3-17 (2018).
  97. Lage, I., et al. An evaluation of the human-interpretability of explanation. arXiv preprint. , (2019).
  98. Theunissen, M., Browning, J. Putting explainable AI in context: institutional explanations for medical AI. Ethics Inf Technol. 24 (2), 1-10 (2022).
  99. Hoffman, R. R., et al. Measures for explainable AI: explanation goodness, user satisfaction, mental models, curiosity, trust, and human-AI performance. Front Comput Sci. 5, 1096257(2023).
  100. Hedström, A., et al. Quantus: an explainable AI toolkit for responsible evaluation of neural network explanations and beyond. J Mach Learn Res. 24, 1-11 (2023).
  101. Mohseni, S., et al. A multidisciplinary survey and framework for design and evaluation of explainable AI systems. ACM Trans Interact Intell Syst. 11 (3-4), 1-45 (2021).
  102. Finzel, B., et al. Domain-specific evaluation of visual explanations for application-grounded facial expression recognition. Lect Notes Comput Sci. 14065, 31-44 (2023).
  103. Yeh, C. K., et al. On the (in)fidelity and sensitivity for explanations. Adv Neural Inf Process Syst. 32, 10967-10978 (2019).
  104. Better metrics for evaluating explainable artificial intelligence. Rosenfeld, A. Proc Int Conf Autonomous Agents Multiagent Syst, , 45-53 (2021).
  105. Evaluation metrics for XAI: a review, taxonomy, and practical applications. Kadir, M. A., et al. Proc IEEE Int Conf Intell Eng Syst, , 111-124 (2023).
  106. Sankaran, K. Data science principles for interpretable and explainable AI. J Data Sci. 22, 1-27 (2024).
  107. Alvarez-Melis, D., Jaakkola, T. S. On the robustness of interpretability methods. arXiv preprint. , (2018).
  108. Zhang, Y., et al. Saliency-Bench: a comprehensive benchmark for evaluating visual explanations. arXiv preprint. , (2025).
  109. Bergmann, P., et al. The MVTec anomaly detection dataset: a comprehensive real-world dataset for unsupervised anomaly detection. Int J Comput Vis. 129 (4), 1038-1059 (2021).
  110. Tang, S., et al. Online PCB defect detector on a new PCB defect dataset. arXiv preprint. , (2019).
  111. CheXpert: a large chest radiograph dataset with uncertainty labels and expert comparison. Irvin, J., et al. Proc AAAI Conf Artif Intell, 33, 590-597 (2019).
  112. ImageNet: a large-scale hierarchical image database. Deng, J., et al. Proc IEEE Conf Comput Vis Pattern Recognit, , 248-255 (2009).
  113. Selvaraju, R. R., et al. Grad-CAM: visual explanations from deep networks via gradient-based localization. Int J Comput Vis. 128 (2), 336-359 (2020).
  114. Black-box explanation of object detectors via saliency maps. Petsiuk, V., et al. Proc IEEE Conf Comput Vis Pattern Recognit, , 11438-11447 (2020).
  115. Attention is not explanation. Jain, S., Wallace, B. C. Proc Conf North Am Chapter Assoc Comput Linguist, , 3543-3556 (2019).
  116. Transformer interpretability beyond attention visualization. Chefer, H., et al. Proc IEEE Conf Comput Vis Pattern Recognit, , 782-791 (2021).
  117. Wachter, S., et al. Counterfactual explanations without opening the black box: automated decisions and the GDPR. SSRN Electron J. , (2017).
  118. Deep learning for case-based reasoning through prototypes: a neural network that explains its predictions. Li, O., et al. Proc AAAI Conf Artif Intell, 32, 3530-3537 (2018).
  119. Counterfactuals in explainable artificial intelligence (XAI): evidence from human reasoning. Byrne, R. M. J. Proc Int Joint Conf Artif Intell, , 6276-6282 (2019).
  120. Ihongbe, I. E., et al. Evaluating explainable artificial intelligence (XAI) techniques in chest radiology imaging through a human-centered lens. PLoS One. 19 (10), e0308758(2024).
  121. Dörrich, M., et al. Explainable convolutional neural networks for assessing head and neck cancer histopathology. Diagn Pathol. 18 (1), 121(2023).
  122. Nguyen, H. Q., et al. VinDr-CXR: an open dataset of chest X-rays with radiologist's annotations. Sci Data. 9, 429(2022).
  123. Lee, D. J., et al. A systematic literature review on artificial intelligence and explainable artificial intelligence for visual quality assurance in manufacturing. Electronics. 12 (22), 4572(2023).

Accesso limitato. Accedi o avvia una prova gratuita per visualizzare questo contenuto.

Ristampe e permessi

Richiedi il permesso di riutilizzare il testo o le figure di questo articolo JoVE

Richiedi permesso

Tag

Tecniche di XAIIspezione IndustrialeIspezione MedicaMetodi del GradienteMetodi di PropagazioneMetodi di PerturbazioneModelli SurrogateArchitetture di Self Attention

Articoli correlati