<div class="csl-bib-body">
<div class="csl-entry">Schaubmaier, J. (2026). <i>An Investigative Framework for Interactive Clinical Explainable AI</i> [Diploma Thesis, Technische Universität Wien]. reposiTUm. https://doi.org/10.34726/hss.2026.133686</div>
</div>
-
dc.identifier.uri
https://doi.org/10.34726/hss.2026.133686
-
dc.identifier.uri
http://hdl.handle.net/20.500.12708/232183
-
dc.description
Arbeit an der Bibliothek noch nicht eingelangt - Daten nicht geprüft
-
dc.description
Abweichender Titel nach Übersetzung der Verfasserin/des Verfassers
-
dc.description.abstract
Diese Diplomarbeit präsentiert ein interaktives Framework für erklärbare künstliche Intelligenz in der klinischen Entscheidungsunterstützung. Das Framework kombiniert etablierte Verfahren für Post hoc Erklärungen mit selbsterklärenden prototypbasierten Modellen und generativen Methoden zur Untersuchung des Modellverhaltens. Es integriert SHAP, Grad CAM, ein deformierbares Prototypical Part Network, diffusionsbasierte kontrafaktische Erklärungen für Thoraxröntgenbilder sowie einen durch Large Language Models gestützten Clinical Auditor, der Prototypenbefunde in standardisierte klinische Sprache überträgt.Das System wird anhand von zwei klinischen Aufgaben untersucht. Die erste Aufgabe ist die multimodale Einschätzung der Alzheimererkrankung unter Verwendung von Bilddaten und strukturierten Patientendaten. Die zweite Aufgabe ist die Klassifikation von Thoraxerkrankungen auf Röntgenbildern. Die Evaluation folgt einem Mixed Methods Ansatz. Quantitative Analysen bewerten Modellleistung, Kalibrierung und Erklärungstreue. Ergänzend beurteilen fünf klinische Fachleute die klinische Brauchbarkeit, die anatomische Plausibilität und die Nachvollziehbarkeit der Erklärungen.Die Ergebnisse zeigen, dass Interpretierbarkeit und Vertrauenswürdigkeit nicht allein aus der Modellleistung folgen. Gegenüber vergleichbaren Blackbox Modellen erreichen die selbsterklärenden Modelle eine geringfügig niedrigere Vorhersageleistung. Gleichzeitig machen Prototypen und kontrafaktische Erklärungen Shortcut Learning und fehlerhafte Annotationen sichtbar, die bei einer ausschließlichen Betrachtung der Vorhersageleistung verborgen bleiben. Das Framework unterstützt die systematische Untersuchung erklärbarer medizinischer KI und dient als interaktive Umgebung zur Modellevaluierung. Es ist als investigatives und formatives Framework konzipiert und stellt weder eine klinisch validierte Anwendung noch einen Nachweis einer generellen Überlegenheit selbsterklärender Verfahren dar.
de
dc.description.abstract
This thesis presents an interactive framework for explainable artificial intelligence in clinical decision support. It combines established methods for post hoc explanation with intrinsically explainable models and generative methods to support the investigation of model behaviour. The framework integrates SHAP, Grad CAM, a deformable Prototypical Part Network, counterfactual explanations based on diffusion for chest radiographs, and a Clinical Auditor based on a Large Language Model that translates prototype evidence into standardised clinical terminology.The system is evaluated on two clinical tasks. The first is the multimodal assessment of Alzheimer disease using medical images together with structured patient information. The second is the classification of thoracic diseases from chest radiographs. The evaluation follows a mixed methods design. Quantitative experiments measure predictive performance, calibration, and explanation faithfulness. A qualitative study with five clinical experts assesses the clinical usefulness, anatomical plausibility, and traceability of the explanations.The results show that interpretability and trustworthiness do not follow from predictive performance alone. Compared with matched black box models, the explainable models achieve slightly lower predictive performance. At the same time, explanations based on prototypes and counterfactual examples reveal shortcut learning and annotation errors that remain hidden when only predictive metrics are considered. The proposed framework supports the systematic investigation of explainable medical AI and provides an interactive environment for model evaluation. It is intended as an investigative and formative framework and does not claim a clinically validated application or a general superiority of explainable methods.
en
dc.language
English
-
dc.language.iso
en
-
dc.rights.uri
http://rightsstatements.org/vocab/InC/1.0/
-
dc.subject
XAI
de
dc.subject
ProtoPNet
de
dc.subject
Diffusionsmodell
de
dc.subject
Klinische Entscheidungsunterstützung
de
dc.subject
Multimodale Daten
de
dc.subject
Medizinische Bildanalyse
de
dc.subject
Kontrafaktische Fälle
de
dc.subject
Alzheimer
de
dc.subject
Thoraxerkrankungen
de
dc.subject
XAI
en
dc.subject
ProtoPNet
en
dc.subject
Diffusion model
en
dc.subject
clinical decision support
en
dc.subject
multimodal data
en
dc.subject
medical imaging
en
dc.subject
counterfactuals
en
dc.subject
Alzheimer’s disease
en
dc.subject
thoracic disease
en
dc.title
An Investigative Framework for Interactive Clinical Explainable AI
en
dc.title.alternative
Ein investigatives Framework für interaktive klinische erklärbare KI
de
dc.type
Thesis
en
dc.type
Hochschulschrift
de
dc.rights.license
In Copyright
en
dc.rights.license
Urheberrechtsschutz
de
dc.identifier.doi
10.34726/hss.2026.133686
-
dc.contributor.affiliation
TU Wien, Österreich
-
dc.rights.holder
Julian Schaubmaier
-
dc.publisher.place
Wien
-
tuw.version
vor
-
tuw.thesisinformation
Technische Universität Wien
-
tuw.publication.orgunit
E193 - Institut für Visual Computing and Human-Centered Technology