Schaubmaier, J. (2026). An Investigative Framework for Interactive Clinical Explainable AI [Diploma Thesis, Technische Universität Wien]. reposiTUm. https://doi.org/10.34726/hss.2026.133686
Diese Diplomarbeit präsentiert ein interaktives Framework für erklärbare künstliche Intelligenz in der klinischen Entscheidungsunterstützung. Das Framework kombiniert etablierte Verfahren für Post hoc Erklärungen mit selbsterklärenden prototypbasierten Modellen und generativen Methoden zur Untersuchung des Modellverhaltens. Es integriert SHAP, Grad CAM, ein deformierbares Prototypical Part Network, diffusionsbasierte kontrafaktische Erklärungen für Thoraxröntgenbilder sowie einen durch Large Language Models gestützten Clinical Auditor, der Prototypenbefunde in standardisierte klinische Sprache überträgt.Das System wird anhand von zwei klinischen Aufgaben untersucht. Die erste Aufgabe ist die multimodale Einschätzung der Alzheimererkrankung unter Verwendung von Bilddaten und strukturierten Patientendaten. Die zweite Aufgabe ist die Klassifikation von Thoraxerkrankungen auf Röntgenbildern. Die Evaluation folgt einem Mixed Methods Ansatz. Quantitative Analysen bewerten Modellleistung, Kalibrierung und Erklärungstreue. Ergänzend beurteilen fünf klinische Fachleute die klinische Brauchbarkeit, die anatomische Plausibilität und die Nachvollziehbarkeit der Erklärungen.Die Ergebnisse zeigen, dass Interpretierbarkeit und Vertrauenswürdigkeit nicht allein aus der Modellleistung folgen. Gegenüber vergleichbaren Blackbox Modellen erreichen die selbsterklärenden Modelle eine geringfügig niedrigere Vorhersageleistung. Gleichzeitig machen Prototypen und kontrafaktische Erklärungen Shortcut Learning und fehlerhafte Annotationen sichtbar, die bei einer ausschließlichen Betrachtung der Vorhersageleistung verborgen bleiben. Das Framework unterstützt die systematische Untersuchung erklärbarer medizinischer KI und dient als interaktive Umgebung zur Modellevaluierung. Es ist als investigatives und formatives Framework konzipiert und stellt weder eine klinisch validierte Anwendung noch einen Nachweis einer generellen Überlegenheit selbsterklärender Verfahren dar.
de
This thesis presents an interactive framework for explainable artificial intelligence in clinical decision support. It combines established methods for post hoc explanation with intrinsically explainable models and generative methods to support the investigation of model behaviour. The framework integrates SHAP, Grad CAM, a deformable Prototypical Part Network, counterfactual explanations based on diffusion for chest radiographs, and a Clinical Auditor based on a Large Language Model that translates prototype evidence into standardised clinical terminology.The system is evaluated on two clinical tasks. The first is the multimodal assessment of Alzheimer disease using medical images together with structured patient information. The second is the classification of thoracic diseases from chest radiographs. The evaluation follows a mixed methods design. Quantitative experiments measure predictive performance, calibration, and explanation faithfulness. A qualitative study with five clinical experts assesses the clinical usefulness, anatomical plausibility, and traceability of the explanations.The results show that interpretability and trustworthiness do not follow from predictive performance alone. Compared with matched black box models, the explainable models achieve slightly lower predictive performance. At the same time, explanations based on prototypes and counterfactual examples reveal shortcut learning and annotation errors that remain hidden when only predictive metrics are considered. The proposed framework supports the systematic investigation of explainable medical AI and provides an interactive environment for model evaluation. It is intended as an investigative and formative framework and does not claim a clinically validated application or a general superiority of explainable methods.
en
Additional information:
Arbeit an der Bibliothek noch nicht eingelangt - Daten nicht geprüft Abweichender Titel nach Übersetzung der Verfasserin/des Verfassers